在行政处罚案件中，若刚作出决定后又发现新的证据，一般情况下不能直接撤回原处罚决定并加重处罚，但存在例外情形。以下从不同角度进行详细分析：
一、一般原则：行政行为的确定力与公定力
行政处罚决定一旦作出，即具有确定力和公定力。确定力意味着该决定非经法定程序不得随意变更或撤销；公定力则指该决定在未被依法撤销前，被推定为合法有效，对行政机关和相对人均具有约束力。因此，行政机关不能仅凭新发现的证据就随意撤回原处罚决定并加重处罚，否则将破坏行政行为的稳定性和权威性。
二、例外情形：法定程序下的变更或撤销
尽管存在上述一般原则，但法律也规定了例外情形，允许行政机关在特定条件下变更或撤销原处罚决定。这些条件通常包括：
证据确实充分且影响原决定合法性：
- 若新发现的证据确实充分，且能够证明原处罚决定存在事实认定错误或法律适用不当，行政机关可以依法启动撤销或变更程序。
- 但需注意，这种变更或撤销必须基于严格的法定程序，如重新调查、听取当事人意见等，不能仅凭行政机关的单方面判断。
相对人同意或未提出异议：
- 在某些情况下，如果相对人同意变更处罚内容或未在法定期限内提出异议，行政机关可能考虑根据新证据调整处罚。
- 然而，这种调整仍需遵循法定程序，确保相对人的合法权益不受侵害。
法律、法规或规章的特别规定：
- 某些法律、法规或规章可能对行政处罚的变更或撤销作出特别规定。
- 行政机关在适用这些规定时，必须严格遵循其设定的条件和程序。
三、法律后果与风险提示
对行政机关的法律后果：
- 若行政机关未经法定程序随意撤回原处罚决定并加重处罚，可能构成违法行政行为，面临被撤销或确认违法的风险。
- 同时，行政机关还可能因违法行政行为而承担国家赔偿责任。
对相对人的风险提示：
- 相对人在面对行政机关可能变更或撤销处罚决定的情况时，应积极行使自己的陈述、申辩等权利，确保自己的合法权益不受侵害。
- 若相对人认为行政机关的变更或撤销行为违法，可以依法申请行政复议或提起行政诉讼。
四、建议与操作指南
行政机关应严格遵循法定程序：
- 在发现新证据后，行政机关应首先进行内部审查，评估新证据对原处罚决定的影响。
- 若决定变更或撤销原处罚决定，必须依法启动相应程序，如重新调查、听取当事人意见、作出书面决定等。
相对人应积极行使权利：
- 相对人在收到行政机关可能变更或撤销处罚决定的通知后，应及时行使自己的陈述、申辩等权利。
- 若对行政机关的决定不服，可以依法申请行政复议或提起行政诉讼，维护自己的合法权益。
如有具体案件或进一步疑问，可直接向我咨询。我将根据您的具体情况，提供更为详细和专业的法律建议。