当拒不改正时，实施行政处罚的情形主要包括以下几种：
违反行政法规定且拒不改正：
- 根据相关行政法律法规，当行为人违反行政管理秩序，且经行政机关责令改正后，仍拒不改正其违法行为的，行政机关可以依法实施行政处罚。例如，在环境保护、安全生产、市场监管等领域，行为人若违反相关规定，且在收到整改通知后未按时改正，行政机关将有权进行处罚。
持续违法状态且拒不改正：
- 若行为人的违法行为处于持续状态，且经行政机关多次督促或警告后，仍不停止或改正其违法行为的，行政机关可以视为拒不改正，并依法实施行政处罚。这种情况通常发生在需要行为人持续履行某种义务或停止某种行为的场景中，如非法占地、违法建设等。
拒绝接受行政处罚或拒不履行处罚决定：
- 当行为人因违法行为被行政机关处以行政处罚后，若拒绝接受处罚或拒不履行处罚决定（如拒绝缴纳罚款、拒绝拆除违法建筑等），行政机关可以依法采取进一步措施，包括但不限于强制执行、加处罚款或滞纳金等，以促使行为人履行处罚决定。
在实施行政处罚时，行政机关必须遵循法定程序，确保处罚的公正性、合法性和合理性。同时，行为人也有权依法进行陈述、申辩和申请听证等，以维护自己的合法权益。若对行政处罚决定不服，行为人还可以依法申请行政复议或提起行政诉讼。
请注意，具体的行政处罚情形和程序可能因不同领域的行政法律法规而有所差异。因此，在实际操作中，建议咨询相关领域的专业律师或法律机构，以获取更准确的法律意见和帮助。