行政处罚被确认违法但未撤销的情况下，行政处罚机关在特定条件下是可以做出撤销决定的，但通常需要遵循一定的程序和规定。以下从不同角度为您详细分析：

一、行政处罚撤销的法律依据与条件

根据《中华人民共和国行政处罚法》及相关法律规定，行政处罚的撤销通常基于以下条件：

1. 行政行为合法要件缺损：合法的行政行为需具备主体合法、内容合法、程序合法三要素。若行政处罚在任何一个或多个要件上存在缺损，该行政处罚即为可撤销的行政行为。

2. 行政行为不适当：不适当的行政行为，如不合理、不公正、不符合现行政策、不合时宜或不符合有关善良风俗等情形，也是可撤销的行政行为。

二、行政处罚机关自行撤销的程序与限制

1. 自行撤销的可能性：

   • 行政机关对自己作出的行政处罚决定，在符合法定撤销条件的情况下，是有权进行撤销的。但这一过程并非随意，而是需要严格遵循法定程序和规定。

2. 撤销程序：

   • 内部审查：行政机关在发现行政处罚决定可能存在违法或不当情形时，应首先进行内部审查，确认是否符合撤销条件。
   • 出具撤销决定书：若确认需要撤销，行政机关应向行政处罚相对人出具撤销行政处罚决定书，明确撤销的理由和依据。
   • 上级监督：在特定情况下，如行政机关未自行撤销违法行政处罚，上级行政机关或有关部门有权责令其改正，并对直接负责的主管人员和其他直接责任人员依法给予行政处分。

3. 限制条件：

   • 国家利益与社会公共利益考量：若撤销行政处罚将严重损害国家利益或社会公共秩序，行政机关可能基于公益优先原则维持处罚效力。
   • 信赖利益保护：当相对人基于对行政处罚的合理信赖已形成稳定法律关系时，为维护法律秩序安定性，行政机关可能不撤销该处罚。

三、行政处罚被确认违法但未撤销的后续处理

1. 行政复议与行政诉讼：

   • 若行政处罚被确认违法但未撤销，相对人可以通过行政复议或行政诉讼途径寻求救济。在复议或诉讼过程中，若复议机关或法院认为撤销处罚更为适宜，可以作出撤销决定。

2. 行政机关的主动纠正：

   • 即使在没有外部压力的情况下，行政机关在发现行政处罚决定违法后，也应主动纠正错误，包括撤销违法处罚。这是行政机关依法行政、维护法律尊严和相对人合法权益的必然要求。

四、建议与注意事项

1. 及时沟通：若您认为行政处罚违法且应撤销，建议及时与行政处罚机关沟通，表达您的诉求和理由。

2. 寻求法律救济：若沟通无果，您可以考虑通过行政复议或行政诉讼途径寻求法律救济。在此过程中，建议咨询专业律师以获取更全面的法律支持和指导。

3. 保留证据：在处理此类事务时，务必保留好相关证据材料，如行政处罚决定书、沟通记录等，以备不时之需。

如有任何疑问或需要进一步的法律帮助，请随时向我咨询。我将根据您的具体情况提供更为详细和针对性的法律建议。