行政单位自行撤回行政处罚决定的依据，主要基于行政行为的合法性缺陷或不适当性。以下是对此问题的详细分析：

一、合法性缺陷

行政行为的合法性是其存在和执行的基础。若行政处罚决定存在合法性缺陷，行政单位有权且应当撤回该决定。合法性缺陷主要包括以下几个方面：

1. 主体不合法：

   • 行政单位若不具备实施该行政处罚的法定主体资格，如超越职权范围或未获得相应授权，则其作出的行政处罚决定无效，应予以撤回。

2. 内容不合法：

   • 行政处罚决定的内容若违反法律法规的明确规定，如处罚种类、幅度超出法定范围，或处罚依据的法律条款错误，则该决定不合法，应予以撤回。

3. 程序不合法：

   • 行政单位在实施行政处罚过程中，若未遵循法定程序，如未履行告知义务、未组织听证、未听取当事人陈述申辩等，则该处罚程序违法，决定应予以撤回。

二、不适当性

除了合法性缺陷外，行政行为的不适当性也是行政单位撤回行政处罚决定的重要依据。不适当性主要指行政行为在合理性、公正性等方面存在明显问题，具体包括：

1. 不合理：

   • 行政处罚决定若明显不合理，如处罚畸重或畸轻，与违法行为的性质、情节和社会危害程度不相适应，则该决定不适当，应予以撤回。

2. 不公正：

   • 行政处罚决定若存在不公正现象，如对同类违法行为实施不同处罚，或对不同当事人实施不公平处罚，则该决定不公正，应予以撤回。

3. 不符合现行政策或不合时宜：

   • 行政处罚决定若与现行政策相悖，或因时代变迁而不再适用，则该决定不合时宜，应予以撤回。

4. 不符合善良风俗：

   • 行政处罚决定若违反社会公德或善良风俗，如对轻微违法行为实施过于严厉的处罚，则该决定不符合善良风俗，应予以撤回。

三、法律依据

行政单位撤回行政处罚决定的法律依据主要来源于《中华人民共和国行政处罚法》等相关法律法规。具体条款包括但不限于：

• 《中华人民共和国行政处罚法》第四条：公民、法人或者其他组织违反行政管理秩序的行为，应当给予行政处罚的，依照本法由法律、法规、规章规定，并由行政机关依照本法规定的程序实施。这要求行政处罚必须基于法定依据和程序。

• 《中华人民共和国行政处罚法》第七十五条：行政机关应当建立健全对行政处罚的监督制度。县级以上人民政府应当定期组织开展行政执法评议、考核，加强对行政处罚的监督检查，规范和保障行政处罚的实施。行政机关实施行政处罚应当接受社会监督。公民、法人或者其他组织对行政机关实施行政处罚的行为，有权申诉或者检举；行政机关应当认真审查，发现有错误的，应当主动改正。这赋予了行政机关自我纠正错误行政处罚决定的权力。

四、实践建议

在实际操作中，行政单位应严格遵循相关法律法规，确保处罚决定的合法性和合理性。同时，应建立健全内部监督机制，对处罚决定进行定期审查和评估。一旦发现处罚决定存在合法性缺陷或不适当性，应及时撤回并重新作出合法、合理的处罚决定。

如有任何关于行政处罚或相关法律问题的疑问，请直接向我咨询。我将以专业的法律知识和丰富的实践经验，为您提供全面、准确的法律解答。