行政机关在特定情况下是可以被其他行政机关处罚的。
首先，根据《中华人民共和国行政处罚法》第三条的规定，公民、法人或者其他组织违反行政管理秩序的行为，应当给予行政处罚的，依照本法由法律、法规或者规章规定，并由行政机关依照本法规定的程序实施。这里的“法人”或其他组织，在广义上包括了行政机关。因此，当行政机关违反行政管理秩序时，它们同样可能成为行政处罚的对象。
具体来说：
外部行政管理中的处罚：行政机关在社会经济活动或外部事务中，如未取得施工许可证擅自施工等建设违规行为，违反了环保、规划等相关法律法规，那么其他有权行政机关（如当地建设行政主管部门）就可以对其作出行政处罚，如责令停止施工、罚款等。
内部行政管理中的处理：虽然内部行政管理领域的处理与外部行政处罚在性质上有所不同，但如果行政机关违反了内部行政管理规定，如财政纪律或专项资金使用违规，上级行政机关或有关部门也会依据相关规定给予相应处理，这可能包括对责任人员的行政处分、责令改正等措施。
值得注意的是，对行政机关的行政处罚通常是由上级行政机关、有权监督的机关或法律特别规定的特定行政机关来实施的。这是为了确保处罚的公正性和有效性。
综上所述，行政机关在违反行政管理秩序时，无论是外部行为还是内部管理上的违规，都可能受到行政处罚。这不仅体现了法律的公正性，也提醒行政机关必须依法行事，否则同样需要承担相应的法律责任。如果您对此类问题有更深入的疑问或需要具体的法律建议，请直接向我咨询。