行政违法行为被发现后十年后才做出处罚，是否违法需视具体情况而定，但通常情况下，若超过法定追责期限，则处罚违法。以下从不同角度进行分析：
一般行政违法行为
- 法律依据：根据《中华人民共和国行政处罚法》第三十六条：“违法行为在二年内未被发现的，不再给予行政处罚；涉及公民生命健康安全、金融安全且有危害后果的，上述期限延长至五年。法律另有规定的除外。”
- 分析：对于一般的行政违法行为，如果违法行为在二年内未被发现，且不属于涉及公民生命健康安全、金融安全且有危害后果的特殊情形，那么行政机关在十年后才发现并作出处罚，是违法的，因为已经超过了法定的追责期限。
特殊行政违法行为
- 法律依据：同样依据《中华人民共和国行政处罚法》第三十六条，对于涉及公民生命健康安全、金融安全且有危害后果的行政违法行为，追责期限延长至五年。
- 分析：如果行政违法行为涉及公民生命健康安全、金融安全，并且造成了危害后果，那么行政机关在五年内未发现的，不再给予行政处罚。因此，在十年后才发现并作出处罚，同样是违法的。
法律另有规定的情形
- 法律依据：《中华人民共和国行政处罚法》第三十六条还规定：“法律另有规定的除外。”
- 分析：如果存在其他法律对特定行政违法行为的追责期限有特别规定，那么应当遵循该特别规定。例如，某些特定领域的法律可能规定了更长的追责期限。在这种情况下，如果十年后才发现并作出处罚，但并未超过该特别规定的追责期限，则处罚可能是合法的。然而，这种情况相对较少，且需要具体法律条文的支持。
建议与后果：
- 对于行政机关：在作出行政处罚决定前，应当仔细审查违法行为的发现时间，确保未超过法定的追责期限。如果超过期限，则不得作出处罚决定，否则可能面临行政复议或行政诉讼的败诉风险。
- 对于公民、法人或其他组织：如果认为行政机关作出的处罚决定违法（如超过追责期限），可以依法申请行政复议或提起行政诉讼，以维护自己的合法权益。
总结：行政违法行为被发现后十年后才做出处罚，在大多数情况下是违法的，因为通常已经超过了法定的追责期限。然而，也存在法律另有规定的特殊情况。因此，在具体案件中，需要仔细审查相关法律条文和案件事实，以确定处罚的合法性。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。