劳动行政部门确实可以做出行政处罚。以下从不同角度对此问题进行详细分析：

一、法律依据

根据《中华人民共和国劳动法》及相关法律法规，劳动行政部门作为负责劳动保障工作的主管部门，有权对违反劳动法律法规的行为进行查处，并依法给予行政处罚。这些法律法规为劳动行政部门行使行政处罚权提供了明确的法律依据。

二、行政处罚的种类

劳动行政部门在行使行政处罚权时，可以依据相关法律法规的规定，对违法行为人采取多种形式的行政处罚，包括但不限于：

1. 警告：对轻微违法行为，劳动行政部门可以给予警告，以示惩戒。
2. 罚款：对于较为严重的违法行为，劳动行政部门可以依法处以罚款，罚款的数额根据违法行为的性质和情节严重程度而定。
3. 没收违法所得：如果违法行为涉及非法所得，劳动行政部门有权没收这些违法所得。
4. 责令改正：对于违反劳动法律法规的行为，劳动行政部门可以责令违法行为人限期改正，以消除违法行为带来的不良影响。
5. 吊销许可证：在严重情况下，如果违法行为人持有相关许可证，劳动行政部门可以吊销其许可证，以剥夺其从事相关活动的资格。

三、行政处罚的适用条件

劳动行政部门在做出行政处罚时，必须遵循法定程序，并确保处罚的合法性和合理性。具体来说，行政处罚的适用条件包括：

1. 违法行为存在：必须存在违反劳动法律法规的行为，这是行政处罚的前提。
2. 证据确凿：劳动行政部门在做出行政处罚前，必须收集充分的证据，以证明违法行为的存在和性质。
3. 程序合法：劳动行政部门在做出行政处罚时，必须遵循法定程序，包括告知、听证、决定等环节，以确保处罚的合法性和公正性。
4. 处罚适当：劳动行政部门在做出行政处罚时，必须根据违法行为的性质和情节严重程度，选择适当的处罚种类和幅度，以确保处罚的合理性和有效性。

四、实际案例

在实际操作中，劳动行政部门经常对违反劳动法律法规的行为进行查处，并依法给予行政处罚。例如，对于拖欠工资、未依法签订劳动合同、未缴纳社会保险费等违法行为，劳动行政部门可以依法对用人单位进行罚款、责令改正等处罚。这些处罚措施有效地维护了劳动者的合法权益，促进了劳动关系的和谐稳定。

总结与建议：

劳动行政部门作为负责劳动保障工作的主管部门，有权对违反劳动法律法规的行为进行查处，并依法给予行政处罚。这些处罚措施包括警告、罚款、没收违法所得、责令改正和吊销许可证等。在做出行政处罚时，劳动行政部门必须遵循法定程序，并确保处罚的合法性和合理性。如果您或您所在的企业遇到劳动法律法规方面的问题，或者担心可能面临劳动行政部门的处罚，可以直接向我咨询，我将根据您的具体情况提供专业的法律建议。