教育行政部门在符合法律规定的情况下，可以给予行政处罚。以下从不同角度对此问题进行详细分析：

一、法律依据

根据《中华人民共和国行政处罚法》以及地方教育行政部门制定的相关规范（如《广州市教育行政部门规范行政处罚裁量权规定》），教育行政部门被赋予了行使行政处罚裁量权的权力。这些法律法规明确规定了教育行政部门在何种情况下可以实施行政处罚，以及行政处罚的种类和幅度。

二、行政处罚的种类和原则

教育行政部门在行使行政处罚权时，需遵循合法原则、过罚相当原则、综合裁量原则以及处罚与教育相结合的原则。行政处罚的种类包括但不限于警告、罚款、没收违法所得、责令停止违法行为等。在实施行政处罚时，教育行政部门需全面分析违法行为的主体、客体、主观因素、客观因素等，确保行政处罚的合法性和合理性。

三、行政处罚的适用情形

1. 较轻违法行为：如违法行为轻微并及时改正，没有造成危害后果的，可能不予行政处罚。
2. 一般违法行为：对于一般的违法行为，教育行政部门可能会根据违法行为的性质、情节和社会危害程度，给予相应的行政处罚。
3. 严重违法行为：对于严重违法行为，如扰乱公共秩序、妨害公共安全等，教育行政部门将依法从重处罚。
4. 特别严重违法行为：对于特别严重的违法行为，如涉及刑事犯罪的，教育行政部门将及时移送司法机关处理。

四、行政处罚的程序和监督

教育行政部门在实施行政处罚时，需遵循法定程序，包括立案、调查取证、告知当事人权利、听取当事人陈述和申辩、作出行政处罚决定等。同时，教育行政部门还需建立健全规范和实施行政处罚裁量权的监督制度，通过行政执法投诉、行政执法监督检查、行政复议、行政处罚案卷评查等形式，对行使行政处罚裁量权的情况进行监督检查。

五、实际案例与操作

以广州市为例，广州市教育局制定了《广州市教育行政部门规范行政处罚裁量权规定》，明确了市、区两级教育行政部门在行使行政处罚裁量权时应遵循的原则和程序。在实际操作中，教育行政部门会根据违法行为的性质、情节和社会危害程度，结合相关法律法规的规定，对违法行为人给予相应的行政处罚。

总结与建议：

教育行政部门在符合法律规定的情况下，确实可以给予行政处罚。在实际操作中，教育行政部门需严格遵循法律法规的规定，确保行政处罚的合法性和合理性。如果您或您身边的人遇到了涉及教育行政处罚的问题，可以直接向我咨询，我将根据您的具体情况提供专业的法律建议。