未履行代扣代缴义务确实是违法的，可能会面临行政处罚，情节严重构成犯罪的，还会被追究刑事责任。以下从不同角度为你详细分析：

行政责任角度

根据《中华人民共和国税收征收管理法》第六十九条的规定，扣缴义务人应扣未扣、应收而不收税款的，由税务机关向纳税人追缴税款，对扣缴义务人处应扣未扣、应收未收税款百分之五十以上三倍以下的罚款。这意味着，如果公司作为扣缴义务人，没有按照法律规定履行代扣代缴税款的义务，税务机关在向纳税人追缴税款的同时，还会对公司处以罚款，罚款的幅度根据未扣缴税款的数额大小而定。

举例说明：假设某公司应代扣代缴员工个人所得税10万元，但未履行该义务。税务机关在发现后，会向员工追缴这10万元的税款，同时对公司处以5万元至30万元之间的罚款（即10万元的百分之五十以上三倍以下）。

刑事责任角度

在特定情况下，未履行代扣代缴义务还可能构成犯罪。根据《中华人民共和国刑法》第二百零一条的规定，纳税人采取欺骗、隐瞒手段进行虚假纳税申报或者不申报，逃避缴纳税款数额较大并且占应纳税额百分之十以上的，或者扣缴义务人采取欺骗、隐瞒手段，不缴或者少缴已扣、已收税款，数额较大的，构成逃税罪。对于逃税罪，根据数额和情节的不同，可能会被处三年以下有期徒刑或者拘役，并处罚金；数额巨大并且占应纳税额百分之三十以上的，处三年以上七年以下有期徒刑，并处罚金。

举例说明：如果某公司作为扣缴义务人，通过隐瞒、欺骗等手段，不缴或者少缴已扣、已收的税款，且数额达到较大标准（如10万元以上），就可能构成逃税罪。一旦被定罪，公司及其相关责任人员可能会面临刑事处罚。

实务建议

1. 加强内部管理：公司应建立健全的财务管理和税务管理制度，确保代扣代缴义务的履行。这包括设置专门的税务岗位或部门，负责税款的计算、申报和缴纳工作；定期对税务情况进行自查和审计，及时发现和纠正问题。
2. 提高法律意识：公司应加强对相关法律法规的学习和培训，提高员工的法律意识和税务合规意识。特别是财务和税务人员，应熟悉税收法律法规和政策，确保公司的税务处理符合法律要求。
3. 积极配合税务机关：如果公司发现自身存在未履行代扣代缴义务的情况，应主动向税务机关报告并配合调查。在税务机关的指导下，及时补缴税款和滞纳金，争取减轻或免除处罚。

如果你在公司法务、经营管理或上市等方面有任何法律问题，都可以直接向我咨询，我会为你提供专业的法律意见和帮助。