要证明单位违法终止劳动关系，你需要从多个方面系统收集证据，并确保这些证据真实、合法且具有关联性。以下是一个详细且有条理的指南，帮助你完成这一过程：

一、明确并记录解除情况

首先，详细记录单位终止劳动关系的具体情况，包括：

• 解除时间：具体到年、月、日。
• 解除地点：如办公室、会议室等。
• 解除方式：是书面通知、电子邮件、口头告知还是其他方式。
• 解除理由：单位提出的具体解除理由或依据的规章制度条款。

二、证明劳动关系存在

这是证明单位违法终止劳动关系的基础，你可以通过以下材料来证实：

• 劳动合同：提供劳动合同的原件或经公证的复印件，这是最直接且关键的证据。
• 入职文件：如录用通知书、工作证、员工卡等，这些文件能进一步佐证劳动关系的起始及相关约定。
• 工资支付记录：包括工资条、银行转账记录等，这些记录能证明你为单位提供了劳动并获得了报酬。
• 工作身份证明：如考勤记录（打卡记录、考勤表）、工作服等，这些能直观证明你在单位的工作身份和出勤情况。

三、证明单位终止劳动关系的事实

你需要收集证据来证明单位确实实施了终止劳动关系的行为，包括：

• 解除劳动合同通知：无论是书面还是电子形式，都应保留原件，它直接体现了单位的终止意愿和理由。
• 离职证明：如果单位出具了离职证明，应妥善保存，它证实了劳动合同已解除及解除原因。
• 工作交接记录：如交接清单、邮件等，这些记录表明你已按要求交接了工作。
• 沟通记录：与单位负责人、人力资源部门人员的电子邮件、短信、微信聊天记录或电话录音（需合法录制）等，这些记录能反映双方就终止事宜的沟通过程。

四、证明单位终止劳动关系的行为违法

这是证明单位违法终止劳动关系的关键，你可以从以下几个方面入手：

• 规章制度审查：获取单位内部规章制度的原文，检查其是否经过民主程序制定、是否向你公示或告知，以及内容是否合法合理。如果单位依据未公示或不合法的规章制度终止劳动关系，则构成违法。
• 解除理由核实：仔细分析单位提出的终止理由，核查其是否有充分的事实依据支持。例如，如果单位声称你严重失职造成损失，但无法提供具体损失证据及因果关系证明，则终止理由不成立。
• 法定情形对照：参照《劳动合同法》等相关法律规定，判断单位终止行为是否符合法定终止情形。特别注意保护特殊群体（如孕期、产期、哺乳期女职工）的合法权益。
• 法定程序履行：检查单位终止劳动关系前是否依法提前通知工会（如有工会组织）、是否按法律规定支付经济补偿等。未履行法定程序的，同样构成违法终止。

五、收集其他辅助证据

除了上述证据外，你还可以收集以下辅助证据来增强你的证明力：

• 录音、录像资料：在与单位主管领导对话时尝试录音或录像，确保反映领导名称和职务，但需确保真实性和合法性得到认可。
• 同事证言：虽然同事证言的证明力相对较弱，但可以作为参考，并需其他证据佐证。

六、了解法律后果并准备维权

• 经济补偿或赔偿金的计算依据：根据《劳动合同法》规定，单位违法终止劳动合同应向你支付经济补偿或赔偿金。你应收集相关法律依据和计算依据，以明确自己应获得的数额。
• 维权途径：在收集到足够证据后，你可以首先尝试与单位协商解决争议；如果协商无果，可以向当地劳动仲裁机构提出仲裁申请；对仲裁结果不满或仲裁机构未受理申请的，可以依法向人民法院提起诉讼。

七、注意事项

• 确保证据的真实性和合法性：所有证据都应真实可靠，且收集过程合法合规。
• 及时申请劳动仲裁或提起诉讼：如果你认为单位违法终止了劳动关系，应及时采取行动，以免错过维权时机。
• 寻求专业律师的帮助：在必要时，可以咨询专业律师以获取更具体的法律意见和帮助，确保你的权益得到充分保障。

通过以上步骤，你可以系统地收集证据并证明单位违法终止了劳动关系，从而有效维护自己的合法权益。