要成功证明单位违法辞退，你必须提供充分证据证明以下三点：1）与单位存在劳动关系；2）单位确实进行了辞退；3）该辞退行为违反了法律或劳动合同约定。 以下是从这三个方面详细阐述如何证明违法辞退：

一、证明劳动关系的存在

这是基础也是前提，只有确立了劳动关系，后续的主张才能站得住脚。你可以通过以下证据证明：

1. 劳动合同：这是最直接且有力的证据，详细记录了双方的权利义务，包括工作内容、工作地点、工作时间、薪资待遇等关键条款。
2. 工资支付记录：包括银行流水明细和工资条，显示单位定期支付工资的情况，这是证明你为公司提供劳动并获得报酬的重要证据。
3. 社保缴纳记录：反映劳动关系的存续状态，是官方认可的证明，可以进一步印证你与单位之间的劳动关系。
4. 工作证、工牌及考勤记录：这些直观证明你是单位的员工以及出勤情况，是证明劳动关系存在的有力辅助证据。
5. 同事证言：作为旁证，其他员工的证人证言也可以辅助证明你在单位的工作情况，但需注意证言的真实性和可信度。

二、证明单位辞退行为

接下来，你需要有证据表明单位确实作出了辞退你的决定。这可以通过以下方式证明：

1. 辞退通知：书面通知或电子邮件等，应明确辞退原因和生效日期，并盖有单位公章或由相关负责人发送，这是证明单位辞退行为的最直接证据。
2. 沟通记录：邮件、短信、聊天记录等，任何关于辞退的暗示或直接通知都可作为证据，这些记录能够反映单位辞退你的意图和过程。
3. 录音录像：在不违反法律规定的前提下，对与辞退相关的谈话进行录音或录像，可以保留对话内容作为证据，进一步证明单位的辞退行为。
4. 工作交接记录：单位安排的工作交接清单或会议记录，证明单位已在实际行动上做出辞退安排，这也是证明辞退行为的重要证据。
5. 证人证言：寻找目睹辞退过程或了解公司决策过程的同事或其他相关人员作证，他们的证言可以辅助证明单位的辞退行为。

三、证明辞退行为违法

这是核心部分，你需要证明单位的辞退行为不符合法律规定或劳动合同约定。具体可从以下几个角度入手：

1. 不符合法定辞退情形：收集能证明自己不存在《劳动合同法》规定的用人单位可以解除劳动合同的情形的证据，如工作表现良好的记录、奖励证书等。如果单位以不符合事实的理由辞退你，你可以通过这些证据来反驳。
2. 违反法定程序：确认单位是否遵循了提前通知工会、提前以书面形式通知劳动者等法律程序。未遵循则构成违法，可通过工会说明、沟通记录等证据证明。例如，单位未提前通知你就直接辞退你，或者未通知工会就擅自作出辞退决定，这些都是违法的。
3. 与劳动合同约定不符：仔细查看劳动合同中关于解除合同的条款，若单位辞退行为不符合这些约定，则可将劳动合同作为证据。例如，合同规定只有在特定条件下才能辞退，而实际情况并不符合这些条件，那么单位的辞退行为就是违法的。
4. 公司规章制度：如果公司的规章制度中存在违法或不合理之处，或者辞退行为未遵循规章制度，也可以作为证明违法辞退的依据。例如，公司规章制度中规定的辞退条件过于苛刻或模糊，或者单位在辞退你时未按照规章制度进行，这些都可以作为你主张违法辞退的证据。

四、其他相关建议

除了上述直接证据外，你还可以考虑收集一些间接证据来辅助证明你的主张，如工作成果、培训记录、证书以及同事评价等。这些证据虽然不能直接证明单位的辞退行为违法，但可以侧面反映你的工作态度和能力，为你的主张提供有力支持。

在收集到充分的证据后，你可以向劳动争议仲裁委员会申请仲裁，以确定单位的辞退行为是否违法，并寻求相应的法律救济措施。如果你在收集证据或申请仲裁过程中遇到任何问题，都可以直接向我咨询，我会根据你的具体情况提供专业的法律建议。