突然被辞退后，要证明你曾经在该单位上班，可以从以下几个角度着手收集和提供证据：

1. 劳动合同或工作协议：

   • 最直接的证据是劳动合同或任何形式的工作协议。这些文件明确记录了你的雇主信息、工作职位、工作时间以及薪酬等关键信息。

2. 工资支付记录：

   • 工资条、银行转账记录或支付宝、微信等第三方支付平台的交易记录，都能证明你曾从该公司获得报酬，从而间接证明你的劳动关系。

3. 社保缴纳记录：

   • 社保（包括养老保险、医疗保险、失业保险等）的缴纳记录也是证明劳动关系的重要证据。你可以通过社保局或相关APP查询并打印这些记录。

4. 工作邮件、通讯记录：

   • 与公司同事、上级或客户的工作邮件往来、聊天记录等，特别是那些涉及工作任务、会议安排或工作成果的内容，都能作为你曾在该公司工作的证据。

5. 考勤记录：

   • 如果公司有考勤系统，那么考勤记录也是证明你上班情况的有力证据。尽管你可能无法直接获取这些记录，但在劳动仲裁或诉讼过程中，可以要求公司提供。

6. 同事或客户的证人证言：

   • 同事或客户可以为你提供证人证言，证明你曾在该公司工作以及你的工作职责和表现。这些证言在劳动仲裁或诉讼中可能具有一定的证明力。

7. 其他工作相关文件：

   • 如工作证、名片、工服、工牌、荣誉证书、培训记录等，虽然这些可能不是直接的劳动合同证据，但也能在一定程度上证明你的劳动关系和工作经历。

综上所述，要证明你曾经在某公司上班，可以从劳动合同、工资支付记录、社保缴纳记录、工作邮件和通讯记录、考勤记录、同事或客户的证人证言以及其他工作相关文件等多个角度着手收集和提供证据。如果公司在你离职后拒绝提供这些证据，你可以考虑通过劳动仲裁或诉讼途径来维护自己的合法权益。