当单位主体不存在且劳动合同也不在时，要证明曾经在该单位工作过，可以从以下几个角度收集和提供证据：

1. 工资支付记录：

   • 银行流水：如果工资是通过银行转账发放的，可以打印出相关的银行流水记录，显示单位名称（或单位财务人员个人账户，但备注中可能注明单位名称）及转账摘要中的工资字样。
   • 现金支付证明：如果是现金支付，可以尝试寻找当时的同事作为证人，或者提供单位出具的工资条、收据等书面证明。

2. 工作证件与标识：

   • 工作证、胸牌：这些通常能直接证明你在该单位工作过。
   • 制服、工作服：如果单位有统一的工作服，且你保留有相关照片或实物，也可以作为证明。

3. 社保与公积金缴纳记录：

   • 社保缴纳记录：前往当地社保局或登录社保网站，打印出你的社保缴纳记录，上面会显示缴纳单位名称。
   • 公积金缴纳记录：同样，公积金缴纳记录也能证明你与该单位之间的劳动关系。

4. 工作文件与邮件：

   • 工作文件：如你参与的项目文件、报告、合同等，上面可能有你的签名或单位盖章。
   • 工作邮件：如果单位使用电子邮件进行工作沟通，可以保存或打印出与工作相关的邮件，特别是那些包含单位域名或单位相关信息的邮件。

5. 同事证言：

   • 寻找当时的同事，请他们出具书面证言或出庭作证，证明你曾在该单位工作。

6. 其他间接证据：

   • 如单位发布的公告、通知、新闻报道等，如果其中提到了你的名字或职务，也可以作为证明。
   • 如果你曾因工作原因获得过某些奖项、证书或荣誉，这些也能间接证明你与该单位的关系。

在收集证据时，建议尽量多地提供不同类型的证据，以形成完整的证据链，提高证明力。如果遇到困难或不确定如何操作，可以直接向我咨询，我会根据你的具体情况提供更详细的法律建议。