因犯罪被开除后，单位通常需要出具解除劳动合同证明（离职证明），并可根据实际情况出具其他相关证明文件。具体分析如下：

1. 解除劳动合同证明（离职证明）
   根据《中华人民共和国劳动合同法》第五十条，用人单位应当在解除或终止劳动合同时出具证明，内容需包含劳动合同期限、解除日期、工作岗位及在本单位的工作年限。这是单位的法定义务，无论员工因何种原因离职（包括犯罪被开除），均需出具。若单位拒绝出具，员工可向劳动监察部门投诉或申请劳动仲裁。

2. 其他可能涉及的证明文件

   • 开除决定文件：若员工因犯罪被追究刑事责任，单位可依据《劳动合同法》第三十九条解除劳动合同，并需保留开除决定的书面文件（如处分决定书）。该文件通常需载明解除依据（如“因构成犯罪被依法追究刑事责任”）、生效日期及单位公章，作为后续劳动争议的证据。
     
   • 无争议声明（可选）：若双方对解除无异议，单位可出具声明，确认解除原因及无劳动纠纷，但非强制要求。
     
   • 工资结算证明：若涉及未结工资或经济补偿，单位需出具工资结算单，明确已支付金额及支付方式。

3. 注意事项

   • 证明内容需真实：单位出具的证明必须与事实一致，不得虚构或隐瞒解除原因。若证明内容不实（如将“犯罪被开除”写成“协商一致解除”），可能承担法律责任。
     
   • 员工权利保障：员工有权要求单位出具解除证明，且单位不得扣押员工档案或社保关系。若因单位未出具证明导致员工无法再就业，员工可主张赔偿。
     
   • 刑事责任与劳动关系的关联：根据《劳动合同法》，员工被依法追究刑事责任（如判处有期徒刑、拘役等）是单位解除劳动合同的合法事由，但需以生效裁判文书为依据。若员工仅被刑事拘留或取保候审，单位需谨慎处理，避免违法解除。

建议：若您或他人涉及此类情况，可要求单位出具解除劳动合同证明及开除决定文件，并核对内容真实性。如有争议（如单位拒绝出具或证明内容不实），可进一步向我咨询具体维权步骤。