结论：能否让公司把上一家公司的离职证明还给你，需视具体情况而定，包括离职证明的保管现状、公司要求留存的原因以及双方协商的结果等。以下从不同角度进行分析：
一、离职证明的法律性质与用途
离职证明是劳动者与原用人单位解除或终止劳动关系后，由原用人单位出具的一份证明文件。它通常包含劳动者的基本信息、在职时间、工作岗位、离职原因等内容，是劳动者寻找新工作、办理社保转移等手续时的重要证明材料。
二、公司要求留存离职证明的可能原因
- 内部管理需要：公司可能出于内部管理、审计或合规等方面的考虑，要求留存员工的离职证明作为员工档案的一部分。
- 防止法律风险：公司可能担心员工在离职后利用离职证明进行不正当活动，如冒用原公司名义进行业务往来等，因此要求留存以规避潜在的法律风险。
三、能否要求公司归还离职证明的分析
如果离职证明仍在公司手中且未用于非法目的：
- 协商解决：你可以与公司进行协商，说明你需要离职证明的具体用途（如办理新工作入职手续、社保转移等），并请求公司归还。在协商过程中，你可以强调离职证明对你的重要性，以及公司留存离职证明可能给你带来的不便。
- 法律途径：如果协商无果，你可以考虑通过法律途径解决。虽然直接的法律条文可能并未明确规定公司必须归还离职证明，但你可以依据《劳动合同法》等相关法律法规，主张公司无权留存你的个人证明文件，并要求公司归还。在此过程中，你可能需要提供证据证明离职证明的所有权属于你，以及公司留存离职证明给你造成了实际损失或不便。
如果离职证明已被公司用于非法目的或已丢失：
- 报警处理：如果公司利用你的离职证明进行非法活动，如冒用你的名义进行业务往来等，你可以立即向公安机关报案，并要求公司承担相应的法律责任。
- 要求补办：如果离职证明已丢失且无法找回，你可以要求原用人单位重新出具一份离职证明。在此过程中，你可能需要提供一些证明你曾在该公司工作的材料，如劳动合同、工资单等。
四、建议与注意事项
- 保留证据：在与公司协商或采取法律途径时，务必保留好相关证据，如协商记录、邮件往来、短信通知等，以便在需要时证明你的主张。
- 了解法律法规：在采取行动前，建议你先了解相关的法律法规和政策规定，以便更好地维护自己的合法权益。
- 寻求专业帮助：如果你对法律程序不熟悉或担心自己的权益无法得到保障，可以寻求专业律师的帮助。作为专注于劳动工伤领域的律师，我可以为你提供专业的法律咨询和代理服务。
如有任何疑问或需要进一步的法律帮助，请直接向我咨询。