您好，关于您提出的“离职证明一定要是上一家的吗”这个问题，我可以为您详细解答。

首先，离职证明的主要功能是证明劳动者已经与原用人单位终结了劳动关系，以及提供原劳动合同的基本信息，为劳动者的再就业提供帮助。同时，它也是劳动者在申请失业保险待遇时，用来证明自己处于失业状态的重要文件。

针对您的问题，离职证明确实通常是由上一家用人单位出具的。这是因为新用人单位在招录劳动者时，为了避免招录到与原用人单位尚未终结劳动关系的劳动者，从而给自己带来法律风险，会要求劳动者提供由原单位出具的离职证明。这份证明能够清晰地表明劳动者与原单位的劳动关系已经终结，新用人单位可以放心地将其招录。

此外，从法律角度来看，《中华人民共和国劳动合同法》第五十条明确规定：“用人单位应当在解除或者终止劳动合同时出具解除或者终止劳动合同的证明。”这就是我们通常所说的离职证明。因此，出具离职证明是用人单位的法定义务，劳动者有权要求原用人单位在劳动关系终结时为其出具。

如果劳动者无法提供上一家用人单位的离职证明，可能会给新用人单位的招录决策带来困扰，甚至可能导致劳动者错过心仪的工作机会。因此，我建议您在离职时，务必要求原用人单位为您出具离职证明，并妥善保管好这份文件。

最后，如果因为某些特殊原因（如原用人单位拒绝出具、遗失等）导致您无法提供离职证明，您可以与新用人单位进行沟通，说明情况并提供其他能够证明您与原单位劳动关系已经终结的证据（如解除劳动合同通知书、社保缴纳记录等），以尽量减少对再就业的影响。

希望以上解答能够对您有所帮助。如果您还有其他问题或需要进一步的帮助，请随时告诉我。