您好，关于您提出的“单位一定要上一家离职证明吗”这个问题，我可以为您详细解答。

首先，从法律层面来说，用人单位在解除或终止劳动合同时，有义务向劳动者出具离职证明。这是根据《劳动合同法》第五十条的明确规定，用人单位应当在解除或者终止劳动合同时，出具解除或者终止劳动合同的证明，也就是大家常说的“离职证明”。这份证明对于劳动者来说非常重要，它不仅是劳动者进行失业登记的必备条件，还关系到劳动者工作年限的计算、经济补偿金的支付、年休假、医疗期的确定等多个方面。

其次，从求职的角度来看，新用人单位要求提供离职证明也是合理的。根据《劳动合同法》第九十一条的规定，如果用人单位招用了与其他用人单位尚未解除或者终止劳动合同的劳动者，并给其他用人单位造成了损失，那么该用人单位需要承担连带赔偿责任。因此，新用人单位为了规避这种用工风险，通常会要求求职者提供上一家单位的离职证明，以确认求职者已经与原单位解除了劳动关系。

再者，如果用人单位未按照法律规定出具离职证明，可能会面临法律责任。根据《劳动合同法》第八十九条的规定，如果用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明，由劳动行政部门责令改正；给劳动者造成损害的，应当承担赔偿责任。这里的赔偿责任可能包括未出具离职证明导致劳动者的失业待遇损失，或者因未出具离职证明导致劳动者求职受阻产生的工资损失。

综上所述，单位要求提供上一家单位的离职证明是合法且合理的。这不仅是为了保障劳动者的合法权益，也是为了规避用人单位的用工风险。因此，如果您在求职过程中遇到新单位要求提供离职证明的情况，建议您积极配合并提供相关证明。