单位职工在外面贷款却不留自己的电话留单位电话，单位有权要求该职工立即更正并采取措施防止类似情况再次发生。具体处理步骤如下：

一. 明确责任与要求更正

1. 核实情况：首先，单位应核实该贷款行为是否真实存在，以及职工是否确实将单位电话作为联系方式留在了贷款申请中。这可以通过与贷款机构联系或要求职工提供相应证明来进行。
2. 明确要求：一旦核实情况属实，单位应立即与该职工进行沟通，明确要求其立即更正贷款预留的联系方式，确保不再使用单位电话作为个人贷款的联系方式。

二. 采取措施防止类似情况再次发生

1. 加强内部管理：单位可以加强内部管理，明确规定职工不得将单位电话用于个人贷款等私人事务，并加强对职工相关行为的监督和检查。
2. 建立报告机制：鼓励单位内部其他职工积极报告类似情况，以便单位能够及时发现并处理类似问题。

三. 应对贷款机构骚扰

1. 沟通解释：如果贷款机构因职工预留的单位电话而频繁骚扰单位，单位可以向贷款机构解释情况，并明确要求其停止对单位的骚扰行为。
2. 收集证据与投诉：如果贷款机构不听劝阻，继续骚扰单位，单位可以收集相关证据（如电话记录、短信等），并向相关监管部门或行业协会进行投诉，以维护单位的合法权益。

四. 法律途径

1. 咨询律师：如果骚扰行为严重，对单位造成了实质性的损害，单位可以咨询律师，考虑通过法律途径来维护自己的权益，如提起民事诉讼要求赔偿损失等。
2. 报警处理：如果骚扰行为涉嫌诈骗或其他违法行为，单位应立即报警，由公安机关依法进行处理。

我建议：单位在处理此类问题时，应保持冷静和理性，既要维护自己的合法权益，也要避免与职工产生不必要的冲突。同时，加强内部管理，建立有效的报告机制，是预防类似问题再次发生的关键。如有进一步需要，您可以继续咨询我。