结论：单位要求退还前几年发放的津贴是否合法，需根据津贴的性质、发放依据以及是否存在法定或约定的退还情形来判断。以下从不同角度进行分析：
一、津贴性质与发放依据
法定津贴：若津贴属于国家法律法规明确规定的福利，如高温津贴、夜班津贴等，且单位已按照法定标准发放，则通常无需退还。因为这类津贴是单位对员工在特定条件下工作的补偿，具有法定性。
约定津贴：若津贴是单位与员工在劳动合同或规章制度中约定的福利，如交通补贴、通讯补贴等，其发放与退还则需依据合同或制度的具体规定。若合同或制度中未明确规定退还情形，则单位无权要求员工退还。
二、退还情形的合法性
法定退还情形：根据相关法律法规，如《劳动法》、《劳动合同法》等，通常不会规定员工需退还已领取的津贴。除非存在特定情形，如员工因严重违反单位规章制度或违法犯罪行为给单位造成重大损失，单位在依法解除劳动合同的同时，可能要求员工赔偿损失，但这与退还津贴是两个不同的法律关系。
约定退还情形：若单位与员工在劳动合同或规章制度中明确约定了津贴的退还情形，如员工离职时需退还部分或全部津贴，则该约定在合法范围内且双方自愿的情况下是有效的。但需注意，该约定不得违反法律法规的强制性规定，也不得损害员工的合法权益。
三、实际操作建议
核查发放依据：员工应首先核查津贴的发放依据，确认其是法定津贴还是约定津贴，以及是否存在退还的约定。
与单位沟通：若单位要求退还津贴，员工应与单位进行沟通，了解退还的具体原因和依据。若认为单位的要求不合理或无法律依据，可拒绝退还。
寻求法律援助：若双方无法达成一致意见，员工可寻求法律援助或咨询专业律师，了解自己的权益和义务，以及可能的法律后果。
四、可能面临的法律后果
若单位要求合法：若单位要求退还津贴的依据合法且充分，员工拒绝退还可能面临单位提起的劳动争议仲裁或诉讼，要求员工退还津贴并可能承担因此产生的法律费用。
若单位要求不合法：若单位要求退还津贴的依据不合法或无法律依据，员工拒绝退还是合法的，单位无权强制要求员工退还。若单位因此采取不当措施（如扣发工资、解除劳动合同等），员工可依法维护自己的权益。
总结：单位要求退还前几年发放的津贴是否合法，需根据具体情况判断。员工应核查津贴的发放依据和退还情形，与单位进行沟通并寻求法律援助（如有需要）。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。