针对您提出的“单位不给出迟退通知书怎么办”的问题，这确实是一个涉及劳动者权益的重要事项。首先，我们要明确的是，用人单位在解除与劳动者的劳动合同时，有义务出具书面的解除或终止劳动合同的证明，这是《中华人民共和国劳动合同法》的明确规定。
一、法律背景与依据
根据《中华人民共和国劳动合同法》第八十九条，用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明的，由劳动行政部门责令改正；给劳动者造成损害的，应当承担赔偿责任。这意味着，如果单位不出具迟退通知书，您有权向劳动行政部门投诉，并要求单位承担相应的法律责任。
二、应对策略与步骤
与单位沟通：
- 首先，您可以尝试与单位的人力资源部门或相关负责人进行沟通，明确表达您需要迟退通知书的诉求，并了解单位拒绝出具的原因。
- 在沟通过程中，保持冷静和理性，避免情绪化的争执，以便更好地解决问题。
收集证据：
- 如果单位仍然拒绝出具迟退通知书，您需要开始收集相关证据，以证明您与单位之间存在劳动关系以及单位未出具迟退通知书的事实。
- 证据可以包括劳动合同、工作证、考勤记录、工资单、与单位的沟通记录（如邮件、短信、微信等）等。
向劳动行政部门投诉：
- 携带您收集到的证据，前往当地的劳动行政部门（如劳动监察大队）进行投诉。
- 在投诉时，详细陈述您的情况，包括单位未出具迟退通知书的事实、您与单位的沟通情况以及您因此遭受的损失等。
- 劳动行政部门将会对您的投诉进行调查，并根据调查结果责令单位改正或承担相应的法律责任。
考虑法律途径：
- 如果劳动行政部门的处理结果未能满足您的诉求，或者单位拒绝执行劳动行政部门的决定，您可以考虑通过法律途径来维护自己的权益。
- 您可以咨询专业的律师，了解您的法律权益和可能的诉讼途径，并根据律师的建议采取相应的行动。
三、注意事项与建议
- 在整个过程中，保持冷静和理性是非常重要的。避免与单位发生不必要的争执或冲突，以免对您的权益造成进一步的损害。
- 及时收集并保存相关证据是关键。证据是维护您权益的重要依据，因此请务必确保您的证据充分、有效。
- 如果您对法律程序不熟悉或感到困惑，建议咨询专业的律师或法律援助机构，以获取更具体的法律建议和帮助。
总之，单位不给出迟退通知书是违反法律规定的行为，您有权通过合法途径来维护自己的权益。希望以上建议能对您有所帮助，并祝您顺利解决问题。