退休员工在外单位兼职上班，单位如果要辞退，一般不需要赔偿，但具体情况需结合兼职性质、单位规章制度及双方约定综合判断。以下从不同角度进行分析：

1. 退休员工与兼职单位的关系性质

   • 退休员工已享受养老保险待遇，其与兼职单位之间通常不构成劳动关系，而是劳务关系。劳务关系中，双方地位平等，不受《劳动法》和《劳动合同法》的严格约束，单位辞退退休员工（即解除劳务关系）一般无需支付经济补偿或赔偿金。
   • 例外情况：若退休员工未享受养老保险待遇，且与兼职单位符合劳动关系构成要件（如接受单位管理、从事单位安排的有报酬劳动等），则可能被认定为劳动关系。此时，单位若违法辞退，需按《劳动合同法》规定支付赔偿金（经济补偿标准的二倍）。

2. 单位规章制度及双方约定的影响

   • 即使退休员工与兼职单位构成劳务关系，若单位规章制度或双方劳务合同中明确约定了辞退条件及赔偿条款（如提前通知期、违约金等），单位需按约定履行。但此类约定不得违反法律强制性规定（如不得约定高额违约金）。
   • 建议：退休员工在签订劳务合同时，应仔细阅读合同条款，明确双方权利义务，避免因约定不明引发纠纷。

3. 辞退程序的合法性

   • 无论劳动关系还是劳务关系，单位辞退员工均需遵循合法程序。例如，在劳动关系中，单位需提前通知员工并说明理由；在劳务关系中，单位虽无需履行严格程序，但应尊重员工权益，避免恶意辞退。
   • 后果：若单位辞退程序违法（如未提前通知、未说明理由等），在劳动关系中可能构成违法解除，需支付赔偿金；在劳务关系中，虽无法律明确规定，但员工可能通过诉讼主张单位承担违约责任或侵权责任。

4. 退休员工兼职的合法性

   • 退休员工兼职本身不违反法律规定，但需注意以下两点：一是不得违反原单位（如退休前单位）的竞业限制约定（如有）；二是不得从事违法或危害社会公共利益的活动。
   • 风险：若退休员工兼职行为违反法律规定或原单位约定，原单位或兼职单位可能据此解除与员工的劳务关系，且无需支付赔偿。

总结与建议：

• 退休员工在外单位兼职上班，单位辞退是否需要赔偿，需首先判断双方关系性质（劳动关系或劳务关系），再结合单位规章制度、双方约定及辞退程序合法性综合判断。
• 为避免纠纷，退休员工在兼职前应了解自身权益及义务，签订书面劳务合同并明确约定辞退条件及赔偿条款；单位在辞退退休员工时，应遵循合法程序并尊重员工权益。
• 如有具体法律问题或纠纷，可直接向我咨询，我将根据具体情况提供专业法律意见。