结论：申请人向单位递交书面申请，单位并非必须以书面形式答复，但需根据具体情况和法律规定来判断。以下是详细分析：

1. 一般原则：无强制书面答复要求
   在大多数情况下，法律并未明确规定单位必须以书面形式答复申请人的书面申请。单位可以选择口头、书面或其他合理方式回应，只要能够确保申请人知晓答复内容即可。例如，员工提交加班申请后，单位可通过口头同意、邮件确认或系统审批等方式回应，均属合法。

2. 例外情形：特定法律要求书面答复
   若申请事项涉及特定法律程序或权利义务，可能要求单位必须书面答复。例如：

   • 劳动争议领域：根据《劳动合同法》及相关规定，单位对员工的辞职申请、解除劳动合同通知等需书面回应，否则可能承担不利后果（如未及时办理离职手续导致赔偿）。
     
   • 行政许可或审批：若申请涉及行政机关（如政府单位）的许可、备案等，通常需书面答复并说明理由，否则可能构成程序违法。
     
   • 合同约定或内部制度：若单位与申请人通过合同或规章制度明确约定“必须书面答复”，则单位需遵守约定，否则可能构成违约。

3. 实务建议：书面答复的必要性
   即使法律无强制要求，从风险防控角度，建议单位尽量采用书面形式答复，尤其是涉及重要事项（如薪资调整、岗位变动、解除合同等）。书面答复可固定证据，避免因口头答复引发争议时举证困难。例如，员工主张单位口头承诺加薪但未兑现，若单位无书面记录，可能面临败诉风险。

4. 申请人的救济途径
   若单位未答复或答复不符合要求，申请人可采取以下措施：

   • 协商沟通：与单位明确要求书面答复，并保留沟通记录（如邮件、聊天记录）。
     
   • 投诉举报：若涉及劳动权益，可向劳动监察部门投诉；若涉及行政许可，可向上级机关申诉。
     
   • 法律诉讼：若单位行为损害申请人合法权益（如未答复导致损失），可依法提起民事诉讼或行政诉讼。

总结：单位是否需书面答复，需结合申请事项性质、法律规定及合同约定综合判断。为降低风险，建议单位优先采用书面形式答复重要申请。如有具体案件或疑问，可进一步向我咨询，我会结合细节提供针对性分析。