行政单位收到回复后，一般应当给当事人回执单，但具体是否需要回执单需结合实际情况判断。以下分情况详细说明：

1. 法律法规有明确规定的情况
   如果相关法律法规明确要求行政单位在收到当事人提交的材料或回复后，必须出具回执单（例如《行政许可法》《政府信息公开条例》等），那么行政单位必须依法履行这一义务。回执单的作用是证明行政单位已收到材料，并明确接收时间、材料名称等信息，避免后续因“是否收到”产生争议。

2. 法律法规未明确规定，但行政单位内部有规定的情况
   即使法律未强制要求，若行政单位通过内部规章制度（如服务承诺、办事指南）明确承诺“收到材料后出具回执单”，则该单位需遵守自身规定。此时回执单是行政单位自我约束、提升服务透明度的体现，当事人有权要求其履行。

3. 法律法规和内部规定均未明确要求的情况
   若法律和行政单位内部均未规定必须出具回执单，实践中可能存在两种处理方式：

   • 主动出具回执单：部分行政单位为规范管理、减少纠纷，会主动向当事人提供回执单（尤其是涉及重要权益的事项，如投诉、申请许可等）。
     
   • 不主动出具回执单：若行政单位未提供回执单，当事人可通过其他方式证明已提交材料（如邮寄凭证、现场提交时的签字记录、录音录像等）。若因行政单位未出具回执单导致当事人权益受损（如超过办理期限），当事人可依法主张行政单位未履行法定职责。

建议：

• 当事人提交材料时，可主动要求行政单位出具回执单，并明确记录提交时间、材料名称、接收人等信息。
  
• 若行政单位拒绝出具回执单，当事人可要求其在材料复印件上签字确认，或通过邮寄方式（保留邮寄凭证）提交材料，以固定证据。
  
• 若因未出具回执单导致权益受损，当事人可依法申请行政复议或提起行政诉讼，要求行政单位承担相应责任。
  

如有具体场景或行政单位类型（如工商、税务、公安等），可进一步结合相关领域法规分析，欢迎继续向我咨询。