行政机关应当明确告知当事人需以书面形式提出回避申请，并说明口头申请不符合法定程序要求。具体分析如下：

1. 法定程序要求
   根据《行政处罚法》第三十七条及《行政机关公务员处分条例》相关规定，回避申请需以书面形式提出，并载明申请回避的事实和理由。口头申请因缺乏形式要件，行政机关无法直接受理。行政机关应向当事人说明法定程序，要求其补交书面申请。

2. 口头申请的处理方式
   若当事人坚持口头申请，行政机关可采取以下措施：

   • 当场记录：制作《口头申请回避记录》，载明当事人身份、申请回避对象、申请理由及时间，并由当事人签字确认；
     
   • 限期补正：告知当事人需在3个工作日内提交书面申请，逾期未提交视为放弃申请；
     
   • 不予受理告知：若当事人拒绝补正，行政机关应出具《不予受理回避申请通知书》，说明理由并告知救济途径。

3. 特殊情形下的灵活处理
   在紧急情况下（如当事人因文化程度、身体障碍等客观原因无法书面申请），行政机关可：

   • 协助填写：由工作人员代为填写书面申请，经当事人确认后签字；
     
   • 录音录像：对口头申请过程进行全程录音录像，作为补充证据，但需同步要求当事人限期提交书面申请。

4. 答复的注意事项
   行政机关在答复时需注意：

   • 时效性：应在收到口头申请后2个工作日内作出答复；
     
   • 书面化：所有答复均需以书面形式送达当事人，避免口头答复引发争议；
     
   • 救济途径告知：明确告知当事人对答复不服的，可依法申请行政复议或提起行政诉讼。

实务建议：行政机关可制定《回避申请指引》，明确书面申请模板、提交方式及咨询渠道，减少因程序瑕疵引发的行政争议。若您在具体案件中遇到操作难题，可直接向我咨询，我将结合案件细节提供针对性方案。