履约保证金在验收不合格时的处理方式需根据合同约定及法律规定综合判断，具体分以下情况处理：

1. 合同有明确约定时，优先按约定处理
   若合同中已约定验收不合格时履约保证金的扣减比例、返还条件或没收情形（例如“验收不合格且承包方未在15日内整改的，发包方有权没收全部保证金”），则双方应按合同执行。此时需注意：

   • 约定内容需符合《民法典》第143条的效力要件（行为人具有民事行为能力、意思表示真实、不违反法律强制性规定）；
     
   • 若约定存在显失公平（如“无论何种原因验收不合格均没收保证金”），受损方可依据《民法典》第151条主张撤销或变更条款。
     

2. 合同无约定或约定不明时，按法定原则处理
   根据《民法典》第577条（违约责任）及第587条（定金罚则的类推适用），处理逻辑如下：

   • 若验收不合格系承包方原因导致（如工程质量不达标、交付货物不符合合同技术参数）：
     
     • 发包方有权要求承包方承担继续履行、采取补救措施或赔偿损失等违约责任；
       
     • 履约保证金可优先用于抵扣发包方因验收不合格产生的实际损失（如返工费用、工期延误损失等）；
       
     • 若保证金金额不足以覆盖损失，发包方可另行主张赔偿。
       
   • 若验收不合格系发包方原因导致（如未提供验收条件、擅自变更验收标准）：
     
     • 承包方有权要求发包方返还保证金，并可能主张因发包方违约导致的损失（如窝工费、材料保管费等）；
       
     • 若发包方无正当理由拒不返还，承包方可依据《民事诉讼法》第122条向法院起诉，要求返还保证金及利息。
       

3. 特殊情形：保证金性质影响处理方式

   • 若保证金被明确约定为“定金”：根据《民法典》第587条，若因承包方原因导致验收不合格，发包方有权没收定金；若因发包方原因，则需双倍返还定金。
     
   • 若保证金被约定为“押金”或“担保金”：通常需按实际损失扣减后返还剩余部分，而非直接没收。
     

实务建议：

• 验收环节应留存书面记录（如验收报告、整改通知、往来函件），明确不合格原因及责任方；
  
• 若需扣减保证金，建议发包方通过书面通知明确扣减金额及依据，避免后续纠纷；
  
• 双方可协商将保证金转化为赔偿款，但需签署书面协议以固定权利义务。
  

如有具体合同条款或案件细节需要分析，可直接向我咨询，我会结合证据材料提供进一步方案。