逾期退还履约保证金，应当支付利息。下面我将对此进行详细分析：

一. 法律依据

1. 《中华人民共和国合同法》第一百一十二条：当事人一方不履行合同义务或者履行合同义务不符合约定的，在履行义务或者采取补救措施后，对方还有其他损失的，应当赔偿损失。
2. 《中华人民共和国合同法》第一百一十三条：当事人一方不履行合同义务或者履行合同义务不符合约定，给对方造成损失的，损失赔偿额应当相当于因违约所造成的损失，包括合同履行后可以获得的利益，但不得超过违反合同一方订立合同时预见到或者应当预见到的因违反合同可能造成的损失。

二. 分析说明

1. 违约行为：逾期退还履约保证金，本质上是一种违约行为。履约保证金是合同双方为了保证合同履行而设定的一种金钱担保，当合同履行完毕后，保证金应当如数退还。若逾期退还，则构成对合同义务的违反。
2. 损失赔偿：根据《合同法》第一百一十二条和第一百一十三条的规定，违约方应当赔偿因违约给对方造成的损失。在这里，逾期退还保证金给守约方造成的损失，至少包括资金被占用的利息损失。
3. 利息计算：利息的计算可以参照中国人民银行同期同类贷款利率或者双方约定的利率进行。具体计算时，应当从保证金应当退还之日起，至实际退还之日止，按照上述利率计算利息。

三. 结论

综上所述，逾期退还履约保证金，违约方应当支付利息。这是基于合同法的明确规定，也是对守约方合法权益的保护。在实际操作中，若遇到此类情况，守约方可以依法要求违约方支付相应的利息损失。

如有进一步需要，您可以继续咨询我。