工程合同无效时，保证金原则上应当退还，但也存在特殊情形下的不予退还或部分退还情况。以下是对这一问题的详细分析：
一、保证金应退还的一般原则
法律依据：
- 根据《中华人民共和国民法典》第一百五十七条的规定，民事法律行为无效、被撤销或者确定不发生效力后，行为人因该行为取得的财产，应当予以返还；不能返还或者没有必要返还的，应当折价补偿。有过错的一方应当赔偿对方由此所受到的损失；各方都有过错的，应当各自承担相应的责任。这一条款明确指出了合同无效后的财产处理原则，即因无效合同取得的财产应当返还。
具体解释：
- 在工程合同中，保证金通常作为履约担保的一种形式，旨在确保承包人能够按照合同约定履行义务。然而，当合同被认定为无效时，保证金的性质也发生了变化，它不再具有履约担保的功能。因此，发包方继续占有保证金已无法律依据，应当将其返还给承包方。
二、特殊情形下可能不予退还或部分退还的情况
承包人存在过错且造成损失：
- 情况说明：如果承包人在签订和履行合同过程中存在过错，如明知自己没有相应的施工资质仍与发包人签订合同，并因此给发包人造成了损失，那么发包人有权在保证金范围内扣除相应的损失赔偿金额后，再将剩余部分退还给承包人。
- 法律依据：同样依据《中华人民共和国民法典》第一百五十七条的规定，有过错的一方应当赔偿对方由此所受到的损失。
保证金已用于工程相关支出且合理：
- 情况说明：在某些情况下，保证金可能已经被用于支付因承包人原因导致的工程修复费用、工程延误产生的额外费用等合理且必要的支出。在计算退还金额时，应当将这部分已经支出的费用予以扣除。
- 法律依据：可参照《最高人民法院关于审理建设工程施工合同纠纷案件适用法律问题的解释（一）》中关于损失赔偿和费用承担的相关规定来确定保证金的退还数额。
工程质量不合格且修复后仍不合格：
- 情况说明：如果工程质量不合格，且经过修复后依然不合格，那么承包人不仅无权请求支付工程价款，也无权请求退还质量保证金（若保证金与质量相关）。这是因为承包人未能完成符合质量要求的建设工程任务，发包人接收的是一个无法正常使用的建设工程。
- 法律依据：依据《中华人民共和国民法典》第七百九十三条第二款的规定，建设工程施工合同无效，且建设工程经验收不合格的，修复后的建设工程经验收仍不合格的，承包人无权请求参照合同关于工程价款的约定折价补偿，同理，也无权请求退还质量保证金。
三、保证金退还的具体操作建议
为确保保证金能够顺利退还，双方当事人在处理保证金退还事宜时应遵循以下建议：
- 查阅合同条款：首先，双方应仔细查阅合同条款中关于保证金预留、返还等内容的约定，以确保退还过程有据可依。
- 协商沟通：在发现合同无效或需要解除时，双方应积极进行协商沟通，就保证金的退还事宜达成一致意见。
- 依法处理：如果协商无果或存在争议，双方应依法向有关部门申请调解或提起诉讼，以维护自己的合法权益。
综上所述，工程合同无效时，保证金原则上应当退还，但也需考虑特殊情形下的不予退还或部分退还情况。双方在处理保证金退还事宜时应遵循法律法规和合同约定，确保退还过程的顺利进行。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。