资格审查未通过的情况下，投标保证金通常是可以退还的，但具体能否退还及退还方式需依据招标文件约定和法律规定来判断。以下从不同角度为您详细分析：
一、合同约定与招标文件规定
招标文件约定优先：
- 招标文件是招标活动的法律性文件，其中通常会明确规定投标保证金的退还条件、时间和方式。如果招标文件明确规定资格审查未通过的投标人，其投标保证金将予以退还，那么招标人应当按照约定退还。
- 法律依据：根据《中华人民共和国招标投标法实施条例》第三十一条，招标人终止招标的，应当及时发布公告，或者以书面形式通知被邀请的或者已经获取资格预审文件、招标文件的潜在投标人。已经发售资格预审文件、招标文件或者已经收取投标保证金的，招标人应当及时退还所收取的资格预审文件、招标文件的费用，以及所收取的投标保证金及银行同期存款利息。虽然此条直接规定的是招标人终止招标的情况，但体现了招标文件约定对投标保证金退还的重要性，且资格审查未通过可视为招标流程中的一种非正常终止情形，可参照此精神理解。
无约定或约定不明时的处理：
- 如果招标文件未明确规定资格审查未通过时投标保证金的退还问题，或者规定不明确，那么应当依据相关法律法规和行业惯例来判断。
- 行业惯例：在招标投标活动中，通常认为资格审查未通过并非投标人的过错（除非投标人提供虚假材料等），因此投标保证金应当予以退还。
二、法律规定与原则
公平原则：
- 招标投标活动应当遵循公平、公正、公开和诚实信用的原则。如果资格审查未通过的投标人因其非过错原因而丧失投标保证金，这显然违背了公平原则。
不当得利返还：
- 如果招标人因资格审查未通过而扣留投标保证金，且无法律依据或合同约定，那么这可能构成不当得利。根据《中华人民共和国民法典》的相关规定，不当得利应当返还给受损人。
三、实际操作与注意事项
及时沟通与协商：
- 如果资格审查未通过，投标人应及时与招标人沟通，了解投标保证金的退还情况，并就退还金额、方式等达成一致。
保留证据与投诉：
- 投标人应保留好相关证据，如招标文件、投标保证金支付凭证、资格审查结果通知等，以便在招标人拒绝退还投标保证金时，向相关部门投诉或依法提起诉讼。
合理主张权益：
- 投标人在主张退还投标保证金时，应合理、合法地提出要求，避免过度维权或采取不当手段。
四、特殊情况下的处理
- 如果资格审查未通过是因为投标人提供了虚假材料或存在其他违法行为：
- 在这种情况下，招标人不仅有权不退还投标保证金，还可能根据相关法律法规对投标人进行处罚。
总结与建议：
资格审查未通过时，投标保证金通常是可以退还的，但具体能否退还及退还方式需依据招标文件约定和法律规定来判断。建议您在参与招标活动时，仔细阅读招标文件，了解投标保证金的退还规定。如果资格审查未通过且招标人拒绝退还投标保证金，您可以及时与招标人沟通协商，并保留好相关证据以便维权。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。