挂靠协议无效时，保证金通常是可以退还的，但具体能否退还及退还的金额，需根据协议无效的原因、双方过错程度以及实际履行情况等因素综合判断。以下从不同角度为你详细分析：
一、协议无效的法律基础
根据《中华人民共和国民法典》的相关规定，无效的民事法律行为自始没有法律约束力。若挂靠协议因违反法律、行政法规的强制性规定（如挂靠行为本身违法）或违背公序良俗等原因被认定为无效，则该协议自始不产生法律效力，双方基于该协议取得的财产应当予以返还。因此，在协议无效的情况下，保证金作为基于无效协议而支付的一方财产，原则上应当退还。
二、保证金退还的具体分析
协议无效的原因：
- 若协议无效是由于挂靠行为本身违法（如建筑行业的挂靠行为违反了建筑法的相关规定），则保证金应当全额退还，因为违法行为不受法律保护。
- 若协议无效是由于其他原因（如双方对协议内容存在重大误解、一方以欺诈手段使对方在违背真实意思的情况下签订协议等），则保证金退还的金额和方式可能需要根据双方过错程度进行协商或由法院判决。
双方过错程度：
- 在协议无效的情况下，如果双方都有过错，应当各自承担相应的责任。这意味着，如果挂靠方和被挂靠方在签订协议时都存在过错（如明知挂靠行为违法仍签订协议），则保证金可能不会全额退还，而是根据双方过错程度进行分担。
- 如果仅一方存在过错（如被挂靠方故意隐瞒挂靠行为的违法性），则过错方可能需要承担全部或大部分保证金退还的责任。
实际履行情况：
- 如果挂靠协议已经部分履行（如挂靠方已经使用被挂靠方的资质进行了一定时间的经营活动），则保证金退还的金额可能需要根据实际履行情况进行调整。例如，如果挂靠方已经使用了被挂靠方的资质并获得了相应的利益，则可能需要从保证金中扣除相应的费用后再退还剩余部分。
三、实际操作建议
收集证据：
- 在主张保证金退还时，挂靠方应收集并保存好与挂靠协议相关的所有证据（如协议文本、支付凭证、沟通记录等），以便在协商或诉讼过程中证明自己的主张。
协商解决：
- 在协议无效的情况下，双方可以首先尝试通过协商解决保证金退还的问题。协商时，可以依据上述分析的因素（如协议无效的原因、双方过错程度、实际履行情况等）进行友好沟通，争取达成一个双方都能接受的解决方案。
诉讼解决：
- 如果协商无果，挂靠方可以向法院提起诉讼，要求被挂靠方退还保证金。在诉讼过程中，法院将根据双方提供的证据和法律规定进行判决。因此，挂靠方应确保自己提供的证据充分、合法、有效，以便支持自己的主张。
最后需要强调的是，每个案件的具体情况都有所不同，因此保证金能否退还及退还的金额还需根据具体案件情况进行判断。如果你面临此类问题，可以直接向我咨询，我会根据你的具体情况为你提供更详细的法律建议。