结论：未签订书面合同的情况下，原则上可以先行收取履约保证金，但需满足特定条件且存在法律风险，需谨慎操作。 以下从法律逻辑、实务操作、风险防范三个维度展开分析：
一、法律逻辑层面：履约保证金与合同成立的关系
合同成立≠合同生效
根据《民法典》第469条，合同可采用书面、口头或其他形式成立。即使未签订书面合同，若双方已就主要条款（如标的、价款、履行方式）达成合意，合同仍可成立。此时收取履约保证金，可视为双方对合同履行的担保约定，具有法律效力。
保证金性质决定合法性
- 若保证金明确为“履约担保”（如约定“乙方违约时甲方有权没收保证金”），其性质属于担保法中的“金钱担保”，需以书面形式明确担保条款（参考《民法典》第685条）。
- 若保证金实际为“定金”，则需适用定金罚则（如《民法典》第587条），且定金数额不得超过主合同标的额的20%，否则超出部分无效。
二、实务操作层面：未签合同收保证金的可行性
可操作的情形
- 双方已达成口头合意：例如通过邮件、微信等记录确认合作意向，此时收取保证金可视为对口头合同的履行担保。
- 行业惯例支持：如建设工程领域，承包方常在签约前支付投标保证金或履约保证金，以证明履约能力。
- 单方承诺有效：若一方出具书面文件（如《保证金收据》）明确保证金用途、退还条件，即使未签合同，该文件仍可构成独立约定。
需规避的风险
- 证据缺失风险：若无书面合同或有效记录，对方可能否认保证金性质，主张为“借款”或“不当得利”。
- 条款模糊风险：未明确保证金退还条件（如“验收合格后退还”），易引发纠纷。
- 主体资格风险：若对方为无民事行为能力人或限制行为能力人，保证金约定可能无效。
三、风险防范建议
优先签订书面合同
即使需先行收取保证金，也应尽快补签合同，并在合同中明确：
- 保证金金额、支付方式、退还条件；
- 违约情形及保证金没收规则；
- 争议解决方式（如仲裁或诉讼）。
完善证据链
- 通过邮件、短信、微信等记录确认保证金用途（如“为确保履行XX合同，乙方支付保证金5万元”）；
- 要求对方出具《保证金支付说明》，载明支付目的、合同关联性。
设置合理金额
若保证金性质为定金，需确保不超过合同标的额的20%；若为履约担保，建议根据项目风险设定合理比例（如5%-10%）。
总结：未签合同收保证金并非绝对禁止，但需以“双方合意+证据充分”为前提。建议优先通过书面形式固定权利义务，避免因程序瑕疵导致权益受损。如有具体场景需进一步分析，可随时向我咨询。