结论前置：拍卖公司前期不收费但要求交保证金的行为，在符合相关法律法规和合同约定的情况下，是合法的。不过，具体是否合法还需结合保证金性质、合同条款及实际履行情况综合判断。以下从不同角度为你详细分析：

一、保证金的法律性质与合法性基础

1. 保证金作为担保方式
   根据《民法典》第三百八十七条，担保物权人在债务人不履行到期债务时，依法享有就担保财产优先受偿的权利。保证金若被明确约定为担保性质（如履约保证金、违约保证金），其本质是债务人或第三人向债权人提供的金钱担保，只要合同双方自愿达成合意且不违反法律强制性规定，该约定即合法有效。

2. 保证金与定金的区别
   若保证金被约定为“定金”，则需适用《民法典》第五百八十六条至第五百八十八条的规则：

   • 定金数额不得超过主合同标的额的20%；
     
   • 给付定金方不履行债务的，无权要求返还定金；收受定金方不履行的，应双倍返还定金。
     若拍卖公司未明确保证金为“定金”，则不适用定金罚则，但需在合同中明确保证金的处理规则（如退还条件、扣除情形等）。

二、合法性判断的关键要素

1. 合同条款的明确性
   拍卖公司应在合同中清晰约定保证金的性质、金额、支付方式、退还条件及违约责任。例如：

   • 若约定“竞买人未成交的，保证金在拍卖结束后3个工作日内无息退还”，则符合《民法典》第四百九十六条关于格式条款公平性的要求；
     
   • 若约定“保证金用于抵扣拍卖佣金或违约赔偿”，则需明确具体抵扣规则，避免模糊表述导致争议。

2. 实际履行与合同一致性
   即使合同条款合法，若拍卖公司存在以下行为，仍可能构成违法：

   • 未按约定退还保证金（如无故拖延、克扣）；
     
   • 将保证金挪作他用（如用于公司运营资金）；
     
   • 在竞买人无违约情形下单方没收保证金。
     此类行为可能涉及《消费者权益保护法》第五十六条的“欺诈”或《刑法》第二百七十条的“侵占罪”，竞买人可依法维权。

三、竞买人的风险防范建议

1. 审查合同条款
   签订合同前，重点关注以下条款：

   • 保证金是否与拍卖成交价挂钩（如按成交价的5%收取）；
     
   • 退还条件是否附加不合理限制（如要求提供“未参与其他拍卖”的证明）；
     
   • 违约情形是否明确（如迟到、弃标等具体行为）。

2. 保留支付凭证
   通过银行转账、第三方支付平台等可追溯方式支付保证金，避免现金交易。支付时备注“拍卖保证金”并留存转账记录，作为后续维权证据。

3. 及时主张权利
   若拍卖公司未按约定退还保证金，可先通过书面催告（如律师函）要求退还；若仍无果，可向当地市场监督管理部门投诉或直接向法院起诉，主张返还保证金及利息（按LPR计算）。

四、特殊情形提示

• 网络拍卖平台：若通过淘宝、京东等第三方平台参与拍卖，还需遵守平台规则（如《淘宝拍卖平台管理规范》），部分平台可能对保证金退还有额外要求（如“拍卖结束后24小时内自动解冻”）。
  
• 司法拍卖：若参与法院组织的司法拍卖，保证金退还规则由《最高人民法院关于人民法院网络司法拍卖若干问题的规定》调整，通常要求“拍卖成交后买受人悔拍的，保证金不予退还；未成交的，保证金在拍卖结束后3个工作日内退还”。

总结：拍卖公司收取保证金的行为本身不违法，但需以合同明确约定为前提。竞买人应仔细审查合同条款、保留支付凭证，并在权益受损时及时通过法律途径维权。如有具体合同或纠纷细节，可进一步向我咨询，我会结合实际情况为你分析。