收取租房定金但未签订合同本身不直接构成违法，但可能引发定金退还等纠纷，需根据具体情况处理。以下分情况详细说明：

1. 若因出租方原因未签合同
   根据《民法典》第五百八十七条，收受定金方不履行债务或履行不符合约定，致使合同目的不能实现的，应当双倍返还定金。例如：房东收取定金后反悔不租，或故意拖延导致无法签约，此时租客有权要求房东双倍返还定金（如定金1000元，需返还2000元）。若房东拒绝，租客可通过协商、调解或诉讼主张权利。

2. 若因承租方原因未签合同
   若租客因自身原因（如改变租房意向、资金不足等）拒绝签约，根据定金罚则，出租方有权不予退还定金。但需注意：若双方未明确约定定金性质（如未书面注明“定金”字样），或出租方未实际收取定金（仅口头约定），则可能不适用定金罚则，此时租客可主张退还部分或全部款项。

3. 若因不可归责于双方的原因未签合同
   例如：房屋因政策调整无法出租、突发自然灾害导致房屋损毁等，此时双方均无过错，定金应全额退还。若出租方已实际支出费用（如中介费、清洁费等），可与租客协商分担，但需以实际损失为限，不得强行扣留定金。

处理建议：

• 优先协商：双方可就定金退还、违约责任等条款达成书面补充协议，避免纠纷升级。
  
• 留存证据：保存定金收据、聊天记录、录音等证据，以证明双方约定及未签约原因。
  
• 法律途径：若协商无果，可向当地房管部门投诉，或直接向法院起诉，主张定金返还或赔偿。
  

温馨提示：租房定金建议以书面形式约定，明确金额、性质（定金/订金）、违约责任等条款，避免口头约定引发争议。若您遇到类似纠纷，可直接向我咨询具体处理方案。