结论前置：租金定金在未签订书面合同的情况下能否退还，主要取决于未能签订合同的具体原因以及双方是否有关于定金退还的约定。以下是对此问题的详细分析：
一、定金退还的一般原则
根据《民法典》的相关规定，定金作为担保方式，具有从属性、实践性、预先支付性和双重担保性等特点。在租赁合同中，若因一方原因导致合同未能签订或履行不符合约定，定金的处理原则如下：
- 给付定金方违约：若租客（给付定金方）不履行债务或履行债务不符合约定，导致合同目的无法实现，无权请求返还定金。
- 收受定金方违约：若房东（收受定金方）不履行债务或履行债务不符合约定，导致合同目的无法实现，应当双倍返还定金。
二、未签订书面合同时定金的退还情况
因不可归责于双方的事由
- 情形说明：如因不可抗力（自然灾害、政府政策变动等）或双方就合同主要条款无法达成一致意见，导致租赁合同未能订立。
- 处理原则：房东应当将定金原数返还给租客，因为此时双方均无过错，不应承担违约责任。
因交付定金一方（租客）的原因
- 情形说明：租客在交付定金后，因个人原因（如改变主意、找到更合适的房源等）决定不再租房。
- 处理原则：根据定金罚则，房东有权不退还定金。定金在此情况下作为违约的一种惩罚，确保合同的严肃性和履行性。
因收受定金一方（房东）的原因
- 情形说明：房东在收受定金后，因自身原因（如将房屋另租他人、房屋状况变化等）无法或拒绝与租客签订合同。
- 处理原则：房东应当双倍返还定金给租客，以此作为对房东违约行为的惩罚，并保障租客的合法权益。
双方有口头约定且有证据证明
- 情形说明：虽无书面合同，但双方对定金退还条件有一致意见，并有证据（如聊天记录、通话录音等）证明。
- 处理原则：符合约定条件时，定金应退还。例如，双方约定若因房东原因未能签约，则定金全额退还，并有相关证据支持。
定金数额超过法定比例
- 情形说明：定金数额超过主合同标的额的20%。
- 处理原则：超出部分不具有定金效力，租客可要求退还。例如，若租金总额为1000元/月，定金超过200元的部分，租客有权要求退还。
三、特殊注意事项与建议
- 签订书面协议：为避免纠纷，建议在支付定金前与房东签订书面定金协议或租赁合同，明确定金数额、用途及退还条件。
- 保留相关证据：妥善保存转账记录、收据、聊天记录等证据，以备日后解决纠纷之需。这些证据在证明定金交付及双方约定时至关重要。
- 及时协商沟通：无法签订租赁合同时，应及时与房东沟通并寻求解决方案。通过友好协商，往往能达成双方都能接受的解决方案。
- 了解法律后果：在支付定金前，了解相关法律法规及定金罚则，明确自己的权利和义务，避免因不了解法律而遭受损失。
举例说明：假设租客支付了500元定金给房东，但因房东原因（如将房屋另租他人）导致未能签订租赁合同。根据定金罚则，房东应双倍返还定金，即退还租客1000元。若因租客自身原因（如改变主意）导致未能签约，则房东有权不退还定金。
综上所述，租金定金在未签订书面合同的情况下的退还问题，需结合具体原因及双方约定进行判断。遵循相关法律法规，并注重证据的保留与沟通协商，是有效处理此类问题的关键。若你遇到此类纠纷，可直接向我咨询，我会为你提供更具体的法律建议。