结论：租房定金超过房租20%且未签合同的情况下，能否要求退还定金，关键在于分析未能签订合同的具体原因。以下是几种可能的情况及对应的处理建议：

1. 房东违约

   • 情形说明：如果因为房东的原因（比如房东将房屋租给了其他人，或者临时提高了租金等）导致你们未能签订租赁合同，这可以视为房东违约。
   • 处理建议：根据定金罚则，收受定金的一方（即房东）不履行约定的债务时，应当双倍返还定金。因此，你有权要求房东返还双倍的定金。例如，如果你支付了500元作为定金，房东违约不租，那么房东需要返还给你1000元（原定金500元+等额赔偿500元）。

2. 不可归责于双方的事由

   • 情形说明：如果因为政策变化、不可抗力（如地震导致房屋损坏无法居住）等外部因素，导致你们无法签订租赁合同。
   • 处理建议：在这种情况下，房东应当将定金全额退还给你，因为这不是由于你们双方的过错导致的合同未成立。

3. 合同条款协商不一致

   • 情形说明：如果你们在租金支付方式、租赁期限等关键条款上无法达成一致，导致未能签订租赁合同。
   • 处理建议：这种情况下，不能归咎于任何一方，房东应当退还定金给你。比如，你希望按季度支付租金，但房东要求半年支付一次，双方协商未果，那么房东应当退还定金。

4. 租客违约

   • 情形说明：如果因为你自己改变主意不想租了，或者其他你自身的原因导致未能签订租赁合同。
   • 处理建议：按照定金罚则，给付定金的一方（即你）不履行约定的债务时，无权要求返还定金。房东有权没收全部或部分定金作为补偿，具体视你们之间的约定及实际情况而定。不过，由于你们并未签订正式合同，房东没收全部定金可能缺乏明确的法律依据，你可以尝试与房东协商，争取部分退还。

额外建议：

• 友好沟通：在任何情况下，尝试与房东进行友好沟通都是解决定金问题的首要步骤。了解对方的立场，寻求共识，往往能够更高效地解决问题。
• 保留证据：在交易过程中，务必保留好所有相关证据，如聊天记录、收据等。这些证据在后续可能发生的纠纷中，将起到至关重要的作用。

最后，我想强调的是，虽然定金超过房租20%并不直接决定定金能否退还，但定金数额的合理性也可能成为双方协商或诉讼中的一个考量因素。如果遇到复杂情况或纠纷难以解决，你可以直接向我咨询，我会根据你的具体情况提供更详细的法律建议。