面对租房未签合同且房东拒绝退还押金的情况，您可以按照以下步骤来有效维护自身权益：
一、明确法律立场与收集证据
首先，要了解相关的法律依据。根据《中华人民共和国民法典》，即使未签订书面租赁合同，只要租赁期限超过六个月，法律上仍视为不定期租赁。押金作为保障房东权益的一种方式，在租客无违约行为且完成房屋交接后，房东应当退还。同时，您需要收集所有能证明租赁关系及押金交付的证据，如转账记录、聊天记录、通话录音等。这些证据在后续的协商、投诉或诉讼中都将起到关键作用。
二、尝试友好协商
与房东沟通：主动与房东进行平和的沟通，明确表达您没有违约行为，并要求退还押金。在沟通过程中，保持冷静和理性，避免情绪化的冲突，这有助于双方更好地理解彼此的立场。
提出解决方案：如果房东提出异议或拒绝退还押金，您可以尝试提出一些解决方案，如分担清洁费用或自行安排清洁等，以达成退还押金的目的。如有必要，双方可以签订书面退款协议，以确保各自的权益。
三、寻求第三方协助调解
房屋中介或居委会/物业：如果租房是通过房屋中介进行的，您可以请求中介作为专业的居间服务方出面调解。另外，房屋所在地的居委会或物业也具备调解经验和公信力，可以请求他们介入调解。
消费者协会：租房属于消费范畴，您还可以向消费者协会投诉（拨打12315）。消协会提供法律法规指导，并协调您与房东之间的纠纷。
四、考虑法律途径
发送律师函：如果上述方法均无效，您可以考虑委托律师向房东发送律师函。律师函具有法律威慑力，能够明确指出房东行为的法律后果，并督促其退还押金。
提起诉讼：若律师函仍不起作用，您可以向房屋所在地的人民法院提起诉讼。在诉讼前，请确保您已准备充分的证据，包括支付押金的转账记录、聊天记录、通话录音等。通过法律程序，您可以要求房东退还押金，并主张因追讨押金产生的合理费用。
五、预防未来纠纷
为了避免未来类似纠纷的发生，强烈建议您在租房时务必签订书面的租赁合同。合同中应详细约定租赁期限、租金支付方式、押金金额及退还条件等重要条款，以确保双方权益得到明确保障。
在整个过程中，请保持冷静和理性，收集并保留好所有相关证据。如有需要，建议咨询专业法律人士以获取更具体的法律建议。希望这些建议能够帮助您有效维护自身权益。