租房未签合同且定金不退时，虽然可以报警，但警察主要起调解作用，并不能直接解决民事合同纠纷。更有效的解决途径是通过民事方式，包括自行协商、向调解机构申请调解、向房屋管理部门求助或向法院提起诉讼来维护自身权益。

详细分析如下：

1. 定金性质与退还规则：

   • 定金在租赁关系中作为一种担保方式，用于确保双方按约定履行。若因租客原因不想租了，根据定金罚则，房东有权不退还定金；反之，若因房东原因导致无法签订合同，租客可要求双倍返还定金。若因不可归责于双方的事由导致合同无法签订，定金应当退还。

2. 报警的局限性与建议的解决途径：

   • 报警在此类纠纷中主要起到协调和调解的作用，但并不能直接解决民事合同纠纷。因此，建议优先通过民事途径解决，包括：
     • 自行协商：与房东进行友好沟通，明确双方的权利和义务，尝试就定金退还问题达成一致。
     • 调解：向人民调解委员会申请调解，由第三方介入调解纠纷，促进双方和解。
     • 向房屋管理部门求助：寻求房屋管理部门的协助，以促使出租方按照规定退还定金。
     • 诉讼：若协商、调解和行政求助均无果，可向有管辖权的人民法院提起民事诉讼，要求对方退还定金并承担违约责任。在诉讼过程中，需提供充分证据支持自己的主张。

3. 证据的重要性：

   • 无论采取何种解决途径，搜集并保存好相关证据（如转账记录、聊天记录等）都是至关重要的。这些证据将成为支持自己主张的有力依据。

综上所述，租房未签合同且定金不退时，建议首先尝试通过民事途径解决纠纷。在采取行动之前，了解相关法律法规和自身权益，并准备好充分的证据来支持自己的主张。如果遇到困难或不确定如何操作，可以直接向我咨询，我将为你提供专业的法律建议和支持。