针对您提出的“没有租房合同租的是家里人的房他不退房租我想起诉他都需要什么手续”这一问题，以下是我的详细解答：
结论前置：
- 起诉前准备：您需要收集相关证据，如转账记录、聊天记录等，以证明您与对方之间存在租赁关系及对方未退房租的事实。
- 起诉手续：撰写起诉状，明确诉讼请求、事实和理由，并附上相关证据材料，然后向有管辖权的人民法院提起诉讼。
详细解答：
一、起诉前准备
证据收集：
- 转账记录：如果您是通过银行转账或第三方支付平台支付房租的，请保留好相关的转账记录，这些记录可以作为您支付房租的直接证据。
- 聊天记录：如果您与对方有过关于租赁事宜的聊天记录，如微信、短信等，这些记录也可以作为证明租赁关系及对方未退房租的辅助证据。
- 其他证据：如证人证言、录音录像等，如果可能的话，也可以收集并保留，以增强您的证据力度。
了解法律关系：
- 尽管您与对方是家人关系，但租赁关系仍然受到法律的保护。即使没有书面合同，只要双方实际履行了租赁行为，就构成了事实上的租赁关系。
- 根据《中华人民共和国民法典》的相关规定，租赁期限六个月以上的，应当采用书面形式。当事人未采用书面形式，无法确定租赁期限的，视为不定期租赁。在不定期租赁中，双方均有权随时解除合同，但应当在合理期限之前通知对方。然而，这并不影响您要求对方退还已支付但未使用期间的房租。
二、起诉手续
撰写起诉状：
- 起诉状应当明确您的诉讼请求，即要求对方退还多少房租。
- 起诉状应当陈述事实和理由，包括您与对方之间的租赁关系、您已支付房租的情况、对方未退房租的事实等。
- 起诉状应当附上您收集的相关证据材料。
向法院提起诉讼：
- 您需要确定有管辖权的人民法院。一般来说，房屋租赁合同纠纷由房屋所在地人民法院管辖。
- 您可以将起诉状及相关证据材料提交给法院，并缴纳相应的诉讼费用。
- 法院在受理您的起诉后，会安排开庭审理，并根据事实和法律作出判决。
三、后续建议：
- 尝试协商：在起诉之前，您可以尝试与对方进行协商，看是否能够达成和解协议，避免不必要的法律纠纷。
- 寻求法律援助：如果您在起诉过程中遇到任何困难或疑问，可以随时向我咨询，我会根据您的具体情况提供专业的法律建议。
最后，我想强调的是，法律纠纷的处理需要耐心和细心。在起诉过程中，请务必保持冷静和理性，按照法律程序进行操作。如果您有任何疑问或需要进一步的帮助，请随时向我咨询。