关于你和弟弟签的租房协议，弟弟转租给哥哥但未签合同是否合法的问题，结论是：若未经过你同意，则弟弟的转租行为不合法；若经过你同意，但未签书面合同，转租期限超过六个月的部分无效。下面我详细解释一下：

1. 转租需经出租人同意：

   • 根据《民法典》第七百一十六条的规定，承租人经出租人同意，可以将租赁物转租给第三人。承租人转租的，承租人与出租人之间的租赁合同继续有效；第三人造成租赁物损失的，承租人应当赔偿损失。
   • 因此，在你和弟弟的租房协议中，如果未明确约定弟弟有权转租，那么弟弟将房屋转租给哥哥需要得到你的同意。若未经你同意，弟弟的转租行为构成违约，你有权解除合同并要求赔偿损失。

2. 转租合同的书面形式要求：

   • 根据《民法典》第七百零七条的规定，租赁期限六个月以上的，应当采用书面形式。当事人未采用书面形式，无法确定租赁期限的，视为不定期租赁；当事人可以随时解除合同，但是应当在合理期限之前通知对方。
   • 因此，如果弟弟经过你同意将房屋转租给哥哥，但转租期限超过六个月，且未签订书面合同，那么转租合同中关于租赁期限超过六个月的部分将无效。这意味着哥哥在六个月后的租赁权益将无法得到法律的有效保护。

综上所述，弟弟转租给哥哥但未签合同的行为，若未经过你同意则不合法；若经过你同意但未签书面合同，且转租期限超过六个月，则转租合同中关于租赁期限超过六个月的部分无效。建议你尽快与弟弟和哥哥沟通，明确转租事宜，并签订书面的转租合同以保障各方的合法权益。如果你有任何疑问或需要进一步的法律帮助，请直接向我咨询。