针对您提出的关于两兄弟之间住宅转让应签订土地住宅转卖合同还是分家协议书的问题，我会从法律和实际操作两个层面为您详细分析。

首先，从法律层面来看，签订土地住宅转卖合同是更为稳妥和必要的选择。合同作为明晰双方权利义务的关键书面材料，能够详细约定房屋的坐落位置、面积大小、价格、付款方式、交房时间等重要条款。这些条款的明确约定，有助于防止日后因口头约定不清楚而引发的纠纷。例如，若未签订合同，一旦在付款时间、房屋交付标准等方面出现争议，双方将很难拿出有力证据来支持自己的主张，这可能导致交易陷入僵局，甚至引发法律诉讼。

相比之下，分家协议书虽然也能在一定程度上明确双方的权利和义务，但其法律效力和具体性可能不如合同。分家协议书更多是在家庭内部进行财产分配时使用，它可能更侧重于家庭关系的调整和财产的大致划分，而不太注重交易细节和法律条款的严谨性。

其次，从实际操作层面来看，签订土地住宅转卖合同也有利于保障交易的合法性和安全性。在办理房屋过户登记等手续时，书面合同是不可或缺的重要依据。同时，在应对第三方主张权利等情况时，书面合同也能为双方权益提供有力支持，降低交易风险。

因此，我建议您两兄弟在住宅转让时选择签订土地住宅转卖合同。这样不仅能确保交易的规范性和合法性，还能有效避免日后可能出现的纠纷和风险。当然，在签订合同前，双方应充分沟通并明确各自的权利和义务，确保合同条款的公平、合理和明确。如有需要，还可以咨询专业律师或房产中介机构的意见，以确保合同的合法性和有效性。