结论概述：房子归属问题需结合房产代持协议效力、父亲遗产份额及母亲意愿综合判断。若协议有效且母亲自愿，房产可能归哥哥；若协议无效或母亲非自愿，则涉及父亲遗产继承问题，需按法定继承或遗嘱继承处理。

详细分析：

1. 房产代持协议的效力：

   • 协议有效性：首先，需要判断哥哥逼迫母亲签订的房产代持协议是否有效。根据《民法典》的相关规定，一方以欺诈、胁迫的手段订立合同，损害国家利益，或恶意串通，损害国家、集体或者第三人利益的，合同无效。若哥哥确实存在逼迫行为，且该行为损害了母亲的合法权益，那么这份协议很可能是无效的。
   • 母亲意愿：即使协议形式上存在，但如果母亲能够证明自己是在被逼迫的情况下签订的，且并非其真实意愿，那么该协议在法律上也是不被认可的。

2. 房产的原始出资与归属：

   • 原始出资：房产是由父亲和哥哥共同出资购买的，这构成了房产的原始出资情况。在父亲去世后，其出资部分应视为其遗产。
   • 房产归属原则：一般来说，房产的归属应依据出资情况、产权登记以及相关法律法规来判断。若房产登记在父亲或母亲名下，且没有明确的约定表明房产归哥哥所有，那么房产的归属就需要进一步分析。

3. 父亲遗产的继承：

   • 法定继承：若父亲未留下遗嘱，则其遗产（包括房产中的相应份额）应按照法定继承来处理。根据《民法典》的规定，第一顺序继承人包括配偶、子女、父母。因此，母亲、哥哥以及其他子女（如果有的话）都有权继承父亲的遗产。
   • 遗嘱继承：若父亲留下了遗嘱，且遗嘱中明确规定了房产的归属，那么应按照遗嘱来处理。但需要注意的是，遗嘱必须合法有效，且不得违反法律法规的强制性规定。

4. 综合判断：

   • 若协议无效：如果房产代持协议被认定为无效，且父亲未留下遗嘱或遗嘱无效，那么房产中的父亲份额应作为遗产进行法定继承。此时，母亲、哥哥以及其他子女（如果有的话）都有权继承相应的份额。
   • 若协议有效但母亲非自愿：即使协议在形式上有效，但如果母亲能够证明自己是在被逼迫的情况下签订的，且并非其真实意愿，那么该协议在法律上也是不被认可的。此时，房产的归属仍需按照上述法定继承或遗嘱继承的原则来处理。
   • 特殊情况：如果母亲在签订协议后，出于某种原因（如为了家庭和谐）愿意将房产过户给哥哥，且该行为是其真实意愿的表示，那么房产可能最终归哥哥所有。但这种情况需要母亲明确表示并办理相应的过户手续。

建议与行动：

• 收集证据：母亲应尽快收集相关证据，如签订协议时的录音、录像、证人证言等，以证明自己是在被逼迫的情况下签订的协议。
• 咨询律师：建议母亲咨询专业律师，了解自己的权益和可能的法律途径。律师可以根据具体情况提供针对性的法律建议和帮助。
• 协商或诉讼：在律师的指导下，母亲可以与哥哥进行协商，寻求和解或达成新的协议。如果协商无果，母亲可以考虑通过法律途径来维护自己的权益，如提起诉讼要求确认协议无效或要求继承父亲的遗产。

后续思考：

• 家庭关系处理：在处理此类纠纷时，除了考虑法律因素外，还应考虑家庭关系的维护。尽量通过协商、调解等方式来解决纠纷，以减少对家庭关系的伤害。
• 预防措施：为了避免类似纠纷的发生，建议家庭成员在涉及房产等重大财产时，应提前进行明确的约定和规划，如签订书面协议、办理公证等。

如有任何疑问或需要进一步的法律帮助，请直接向我咨询。