哥哥能起诉分割房产，但能否成功需视具体情况而定。以下从不同角度进行分析：
一、法律角度：房产继承与分割的法律依据
法定继承原则：
- 根据《中华人民共和国民法典》继承编的相关规定，被继承人去世后，其遗产（包括房产）应按照法定继承或遗嘱继承的方式进行处理。
- 若父亲未留下遗嘱，则房产应按照法定继承顺序进行分割，即由配偶、子女、父母等第一顺序继承人共同继承。
遗嘱继承优先：
- 若父亲留下了有效遗嘱，明确指定房产全部由弟弟继承，则哥哥无权要求分割。
- 但若遗嘱存在瑕疵（如非父亲真实意愿、违反法律强制性规定等），则可能被认定为无效，此时房产仍按法定继承处理。
共同共有与按份共有：
- 若房产为父母共同财产，父亲去世后，其份额应作为遗产进行分割。母亲作为共有人，仍享有其原有份额。
- 哥哥和弟弟作为第一顺序继承人，有权继承父亲在房产中的份额。若未进行分割，房产可能处于共同共有状态。
二、实际操作角度：起诉分割房产的流程与要点
收集证据：
- 哥哥需收集相关证据，如房产证、父亲去世证明、遗嘱（如有）、家庭关系证明等，以证明其有权继承房产。
提起诉讼：
- 哥哥可向法院提起继承纠纷诉讼，要求分割房产。法院将根据证据和法律规定进行审理。
法院审理与判决：
- 法院将审查遗嘱的有效性（如有）、继承人的资格和份额等，并作出判决。若判决支持哥哥的诉求，则房产将进行分割。
三、特殊情况考虑
母亲意愿：
- 若母亲愿意将其份额或部分份额转让给弟弟，且该行为不违反法律规定，则哥哥可能无法获得更多份额。
- 但母亲无权单方面决定父亲遗产的分配，除非父亲遗嘱中有明确指示。
家庭协商：
- 在诉讼前，哥哥可尝试与弟弟和母亲进行协商，寻求和解。若协商成功，可签订协议并办理相关手续。
四、法律建议与风险提示
法律建议：
- 哥哥在起诉前应咨询专业律师，了解其权利和义务，以及诉讼的可能结果。
- 哥哥应收集并保存好相关证据，以便在诉讼中证明其主张。
风险提示：
- 诉讼存在不确定性，哥哥可能无法获得其期望的房产份额。
- 诉讼过程可能耗时较长，且涉及一定的法律费用。
总结与行动指南：哥哥能起诉分割房产，但能否成功取决于遗嘱的有效性、继承人的资格和份额等因素。在起诉前，哥哥应咨询专业律师并收集相关证据。若协商无果，可向法院提起诉讼。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。