结论前置：弟弟在母亲过世后反悔放弃继承母亲遗产的行为，在法律上是否有效，需根据具体情况判断。若弟弟在母亲生前明确表示放弃继承且该表示符合法律规定，则反悔通常无效；若放弃继承的表示存在瑕疵或母亲未留下有效遗嘱，弟弟可能仍有权继承部分遗产。
一、放弃继承的表示需符合法律规定
根据《中华人民共和国民法典》的相关规定，继承开始后，继承人放弃继承的，应当在遗产处理前，以书面形式作出放弃继承的表示；没有表示的，视为接受继承。因此，弟弟若要在母亲生前明确表示放弃继承，必须采用书面形式，并确保该表示是真实、自愿的。若弟弟在母亲生前以口头形式表示放弃继承，或该表示存在胁迫、欺诈等情形，则该表示可能无效，弟弟在母亲过世后反悔，仍可能享有继承权。
二、母亲是否留下有效遗嘱
若母亲留下有效遗嘱：
- 遗嘱中明确指定了遗产的分配方式，且弟弟在遗嘱中被明确排除在继承人之外，或遗嘱中指定的继承人（如其他子女）愿意按照遗嘱执行，则弟弟反悔放弃继承的行为通常无效。因为遗嘱具有法律效力，一旦成立并生效，就应当按照遗嘱的内容来分配遗产。
若母亲未留下有效遗嘱：
- 根据法定继承的规定，母亲的遗产将由其配偶、子女、父母等第一顺序继承人继承。若弟弟是第一顺序继承人之一，且他在母亲生前表示放弃继承的表示存在瑕疵（如未采用书面形式、存在胁迫等），则他反悔后可能仍有权继承部分遗产。因为法定继承下，各继承人的继承权是平等的，除非有明确的法律或遗嘱规定排除某人的继承权。
三、弟弟反悔后的法律后果
- 若弟弟反悔无效：则他不能继承母亲的遗产，遗产将按照遗嘱或法定继承的规定分配给其他继承人。
- 若弟弟反悔有效：则他可能与其他继承人协商遗产的分配方式，或通过法律途径解决争议。在这种情况下，法院将根据各继承人的实际情况、贡献大小、与被继承人的亲疏关系等因素，综合判断并确定遗产的分配比例。
四、建议与措施
对于弟弟：
- 若确实想放弃继承权，应确保放弃继承的表示符合法律规定（如采用书面形式、真实自愿等）。
- 若已表示放弃继承但反悔，应尽快与其他继承人协商解决争议，或咨询专业律师寻求法律帮助。
对于其他继承人：
- 应保留好母亲生前的遗嘱、放弃继承的书面表示等相关证据。
- 若弟弟反悔并引发争议，应积极应对并寻求法律途径解决争议。
举例说明：假设母亲生前留下了一份有效遗嘱，明确指定将遗产全部留给大儿子。弟弟在母亲生前以口头形式表示放弃继承，但未采用书面形式。母亲过世后，弟弟反悔并要求继承部分遗产。在这种情况下，由于遗嘱具有法律效力，且弟弟放弃继承的表示存在瑕疵（未采用书面形式），因此弟弟的反悔通常无效，他不能继承母亲的遗产。