名誉权案件中，原告妈妈之前开直播辱骂被告的行为是否违法，需要分情况讨论：

1. 若辱骂内容构成侮辱或诽谤：

   • 法律定性：根据《中华人民共和国民法典》第一千零二十四条，民事主体享有名誉权，任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。若原告妈妈在直播中使用的言辞具有侮辱性，或者散布了关于被告的虚假信息（诽谤），则该行为可能构成对被告名誉权的侵害。
   • 法律后果：被告有权要求原告妈妈停止侵害、恢复名誉、消除影响、赔礼道歉，并可以要求赔偿损失。若情节严重，如造成被告社会评价显著降低、精神损害严重等，还可能涉及刑事责任，如侮辱罪或诽谤罪（但需注意，刑事责任的追究通常需要被告自行向公安机关报案，且需达到一定的严重程度）。

2. 若辱骂内容未构成侮辱或诽谤，但属于不当言论：

   • 法律定性：即使辱骂内容未达到侮辱或诽谤的程度，但如果言辞激烈、不恰当，且在一定程度上影响了被告的名誉或社会评价，该行为仍可能被视为对被告名誉权的不当侵害，尽管可能不构成法律上的“侮辱”或“诽谤”。
   • 法律后果：被告仍有权要求原告妈妈停止不当言论，并可能要求赔礼道歉等民事救济措施。然而，在这种情况下，要求赔偿损失或追究刑事责任的可能性相对较低。

3. 特殊情况考虑：

   • 言论自由与名誉权的平衡：在言论自由与名誉权之间需要找到一个平衡点。如果原告妈妈的言论是基于事实、有合理依据的批评或评论，且未超出必要的限度，则可能不构成对被告名誉权的侵害。
   • 直播平台的责任：如果直播平台未尽到合理的审核和管理义务，导致侮辱性或诽谤性言论的传播，直播平台也可能需要承担一定的法律责任。

建议：

• 对于被告：如果认为原告妈妈的行为构成了对自己名誉权的侵害，建议收集相关证据（如直播录像、截图、证人证言等），并咨询专业律师，评估是否可以通过法律途径维护自己的权益。
• 对于原告妈妈：应意识到在公共场合（包括网络直播）发表言论时，需要尊重他人的名誉权，避免使用侮辱性或诽谤性的言辞。如果已经发生了不当言论，建议主动向被告道歉，并采取措施消除影响。

总结：名誉权案件中，原告妈妈之前开直播辱骂被告的行为是否违法，取决于辱骂内容是否构成侮辱或诽谤，以及是否对被告的名誉造成了实际损害。如有具体法律问题，可直接向我咨询。