互相辱骂在特定情况下是会受到行政处罚的。具体来说：
行政处罚的依据：
- 根据《中华人民共和国治安管理处罚法》第四十二条第二项的规定，公然侮辱他人或者捏造事实诽谤他人的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。这里的“公然”指的是在公共场合或有多人在场的情况下，或者采用能够使不特定的多人听到、看到的方式对他人进行辱骂。
行政处罚的判定：
- 实践中，判断是否属于“公然”以及情节轻重，会综合考虑场合、辱骂言辞的激烈程度、造成的社会影响等多种因素。例如，在网络平台上以恶俗、攻击性语言大规模辱骂他人，导致对方社会评价降低等不良后果，就可能被认定为公然侮辱他人，从而面临上述行政处罚。
刑事责任的可能性：
- 如果辱骂行为情节严重，如公然侮辱他人并造成严重后果，可能构成侮辱罪。根据《中华人民共和国刑法》的相关规定，以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，还可能面临三年以下有期徒刑、拘役、管制或者剥夺政治权利的刑事处罚。但需要注意的是，侮辱罪通常是自诉罪，即由受害者自行起诉；若严重危害社会秩序和国家利益，则可能由检察机关提起公诉。
民事责任：
- 从民事角度看，公开侮辱他人也侵犯了公民的名誉权。被辱骂者可要求侵权人赔礼道歉、消除影响、恢复名誉，并赔偿精神损害抚慰金等。若辱骂行为还造成了财产损失，侵权人也应承担相应的赔偿责任。
综上所述，互相辱骂不仅可能破坏社会和谐，还可能触犯法律并承担相应的法律责任。因此，建议在日常交往中保持文明礼貌，避免使用侮辱性或攻击性的言辞。如果遇到他人辱骂的情况，应通过合法途径及时维护自己的权益，必要时可向我寻求法律援助或向公安机关报案。