您弟弟要砸家门的行为确实是违法的，并且您完全有权利报警。

砸门这种行为，不仅可能对您家的财产造成损害，更重要的是，它违反了社会治安和公共秩序。根据《治安管理处罚法》的相关规定，任意损毁公私财物属于寻衅滋事行为，会受到相应的法律处罚。具体来说，如果情节较轻，公安机关可能会对行为人进行批评教育；如果涉嫌扰民，会依法处以警告，警告后不改正的，还会处以二百元以上五百元以下的罚款。而如果情节较重，比如构成了寻衅滋事，那么行为人可能会面临五日以上十日以下的拘留，并可以并处五百元以下的罚款；情节特别严重的，处十日以上十五日以下拘留，并可以并处一千元以下的罚款。

因此，我建议您在发现弟弟有此类行为倾向时，及时与他沟通，尝试化解矛盾，避免事态升级。如果沟通无果，或者他已经开始了砸门等违法行为，那么您应该立即报警，让公安机关来处理，以维护您的合法权益和家庭的安全稳定。