结论前置：别人在你家楼顶装监控是否违法，需结合具体情况判断。若监控拍摄范围涉及你家私密空间或活动，可能构成对隐私权的侵犯，属于违法行为；若监控主要出于安全防范目的且未侵犯隐私，则可能不违法。针对此情况，你可以采取友好协商、第三方调解、报警处理或法律诉讼等措施来维护自身权益。
详细分析：
可能违法的情形：
- 侵犯隐私权：根据《中华人民共和国民法典》第一千零三十二条，自然人享有隐私权，任何组织或个人不得以刺探、侵扰、泄露、公开等方式侵害他人隐私权。若楼顶的监控设备拍摄到你家内部的私密空间或活动，如家庭成员的日常起居、私人聚会等，即构成对你家隐私权的侵犯。
- 干扰正常生活：若因楼顶监控的设置导致你及家人正常生活受到不合理干扰，例如不敢自由出入家门、在家中不敢正常交谈等，影响了你的生活安宁，也可能构成侵权。
- 违反治安管理规定：如利用楼顶监控获取你的隐私信息后进行传播、宣扬，给你造成不良影响，还可能违反《中华人民共和国治安管理处罚法》第四十二条，该条款规定偷窥、偷拍、窃听、散布他人隐私的行为是违法的，行为人可能面临相应的行政处罚。
不违法的情形：
- 合理的安全防范目的：若楼顶监控主要为安装者自家的安全防范目的而设置，且只是不可避免地部分拍到公共部分（如楼顶的公共通道），且未用于不当用途，则通常不认定为违法。但即便如此，若监控范围涉及你家私密空间，仍可能构成侵权。
- 事先同意：若你在安装前已知情并同意安装，且监控范围未超出你同意的范围，则通常不构成违法。
应对措施：
友好协商：
- 首先尝试与安装监控者进行平和、理性的沟通，表达你的担忧和困扰，要求其调整监控角度或位置，避免拍摄到你家私密空间或活动。
第三方调解：
- 如协商无果，可请物业、居委会或村委会等第三方机构介入调解，以客观公正的角度协调双方，寻求解决方案。
报警处理：
- 若安装监控者拒绝调整监控且行为涉嫌违法，如偷窥、偷拍、窃听、散布他人隐私等，可向当地公安机关报案，说明情况并请求介入处理。
法律诉讼：
- 如上述措施均无法解决问题，且你的隐私权确实受到严重侵犯，应收集相关证据（如照片、视频等），向法院提起诉讼，要求安装监控者停止侵害并赔偿损失。
在处理此类问题时，请保持冷静和理性，尽量通过和平方式解决纠纷。同时，增强个人隐私保护意识，尊重他人的隐私权，共同维护和谐的邻里关系。若你还有其他疑问或需要进一步的法律帮助，请直接向我咨询。