结论：居民楼顶私自安装摄像头是否违法，需根据具体情况判断，主要看是否侵犯他人合法权益。以下从多个角度进行分析：

一、一般原则：不侵犯他人合法权益则不构成侵权

个人在自有空间内安装监控设备，如居民楼顶，通常属于合法行为，但前提是必须确保不侵犯他人的隐私权、肖像权或造成其他损害。若摄像头仅覆盖自家范围，且未拍摄到邻居的私人区域（如窗户、庭院等），一般不构成违法。

二、可能侵权的情形及法律后果

1. 侵犯隐私权

   • 表现：如果摄像头拍摄到了邻居的私密活动，如室内场景、私人对话，或者敏感信息，如健康状况，就可能构成对邻居隐私权的侵犯。
   • 案例：曾有业主将摄像头对准邻居卧室窗户，导致邻居生活细节被持续记录，法院最终判定其侵犯隐私权并责令拆除摄像头。
   • 法律依据：根据《民法典》第一千零三十二条，自然人享有隐私权，任何组织或者个人不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权。

2. 侵犯肖像权

   • 表现：如果未经允许拍摄了他人清晰的面部特征，并用于非必要用途，如传播或商业利用，就可能构成对肖像权的侵犯。
   • 例外：如果安装摄像头是为了维护公共安全，如防盗，且只是短暂记录影像，不涉及恶意使用，通常不构成侵权。

3. 侵犯相邻权

   • 表现：如果摄像头的安装位置影响了邻居的通风、采光等正常生活需求，就可能构成对相邻权的侵犯。
   • 处理：在这种情况下，邻居有权要求排除妨害，如果协商无果，可以诉诸法律。

4. 违反物业管理规定

   • 部分小区可能明文禁止安装监控设备，如果违反了这些规定，可能面临被要求整改或承担违约责任的风险。

三、如何合法安装监控设备

1. 合理选址

   • 避免将摄像头对准他人的门窗、阳台等私密区域。
   • 建议安装在自家入户门、院内等专属空间。

2. 提前沟通

   • 在安装前与邻居进行协商，尽量取得他们的书面或口头谅解。
   • 特别注意避免拍摄到儿童、老人等特殊群体。

3. 设置警示标识

   • 在监控范围内张贴提示牌，表明已经安装了监控设备。

4. 妥善管理数据

   • 定期清理录像，禁止非法传播或商用。
   • 如果发现异常画面，如盗窃线索，应及时移交公安机关。

四、争议解决途径

• 协商解决：优先通过物业、居委会等第三方进行调解。
• 法律途径：如果协商无果，可以向人民法院起诉，要求停止侵害、赔偿损失。
• 行政处罚：如果涉及偷拍、散布隐私等行为，可能面临治安管理处罚。

建议：在安装摄像头前，务必仔细考虑上述因素，确保自己的行为合法合规。如果有任何疑问或担忧，可以直接向我咨询，我会根据你的具体情况提供详细的法律建议。