小区顶楼违规安装信号扩大器是违法的。

首先，从法律角度来看，私自安装信号扩大器可能违反相关法律法规，因为这类设备的安装和使用通常需要经过相关部门的审批和许可。未经许可，擅自安装和使用可能构成违法行为。

其次，从实际操作层面分析，信号扩大器的安装和使用可能会对其他居民的通信质量产生影响，甚至可能干扰到正常的通信秩序。因此，物业或相关部门通常会对这类行为进行管理和规范，以确保小区内的通信环境和谐有序。

最后，如果小区内信号不佳，建议通过合法途径向相关部门或运营商反映问题，由他们进行专业的评估和处理。例如，可以联系运营商的客服部门，反映信号问题，并请求他们进行信号优化或增设基站等措施。这样既能解决信号问题，又能避免违法行为带来的法律风险。

综上所述，小区顶楼违规安装信号扩大器是违法的，建议通过合法途径解决信号问题。