单位使用井水是否违法，不能一概而论，需要分情况讨论：
若单位使用井水已取得合法取水许可：
- 在这种情况下，单位使用井水是合法的。根据《中华人民共和国水法》的相关规定，直接从江河、湖泊或者地下取用水资源的单位和个人，应当按照国家取水许可制度和水资源有偿使用制度的规定，向水行政主管部门或者流域管理机构申请领取取水许可证，并缴纳水资源费，取得取水权。因此，如果单位已经按照法定程序取得了取水许可证，那么其使用井水的行为就是合法的。
若单位使用井水未取得合法取水许可：
- 在这种情况下，单位使用井水可能是违法的。未经批准擅自取水的，由县级以上人民政府水行政主管部门或者流域管理机构依据职权，责令停止违法行为，限期采取补救措施，处二万元以上十万元以下的罚款；情节严重的，吊销其取水许可证。这意味着，如果单位没有取得取水许可证就擅自使用井水，那么它将面临法律制裁，包括罚款和可能的吊销取水许可证等。
额外建议与注意事项：
- 合规性检查：单位在使用井水前，应首先确认是否已经取得了合法的取水许可。如果没有，应尽快向当地水行政主管部门或流域管理机构申请办理取水许可证。
- 水资源保护：即使单位已经取得了取水许可，也应合理使用水资源，避免浪费和污染。水资源是宝贵的自然资源，保护水资源是每个单位和个人的责任。
- 法律咨询：如果单位对取水许可的申请流程、使用规定等存在疑问，建议咨询专业的法律人士或当地水行政主管部门，以确保合规使用水资源。
总结来说，单位使用井水是否违法取决于其是否取得了合法的取水许可。如果已取得许可，则合法；如果未取得许可，则可能违法并面临法律制裁。因此，单位在使用井水前应确保合规性，并合理使用和保护水资源。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。