关于使用地下水是否违法的问题，不能一概而论，需要分情况讨论：
合法使用地下水的情况：
- 取得取水许可证：根据《中华人民共和国水法》及相关规定，如果个人或单位需要取用地下水，应当向水行政主管部门或者流域管理机构申请领取取水许可证，并缴纳水资源费。在取得合法许可并按照许可条件使用地下水的情况下，是合法的。
- 家庭生活和零星散养、圈养畜禽饮用等少量取水：这类情况通常不需要申请取水许可证，但具体还需根据当地的水资源管理政策和规定来确定。
违法使用地下水的情况：
- 未经批准擅自取水：如果未取得取水许可证或者未按照取水许可规定条件取用地下水，就属于违法行为。根据《中华人民共和国水法》第六十九条，由县级以上人民政府水行政主管部门或者流域管理机构依据职权，责令停止违法行为，限期采取补救措施，处二万元以上十万元以下的罚款；情节严重的，吊销其取水许可证。
- 破坏地下水环境：在取水过程中，如果采取不合理的开采方式，导致地下水水位下降、地面沉降等环境问题，也可能构成违法。这不仅可能面临行政处罚，还可能承担民事赔偿责任。
法律建议：
- 了解当地政策：由于地下水的管理政策可能因地区而异，建议在使用地下水前，先了解当地的水资源管理政策和规定。
- 申请取水许可：如果需要大量取用地下水，务必向当地的水行政主管部门或者流域管理机构申请取水许可证，并按照许可条件使用。
- 合理开采：在取水过程中，应采取合理的开采方式，避免对地下水环境造成破坏。
可能后果：
- 如果未经批准擅自取水或者破坏地下水环境，可能面临行政处罚，包括罚款、吊销取水许可证等。
- 在严重情况下，还可能承担民事赔偿责任，甚至面临刑事责任（如构成非法采矿罪等，但这种情况较为罕见，通常需要达到一定的严重程度）。
举例说明：
- 假设某农户为了灌溉农田，未经批准擅自打井取水，这就属于违法行为。如果被发现，可能会面临罚款等行政处罚。
- 另一方面，如果某企业按照取水许可的规定条件取用地下水，并采取了合理的开采方式，那么这就是合法的行为，不会受到处罚。
总结：使用地下水是否违法，关键在于是否取得了合法的取水许可，并按照许可条件使用。同时，在取水过程中，也应注重保护地下水环境，避免造成不必要的损害。如果有任何疑问或需要进一步的法律帮助，请直接向我咨询。