针对您提出的“地上建筑合法，地下建筑违法需要怎么整改”的问题，以下是我根据相关法律法规和规范性文件，为您提供的详细解答：
一、法律法规依据
首先，我们需要明确的是，根据《中华人民共和国城乡规划法》第六十四条的规定，对于未取得建设工程规划许可证或者未按照建设工程规划许可证的规定进行建设的行为，城乡规划主管部门有权责令停止建设，并根据违法建设的具体情况，采取相应的改正措施或处罚。
二、判断地下建筑是否可以采取改正措施
在判断地下建筑是否可以采取改正措施时，我们需要综合考虑以下几个方面：
是否符合控制性详细规划：地下建筑是否位于城乡规划确定的建设用地范围之内，且没有实质性违反详细规划关于各地块的主要用途、建筑密度、建筑高度、容积率、绿地率等强制性内容要求。
是否损害社会公共利益：地下建筑是否危害公共卫生、公共安全，是否破坏文物古迹和风景名胜等。
是否损害他人在先的合法利益：地下建筑是否影响他人合法建筑物安全或使用。
是否通过必要审批手续：地下建筑是否通过了立项、土地、环保、建设等有关部门必要的审批手续，符合核发新的建设工程规划许可证的相关前提条件。
如果地下建筑满足上述条件，且可以通过局部拆除、整改补建或补办手续等方式消除对规划实施的影响，那么就可以认为该地下建筑可以采取改正措施。
三、可以采取的改正措施
针对可以采取改正措施的地下建筑违法建设，我们可以根据不同的违法情形，采取以下具体而有效的改正措施：
局部拆除：如果地下建筑部分与规划许可要求存在较大偏差，且需要拆除部分建筑不会对整体建筑造成严重负面影响，那么可以考虑对超出规划许可范围的部分进行拆除。
整改补建：如果地下建筑部分与规划许可要求存在的偏差不大，且通过整改或补建可以消除对规划实施的影响，那么可以考虑调整建筑高度、层数、立面风格等，或者增设必要的公共设施、调整建筑用途等。
补办手续：如果地下建筑本身符合规划要求，但由于相关审批手续不全而被认定为违法建设，那么应积极引导建设人（单位）通过补办手续的方式，使违法建设得以合法化。
四、执法实践中应注意的问题
在执法实践中，我们还需要注意以下几点：
改正措施认定主体：根据《中华人民共和国城乡规划法》的规定，违法建设能否采取改正措施的认定主体主要是县级以上地方人民政府城乡规划主管部门。
改正措施判断的时点：对于违法建设是否可以采取改正措施消除对规划实施影响的判断时点，应当是执法机关作出限期改正或者限期拆除决定的当时。
责令停止建设：对于正在建设过程中尚未完工的违法建设，为防止其对城乡规划的实施造成不利影响，应当立即责令停止建设。
罚款问题：根据《中华人民共和国城乡规划法》的规定，限期违法建设采取改正措施的同时，应当并处罚款。罚款数额计算应当以新建、扩建、改建的存在违反城乡规划事实的建筑物、构筑物单体造价作为基数。
综上所述，针对地上建筑合法而地下建筑违法的情况，我们需要根据相关法律法规和规范性文件的规定，综合判断地下建筑是否可以采取改正措施，并针对性地采取具体而有效的改正措施以纠正违法行为。