结论：流转土地建房是否需要办理国有土地出让金手续，以及该行为是否合法，主要取决于土地的性质和流转的具体情况。以下是对此问题的详细分析：
一、土地性质决定流转与建房的合法性
集体土地：
- 若流转的土地属于农村集体所有，根据《中华人民共和国土地管理法》的相关规定，宅基地和自留地、自留山等属于农民集体所有，农民对宅基地仅享有使用权，而非所有权。这种使用权具有人身依附性和特定性，不得随意转让或买卖，且流转通常限于本集体经济组织内部成员之间，并需遵循“地随房走”的原则。
- 在集体土地上建房：若流转的是宅基地使用权，且流转符合上述规定，那么在该宅基地上建房通常是合法的，但无需办理国有土地出让金手续，因为宅基地并非国有土地。然而，若流转的是非宅基地的集体土地用于建房，则可能涉及非法占地等违法行为，除非经过合法征收转为国有土地。
国有土地：
- 若流转的土地原本就是国有土地，且已通过出让等方式取得了土地使用权，那么在该土地上建房是合法的，但需确保建房行为符合城市规划和土地使用规划，并可能需缴纳相关税费，包括但不限于土地出让金（若土地使用权是通过出让方式取得且尚未缴清出让金）、契税等。但通常来说，在已经取得国有土地使用权的情况下建房，不再单独就建房行为缴纳“国有土地出让金”，该费用已在取得土地使用权时缴纳。
- 特殊情况：若流转的是国有土地上的房屋及其占用范围内的土地使用权（如二手房交易），则建房行为（若涉及改建、扩建等）需遵守相关规划法规，并可能需办理相关审批手续，但同样不涉及单独的“国有土地出让金”缴纳问题。
二、流转与建房的合法性判断
合法流转：
- 无论是集体土地还是国有土地，流转行为本身必须合法，即符合相关法律法规的规定，如流转程序合法、流转对象合法等。
- 对于集体土地，流转通常需经过本集体经济组织同意，并办理相关宅基地使用权变更登记手续（若涉及宅基地）。对于国有土地，流转则需遵守国有土地使用权转让的相关规定。
合法建房：
- 建房行为必须符合城市规划和土地使用规划，且需办理相关审批手续，如建设工程规划许可证、施工许可证等。
- 若建房行为违反相关规划法规或未办理相关审批手续，则可能面临行政处罚，包括但不限于罚款、限期拆除等。
三、建议与注意事项
- 了解土地性质：在流转土地建房前，务必了解清楚土地的性质（集体土地还是国有土地）以及流转的具体规定和程序。
- 遵守法律法规：确保流转和建房行为均符合相关法律法规的规定，避免违法行为带来的法律后果。
- 办理相关手续：根据土地性质和流转情况，及时办理相关审批手续和变更登记手续，确保行为的合法性和有效性。
- 咨询专业人士：如有疑问或不确定之处，建议咨询当地政府部门或专业律师（即我），以获取更准确和具体的法律建议。
总结来说，流转土地建房是否需要办理国有土地出让金手续以及该行为是否合法，主要取决于土地的性质和流转的具体情况。在集体土地上建房通常无需办理国有土地出让金手续，但需确保流转和建房行为合法；在国有土地上建房则需确保已合法取得土地使用权并遵守相关规划法规。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。