结论前置：

1. 若转让合同存在法定无效情形，转让方有权要回土地承包经营权；
2. 若合同有效但未办理过户登记，转让方能否要回需结合合同约定及履行情况综合判断；
3. 若受让方已实际占有并使用土地，转让方主张要回可能面临法律障碍。

具体分析：

一、合同效力对权利归属的影响 根据《民法典》及《农村土地承包法》相关规定，土地承包经营权转让合同需满足以下条件方为有效：

1. 转让方具有完全民事行为能力；
2. 转让合同系双方真实意思表示，不存在欺诈、胁迫等情形；
3. 转让行为经发包方同意（家庭承包方式取得土地经营权的情形）；
4. 转让期限不超过承包期的剩余期限。

若合同存在无效情形（如违反法律强制性规定、恶意串通损害第三人利益等），转让方有权主张合同无效，并要求返还土地承包经营权。此时，即使未办理过户登记，转让方亦可基于合同无效的法律规定主张权利。

二、合同有效但未过户的处理 若转让合同合法有效，但未办理过户登记，需区分以下情形：

1. 合同明确约定过户为生效条件：若合同约定“自办理过户登记之日起生效”，则未过户可能导致合同未生效，转让方有权要求返还土地。但需注意，若受让方已实际履行主要义务（如支付转让款），法院可能认定合同已实际履行，从而驳回转让方主张。
2. 合同未约定过户为生效条件：根据《民法典》第215条，未办理物权登记不影响合同效力。此时，转让方需承担违约责任，而非直接要回土地。受让方有权要求转让方继续履行合同，协助办理过户登记。

三、受让方实际占有土地的影响 若受让方已实际占有并使用土地，且转让方未提出异议，可能构成对转让行为的默认。此时，转让方主张要回土地需满足以下条件之一：

1. 受让方存在根本违约行为（如未支付转让款、擅自改变土地用途等）；
2. 转让行为违反法律强制性规定（如未经发包方同意转让家庭承包土地）；
3. 转让方能证明签订合同时存在重大误解或显失公平情形。

四、实务建议

1. 审查合同效力：转让方应首先确认合同是否存在无效情形，若存在，可主张合同无效并要求返还土地；
2. 协商补办过户：若合同有效，建议与受让方协商补办过户登记，避免违约责任；
3. 固定证据：若受让方存在违约行为，转让方应及时固定证据（如未支付转让款的凭证、擅自改变土地用途的照片等），为后续诉讼做准备；
4. 谨慎行使权利：转让方主张要回土地需承担举证责任，且可能面临违约责任，建议权衡利弊后再行主张。

总结：土地承包经营权转让合同私下签订未过户，转让方能否要回土地需结合合同效力、履行情况及受让方实际占有情况综合判断。建议转让方在主张权利前，先审查合同效力，并咨询专业律师制定维权策略。