结论：未签合同但支付了转让费，能否退款需视具体情况而定，包括双方协商、合同是否成立及生效、是否存在违约或欺诈情形等。以下从不同角度进行分析：
一、双方协商一致的情况
如果双方能够就退款事宜达成一致意见，那么退款是可行的。在这种情况下，双方可以签订一份书面的退款协议，明确退款金额、退款时间等关键条款，以确保双方权益得到保障。
二、合同未成立或未生效的情况
合同未成立：如果双方尚未就转让事宜达成合意，即合同尚未成立，那么支付转让费的一方有权要求对方返还。因为合同成立需要双方意思表示一致，如果一方未表示接受，则合同不成立，对方无权保留已收取的款项。
合同未生效：即使合同已经成立，但如果存在法定或约定的生效条件未成就的情形，合同也未生效。例如，如果合同约定需要办理相关审批手续后生效，而该手续尚未办理完毕，则合同未生效。在这种情况下，支付转让费的一方同样有权要求对方返还。
三、合同存在无效或可撤销情形的情况
合同无效：如果合同存在违反法律、行政法规的强制性规定，或者违背公序良俗等情形，导致合同无效，那么支付转让费的一方有权要求对方返还。因为无效的合同自始没有法律约束力，对方无权保留已收取的款项。
合同可撤销：如果合同存在欺诈、胁迫、显失公平等情形，导致合同可撤销，那么支付转让费的一方在撤销合同后，也有权要求对方返还。但需要注意的是，撤销权需要在法定期限内行使，否则将丧失撤销权。
四、对方违约的情况
如果对方在合同履行过程中存在违约行为，导致合同无法继续履行或者合同目的无法实现，那么支付转让费的一方有权要求对方承担违约责任，包括返还已支付的转让费。但具体能否返还以及返还的金额，需要根据违约情况、合同约定以及法律规定等因素进行综合判断。
五、实际操作建议
收集证据：在要求退款前，务必收集好相关证据，如转账记录、聊天记录、合同草案等，以证明双方之间存在转让事宜的约定以及已支付转让费的事实。
协商沟通：首先尝试与对方进行协商沟通，看是否能够就退款事宜达成一致意见。如果协商无果，再考虑采取其他法律手段。
寻求法律帮助：如果无法协商解决，建议及时咨询专业律师（即我本人，叶儒璋律师，专注于合同纠纷、刑事辩护领域），了解具体法律途径和维权策略。根据具体情况，可以选择向法院提起诉讼或者申请仲裁等方式来维护自己的合法权益。
进一步思考：在处理此类纠纷时，除了考虑法律因素外，还需要考虑实际执行的可能性以及成本效益等因素。因此，在决定采取何种法律手段前，务必进行充分的评估和权衡。如果有任何疑问或需要进一步的法律帮助，请随时向我咨询。