卖房子收了定金但没签合同，通常不涉及违约金的支付，但可能因定金罚则或缔约过失责任而承担不利后果。具体是否支付违约金，以及可能承担的其他责任，需根据双方是否有明确约定以及实际情况来判断。以下是对此问题的详细分析：

一、违约金与合同的关系

1. 违约金基于合同约定：违约金是合同双方约定的，在一方违约时向对方支付的一定数额的金钱。若未签订书面合同，则通常不存在合同中关于违约金条款的约定，因此从合同约定角度看，不存在支付违约金的问题。

二、定金罚则的适用

1. 定金合同的成立：当双方就房屋买卖达成初步意向，并收受定金时，即使没有签订正式的书面买卖合同，也视为双方之间成立了定金合同。这个定金合同是具有法律效力的，对双方均有约束力。
2. 双倍返还定金：根据《民法典》第五百八十七条，收受定金的一方不履行约定的债务时，应当双倍返还定金。这意味着，如果卖方收了买方定金后不想卖房，需双倍返还定金给买方，这是对违约方的一种惩罚和对守约方的补偿。

三、缔约过失责任的承担

1. 违背诚信原则：在达成定金交易至正式签订合同期间，若卖方存在违背诚信原则的行为，如故意隐瞒房屋瑕疵、将房屋高价卖给第三方等，导致合同未能签订，且给买方造成损失，卖方可能需承担缔约过失责任。
2. 赔偿损失：卖方需赔偿买方因此遭受的信赖利益损失，包括但不限于买方为签订合同所支付的合理费用、因信赖合同成立而放弃的其他交易机会等。

四、双方有明确约定的情况

1. 违约金与定金的选择：若双方既约定了违约金又约定了定金，根据《民法典》第五百八十八条，一方违约时，对方可选择适用违约金或定金条款，但不能同时并用。
2. 赔偿超过定金数额的损失：若定金不足以弥补损失，买方还可请求赔偿超过定金数额的损失。

五、双方无明确约定的情况

1. 无违约情形：如果双方仅仅是交付了定金，对于房屋买卖合同的主要条款如价格、付款方式、交房时间等还在协商过程中，尚未达成一致意见，导致最终没能签订合同，这种情况一般不被视为违约。在此情况下，卖方应将定金退还给买方，双方各自承担已产生的费用，不追究对方的违约责任。
2. 卖方违约：在无明确约定或约定不明确时，若卖方收取定金后未签合同且违约，买方有权要求卖方承担违约责任，具体可选择要求双倍返还定金或赔偿因其违约行为所遭受的损失。

六、实际操作建议

1. 签订书面合同：为避免纠纷，建议在交易过程中尽量签订书面合同，并明确约定违约责任、定金条款等关键内容。
2. 保留证据：在交易过程中，应妥善保留相关证据，如定金收据、聊天记录、邮件往来等，以便在发生纠纷时维权。
3. 协商解决：若发生违约情况，双方应首先尝试通过协商解决纠纷，以降低成本和提高效率。
4. 法律途径：若协商不成，可考虑通过法律途径解决争议，如提起诉讼或申请仲裁，以维护自己的合法权益。

总结来说，卖房子收了定金但未签合同是否需要支付违约金，需根据双方的具体约定和实际情况来判断。在交易过程中，双方应明确约定并签订书面合同，以降低风险并维护自己的合法权益。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。