在转让店铺过程中，交付了定金但未签订合同，定金能否退还主要取决于违约责任的归属、双方协商的结果以及定金的性质等因素。以下是对此问题的详细分析：

一、可以退还定金的情况

1. 收受定金一方存在违约行为：

   • 根据《中华人民共和国民法典》第五百八十七条，若收受定金的一方不履行债务或履行不符合约定，导致合同目的无法实现，应当双倍返还定金。例如，店铺出让方在收受定金后明确表示不再转让或已将店铺租给他人，构成违约，应双倍返还定金。

2. 双方协商一致解除合同：

   • 若双方经过协商同意解除合同，且没有一方存在过错，收受定金的一方应将定金返还给给付定金的一方。这体现了双方意思自治的原则。

3. 合同内容无法达成一致：

   • 在签订合同前，若双方因合同主要条款（如转让价格、付款方式、交接时间等）无法达成一致意见，导致合同未能订立，定金应予退还。此时，双方均无过错，只是由于需求和期望不同而无法达成合同。

4. 因不可归责于双方的事由导致合同未能订立：

   • 如发生双方都无法预见、避免且克服的客观情况（如政府拆迁公告、自然灾害等），导致合同无法签订，定金应当退还。这种情况下，合同无法订立是出于不可抗力因素。

5. 收受定金方无所有权或出售资格：

   • 如果收受定金的一方没有店铺的所有权或不具备出售资格，导致合同无效，收受方需要退还定金给另一方。这是基于合同有效性的原则。

6. 定金性质不明确：

   • 若双方只是口头约定或简单交付定金，未明确约定定金性质为担保合同订立、履行的定金，则在未签订合同的情况下，交付定金一方可主张该款项为预付款性质，要求退还。根据《最高人民法院关于适用<中华人民共和国民法典>合同编通则若干问题的解释》第六十七条，当事人交付留置金、担保金、保证金、订约金、押金或者订金等，但是没有约定定金性质，一方主张适用民法典第五百八十七条规定的定金罚则的，人民法院不予支持。

二、不可退还定金的情况

1. 给付定金一方违约：

   • 根据“定金罚则”，若给付定金的一方不履行债务或履行不符合约定，导致合同目的无法实现，其无权请求返还定金。例如，交付定金后无故拖延时间或提出不合理要求导致合同无法签订。

2. 给付定金一方改变主意：

   • 若因交付定金的一方自身原因（如改变主意、资金问题等）导致未签订合同，定金可能无法退还。这是基于定金作为合同履行担保的性质。

三、建议与总结

• 在交付定金前，应尽可能明确合同的主要条款，包括转让价格、付款方式、交接时间等，以减少后续争议。
• 若双方对定金退还问题存在争议，建议首先通过协商解决；协商不成的，可向法院提起诉讼，由法院根据具体情况进行判断和裁决。
• 在处理此类纠纷时，关键在于查明合同未能签订的具体原因，并判断双方是否存在过错。

如有任何疑问或需要进一步的法律帮助，请直接向我咨询。