当您在实体店支付了定金而商家拒绝退还时，您可以按照以下步骤来维护自己的合法权益：

一、了解定金法律规定与合同审查

首先，您需要了解定金的法律规定。根据《中华人民共和国民法典》的相关规定，定金是一种担保方式，给付定金的一方如不履行债务或履行不符合约定，导致合同目的不能实现，则无权请求返还定金；而收受定金的一方如违约，则应双倍返还定金。因此，在处理定金退还纠纷时，您需要明确是哪一方违约导致了合同无法履行。

同时，您应仔细审查与商家签订的合同或协议，特别是关于定金退还的条款。如果合同中有明确约定定金退还的条件和方式，您可以依此要求商家退还定金。

二、与商家协商

在确认商家存在违约行为或合同中有退还定金的约定后，您应首先尝试与商家进行友好协商。协商时，请保持冷静和理性，以平和的语气表达您的诉求，并明确指出商家不退定金的行为可能违反了合同约定和法律规定。同时，您可以向商家详细说明要求退还定金的原因，如果是商家方面的问题（如商品质量瑕疵、变更约定等），应明确指出其过错，并诚恳地说明自身情况，争取商家的理解。

三、收集证据

在与商家协商的同时，您应积极收集相关证据材料，以备不时之需。这些证据包括但不限于：

• 定金支付凭证，如付款记录、收据等，证明您确实支付了定金及支付的金额。
• 相关合同或协议原件，特别是关于定金退还的条款部分。
• 与商家工作人员的沟通记录，无论是电话、短信、微信还是面对面交流，都应保留好相关记录，作为协商过程和双方意见的证明。

四、寻求第三方调解

如果与商家的直接协商无法达成满意的结果，您可以考虑寻求第三方调解。这包括：

• 向当地消费者协会投诉，请求他们介入调解。消费者协会有丰富的处理消费纠纷经验，会根据具体情况对双方进行沟通和协调。
• 向商场的管理部门或市场监管部门反映情况，要求他们协助处理定金退还问题。这些部门可能会从维护市场秩序和消费者权益的角度出发，积极协调解决纠纷。

五、法律途径

若经过调解仍无法解决纠纷，您可以考虑通过法律途径来维护自身权益。这包括：

• 委托律师向商家发送律师函，以正式的法律文书形式表明您的诉求和法律依据，要求商家在一定期限内退还定金。律师函具有一定的威慑作用，可能促使商家重新考虑并解决问题。
• 如果律师函没有起到作用，您可以向有管辖权的人民法院提起诉讼。在诉讼过程中，您需要按照法院的要求提交相关证据材料，积极参与庭审，并依据法律规定主张自己的权益。虽然诉讼可能需要耗费一定的时间、精力和费用，但这是最有效的最终解决手段。

六、注意事项

在处理定金退还纠纷时，您还应注意以下几点：

• 务必保持冷静和理性，避免采取过激行为影响问题解决。
• 保留好所有与商家沟通的记录和相关证据材料，确保在需要时能够提供充分的证明。
• 如果对法律程序不熟悉或担心处理不当会影响自身权益，建议咨询专业律师或法律机构以获取帮助。

综上所述，当商家拒绝退还定金时，您应通过协商、审查合同条款、收集证据、寻求第三方调解以及法律途径等多种方式来维护自身权益。在处理过程中，务必遵守法律法规并保留好相关证据材料。