关于退亲时三金（通常指金戒指、金项链、金耳环等订婚首饰）的法律退还问题，这主要涉及到婚约财产纠纷的处理，以下是我为您提供的详细解答：

一、法律原则

在婚约财产纠纷中，三金作为男方以结婚为目的而赠与女方的财物，通常被视为附条件的赠与。若双方最终未办理结婚登记手续，即条件未成就，那么女方理论上应退还三金给男方。这一原则基于《中华人民共和国民法典》中关于附条件赠与的相关规定，即当所附条件未实现时，赠与人有权要求受赠人返还赠与物。

二、实际操作中的考量因素

1. 共同生活时间：如果双方在订婚后共同生活了一段时间，法院在判决时可能会考虑这一因素，对退还的金额或物品进行适当调整。

2. 彩礼数额与实际使用情况：除了三金外，如果男方还支付了其他彩礼，法院会综合考虑彩礼的总额以及女方是否已将部分彩礼用于共同生活或婚礼筹备等实际情况。

3. 双方经济水平：法院在判决时也会考虑双方的经济状况，确保判决结果既公平又合理，不会给任何一方造成过大的经济负担。

4. 民间习俗：虽然法律是主要的判断依据，但法院在处理此类纠纷时，也会适当考虑当地的民间习俗和传统观念，以寻求更符合社会公序良俗的解决方案。

三、案例参考

以您提供的案例为例，双方在订婚后未办理结婚登记手续，后因性格不合等原因协商解除婚约。在法院的调解下，女方当庭返还了男方11万元彩礼及三金首饰。这一案例表明，在婚约财产纠纷中，法院会综合考虑多种因素，以促成双方达成公平合理的调解协议。

四、建议与步骤

1. 协商解决：首先，双方可以尝试通过协商来解决三金的退还问题。如果能够达成一致意见，可以签订书面协议以明确双方的权利和义务。

2. 寻求法律帮助：如果协商无果，您可以咨询专业律师或向当地法院提起诉讼。在诉讼过程中，您需要提供相关证据（如订婚时的购物发票、转账记录等）来支持您的主张。

3. 遵守法院判决：无论最终是通过调解还是判决来解决纠纷，双方都应遵守法院的决定并履行相应的义务。

总之，退亲时三金的法律退还问题需要根据具体情况进行综合判断。在处理此类纠纷时，建议双方保持冷静和理性，通过合法途径来维护自己的权益。