结论：黄金销售中私自设置退货扣5%手续费是否合法，需根据具体情况判断，主要看销售合同或店铺规定中是否有明确约定，以及该约定是否符合相关法律法规的规定。

分析如下：

1. 合同约定角度：

   • 如果在购买黄金时，销售合同或店铺的明确规定中已经写明了退货时需要扣除5%的手续费，并且这一条款没有违反法律法规的强制性规定，也没有显失公平或欺诈等情形，那么该条款通常是有效的。在这种情况下，商家私自设置退货扣5%手续费的行为，可以视为是双方合同中的约定，消费者在购买时已经同意，因此是合法的。
   • 反之，如果销售合同或店铺规定中没有明确提及退货手续费，或者该条款存在违法、显失公平或欺诈等情形，那么商家私自设置退货扣5%手续费的行为就是不合法的。

2. 法律法规角度：

   • 根据《中华人民共和国消费者权益保护法》的相关规定，消费者在购买商品后享有退货的权利，但这一权利并非无条件的。如果商家在销售时已经明确告知了退货政策，包括可能的手续费等，并且消费者在购买时已经同意，那么商家按照约定收取手续费并不违法。
   • 同时，商家收取的手续费应当合理，不能过高或存在其他不公平的情形。如果手续费过高或存在其他不公平条款，消费者有权向相关部门投诉或寻求法律援助。

3. 实际操作建议：

   • 对于消费者而言，在购买黄金等贵重物品时，务必仔细阅读销售合同或店铺规定，了解退货政策及相关费用。如果对条款有疑问或不明确的地方，应及时向商家咨询并要求解释清楚。
   • 如果商家在销售时未明确告知退货手续费或存在其他不公平条款，消费者在购买后发现并要求退货时，可以与商家协商解决。如果协商无果，消费者可以向消费者协会或相关部门投诉，甚至通过法律途径维护自己的合法权益。

额外提醒：在涉及贵重物品的交易中，消费者应保持警惕，确保自己的权益不受侵害。如果遇到任何法律问题或疑问，可以直接向我咨询，我会根据你的具体情况提供专业的法律建议。