结论：预订年夜饭提前40天取消订金不退是否合法，需根据具体情况判断，主要看双方签订的合同或协议中的约定，以及订金的性质。
分析如下：
合同约定优先：
- 在预订年夜饭时，消费者与商家之间通常会签订一份合同或协议，明确双方的权利和义务。这份合同或协议中，往往会包含关于取消预订和订金退还的条款。
- 如果合同或协议中明确规定了，在提前一定天数（如40天）取消预订时，订金不予退还，且这一条款不违反法律法规的强制性规定，那么商家不退订金的行为就是合法的。
订金的性质：
- 订金与定金不同。定金具有担保性质，如果给付定金的一方不履行约定的债务，无权要求返还定金；收受定金的一方不履行约定的债务，应当双倍返还定金。而订金则通常被视为预付款，不具有担保性质。
- 如果合同或协议中没有明确订金的性质，或者订金被明确为预付款，那么商家在消费者提前取消预订时，应当根据实际情况和公平原则，考虑退还部分或全部订金。特别是当取消时间较早（如提前40天），且商家没有因此遭受实际损失时，不退订金可能显得不合理。
法律法规的强制性规定：
- 在处理此类纠纷时，还需要考虑相关法律法规的强制性规定。例如，《中华人民共和国消费者权益保护法》等法律法规对消费者的权益保护有明确规定。
- 如果商家不退订金的行为违反了法律法规的强制性规定，那么这一行为就是违法的，消费者有权依法维护自己的权益。
建议：
- 消费者：在预订年夜饭时，务必仔细阅读合同或协议中的条款，特别是关于取消预订和订金退还的部分。如果对条款有疑问或不明确的地方，应及时向商家咨询并要求解释。在取消预订时，也应按照合同或协议中的规定进行操作，并保留好相关证据（如合同、付款凭证、取消通知等）。
- 商家：在制定合同或协议时，应明确、合理地规定取消预订和订金退还的条款，避免产生歧义或纠纷。在处理消费者取消预订的请求时，也应根据实际情况和公平原则进行妥善处理，以维护良好的商业信誉和消费者关系。
后续行动：
- 如果消费者认为商家不退订金的行为违法或不合理，可以尝试与商家协商解决。如果协商无果，可以向消费者协会或相关监管部门投诉，或者依法向人民法院提起诉讼。
- 如有任何法律疑问或需要进一步的法律帮助，可以直接向我咨询，我会根据你的具体情况提供专业的法律意见。