结论：买化妆品时赠品未退商家扣款是否违法，需根据具体情况判断。若商家在销售时明确告知赠品需退回否则扣款，且该条款不违反法律强制性规定，则商家扣款可能合法；若商家未明确告知或条款违法，则商家扣款可能违法。
详细分析：
商家明确告知赠品退回条款的情况：
- 如果商家在销售化妆品时，明确告知消费者赠品需要退回，否则将从退款中扣除相应金额，并且这一条款在销售合同或相关宣传资料中有所体现，那么这一条款可能构成合同的一部分。
- 在这种情况下，如果消费者未退回赠品，商家按照事先约定的条款进行扣款，可能并不违法。但前提是，这一条款必须合法、合理，且不违反法律的强制性规定，如不侵犯消费者的合法权益，不构成霸王条款等。
商家未明确告知赠品退回条款或条款违法的情况：
- 如果商家在销售时未明确告知消费者赠品需要退回，或者在销售合同、宣传资料中未提及此条款，那么商家在消费者未退回赠品时扣款，可能构成违法行为。
- 此外，即使商家明确告知了赠品退回条款，但如果该条款违反了法律的强制性规定，如侵犯了消费者的知情权、选择权等，那么该条款也是无效的，商家不能据此扣款。
法律建议：
- 对于消费者：在购买化妆品时，应仔细阅读销售合同和相关宣传资料，了解赠品退回的条款。如果商家未明确告知或条款存在疑问，应及时向商家咨询并要求解释。如果商家扣款行为存在争议，可以保留相关证据，如销售合同、宣传资料、扣款记录等，以便后续维权。
- 对于商家：在销售化妆品时，应明确告知消费者赠品退回的条款，并在销售合同或相关宣传资料中予以体现。同时，应确保条款合法、合理，不侵犯消费者的合法权益。如果消费者未退回赠品，商家在扣款前应与消费者进行沟通，解释扣款的原因和依据，避免引发不必要的纠纷。
可能法律后果：
- 如果商家扣款行为违法，消费者有权要求商家退还扣款，并可能要求商家承担因此造成的损失。
- 如果商家扣款行为合法但存在争议，消费者和商家可以通过协商、调解等方式解决纠纷。如果协商、调解无果，消费者可以向消费者协会或相关行政部门投诉，或者通过法律途径解决纠纷。
如有更多疑问或需要进一步的法律帮助，请直接向我咨询。