不退房屋保证金是否违法，主要取决于双方合同中的约定以及实际情况，不能一概而论。以下是对此问题的详细分析：
一、保证金退还的基本原则
保证金作为一种合同担保方式，其退还与否应遵循《民法典》的相关规定及合同约定。如果合同中明确约定了保证金的退还条件，且这些条件不违反法律强制性规定，那么双方应按照合同约定执行。若合同中没有明确约定或约定不明确，则应根据法律规定和公平原则来判断。
二、不退保证金的合法情形
合同中有明确约定：
- 如果合同中明确规定了不退保证金的情形，如承租人违约、损坏房屋或设施等，且这些约定不违反法律强制性规定，那么当这些情形发生时，不退保证金是合法的。
- 举例：甲与乙签订房屋租赁合同，约定若甲在租赁期间损坏房屋设施，乙有权没收保证金。若甲确实损坏了设施，乙依据合同条款没收保证金，此行为合法。
承租人存在违约行为：
- 即使合同中没有明确约定不退保证金的情形，但如果承租人存在违约行为，如未按时支付租金、擅自转租等，导致合同无法履行或给出租人造成损失，出租人也有权根据法律规定或公平原则扣除部分或全部保证金。
三、不退保证金的违法情形
合同中没有明确约定且承租人无违约行为：
- 如果合同中没有明确约定不退保证金的情形，且承租人在租赁期间没有违约行为，如按时支付租金、妥善使用房屋等，那么出租人无正当理由拒绝退还保证金则构成违法。
- 举例：甲与乙签订房屋租赁合同，未约定不退保证金的情形。租赁期满后，甲已按照合同约定履行了全部义务，乙却无正当理由拒绝退还保证金，甲有权要求乙退还，乙的行为违法。
出租人擅自扣除保证金：
- 如果出租人未经承租人同意，擅自扣除保证金或无法证明承租人存在违约行为而拒绝退还保证金，同样构成违法。
四、应对策略与建议
检查合同条款：
- 承租人首先应仔细检查与出租人签订的合同或协议，确认是否有关于保证金退还的明确约定。
友好协商：
- 若合同中有明确约定且承租人未违约，承租人应首先尝试与出租人进行友好协商，要求其说明拒绝退还的理由，并查看是否符合合同约定。
投诉与调解：
- 若协商不成，承租人可以向当地的房地产管理部门、消费者协会等相关机构投诉，寻求调解。
法律途径：
- 若仍无法解决，承租人可以考虑通过仲裁或向人民法院提起诉讼等法律途径来维护自己的合法权益。
五、法律依据
- 《中华人民共和国民法典》第五百八十七条：债务人履行债务的，定金应当抵作价款或者收回。给付定金的一方不履行债务或者履行债务不符合约定，致使不能实现合同目的的，无权请求返还定金；收受定金的一方不履行债务或者履行债务不符合约定，致使不能实现合同目的的，应当双倍返还定金。（虽然此条主要针对定金，但保证金与定金在性质上相似，均可作为合同担保方式，因此可参照此条精神理解保证金的处理原则）
- 《中华人民共和国民法典》第七百零三条至第七百一十六条：关于租赁合同的相关规定，特别是第七百一十四条关于承租人妥善保管租赁物的义务和第七百一十五条关于承租人对租赁物进行改善或增设他物的规定，这些条款间接影响了保证金的处理原则。
综上所述，不退房屋保证金是否违法需根据具体情况判断。作为承租人，在遇到此类问题时，应首先检查合同条款，并通过协商、投诉、调解或法律途径来维护自己的合法权益。如果你有具体的法律问题或需要进一步的帮助，请直接向我咨询。