结论：老公在家出轨，扣留他的手机是否违法，需分情况讨论。一般情况下，未经允许扣留他人手机可能涉及侵犯他人财产权及隐私权，是违法的；但在特定情境下，如为收集出轨证据且手段合法，可能不构成违法。
分析如下：
从财产权角度分析：
- 手机作为个人财产，其所有权归手机持有者所有。根据《中华人民共和国民法典》的相关规定，任何组织或者个人不得侵占、哄抢、破坏他人的财产。因此，未经老公允许，扣留其手机，可能构成对老公财产权的侵犯。
从隐私权角度分析：
- 手机中往往存储着大量的个人信息和隐私内容。扣留手机并查看其中的内容，可能涉及侵犯老公的隐私权。根据《中华人民共和国民法典》中关于隐私权保护的规定，自然人享有隐私权，任何组织或者个人不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权。
特定情境下的合法性探讨：
- 如果扣留手机是为了收集老公出轨的证据，且这一行为是在合法、合理的范围内进行，比如仅扣留手机以查看其中的聊天记录等证据，并未对手机进行损坏或泄露其中的隐私内容，且后续通过合法途径（如诉讼）使用这些证据，那么这种行为可能不构成违法。但需要注意的是，即使是为了收集证据，也不能采取非法手段，如窃取、偷拍等，否则可能面临法律责任。
法律建议：
- 沟通协商：首先，建议尝试与老公进行沟通协商，了解彼此的想法和需求，寻求和平解决的方式。
- 合法取证：如果确实需要收集老公出轨的证据，建议通过合法途径进行，如聘请律师协助调查、收集证据等。避免采取非法手段，以免自身陷入法律纠纷。
- 寻求法律援助：如果无法通过沟通协商解决问题，且认为自己的权益受到了侵害，可以寻求法律援助或咨询专业律师，了解自己的法律权益和可行的法律途径。
可能后果：
- 如果未经允许扣留老公手机并查看其中的内容，可能面临老公的民事索赔要求，包括赔偿手机损失、精神损害赔偿等。
- 如果扣留手机的行为涉及侵犯隐私权等违法行为，还可能面临行政处罚或刑事责任的风险。
如有更多疑问或需要进一步的法律帮助，请直接向我咨询。