未经他人同意，在别人家偷偷用手机录音的证据通常是不合法的，且很可能不具备法律证据效力。以下是对此问题的详细分析：
一、法律合法性分析
侵犯隐私权：
- 根据《中华人民共和国民法典》第一千零三十二条和第一千零三十三条，自然人享有隐私权，任何组织或个人不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权。在别人家偷偷录音，尤其是未经对方同意的情况下，很可能涉及到对方的私人生活细节、对话内容等敏感信息，这直接侵犯了他人的隐私权。
违反治安管理处罚法：
- 根据《中华人民共和国治安管理处罚法》第四十二条，偷窥、偷拍、窃听、散布他人隐私的行为，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。因此，偷偷录音的行为可能面临治安管理处罚。
二、录音证据的法律效力
非法证据排除规则：
- 在法律程序中，非法取得的证据通常会被排除在外，不被法院采纳。偷偷录音由于侵犯了他人的隐私权，很可能被视为非法证据，从而失去法律效力。
证据的真实性与关联性：
- 即使录音内容真实反映了某些事实，但由于其取得方式不合法，法院在审查时也会对其真实性、关联性产生质疑。此外，如果录音内容被剪辑或篡改，其证明力将进一步降低。
三、合法录音的条件与建议
征得同意：
- 在进行录音前，应明确告知对方并获得其书面或口头同意。这是保护双方权益、避免法律纠纷的重要前提。如果对方不同意录音，应尊重其意愿，不得强行录音。
合法目的与程序：
- 录音的目的必须合法，不能用于非法活动或侵犯他人权益。同时，在某些特定场合（如法庭庭审、商务谈判等），可能需要遵循特定的录音程序和要求。
建议与提醒：
- 如果你需要录音作为证据，建议事先咨询专业律师，了解相关法律法规和程序要求。在合法、合规的前提下进行录音，以确保录音证据的法律效力。
- 同时，也要尊重他人的隐私权和合法权益，避免因为不当录音而引发法律纠纷。
四、可能面临的法律后果
民事责任：
- 如果偷偷录音的行为被认定为侵犯隐私权，你可能需要承担民事责任，包括赔偿损失、赔礼道歉等。
行政责任：
- 根据《中华人民共和国治安管理处罚法》的相关规定，你可能面临拘留或罚款的行政处罚。
刑事责任：
- 在极端情况下，如果偷偷录音的行为被用于敲诈勒索、恶意传播等目的，还可能构成犯罪，需要承担刑事责任。
总结来说，未经他人同意在别人家偷偷用手机录音的证据通常是不合法的，且很可能不具备法律证据效力。为了保护自己的合法权益并避免法律纠纷，建议在进行录音前咨询专业律师并遵循相关法律法规和程序要求。如果你有任何法律问题或需要进一步的法律建议，请直接向我咨询。