在中国，私下将美元换成人民币是违法的。根据《中华人民共和国外汇管理条例》的相关规定，私自买卖外汇、变相买卖外汇、倒买倒卖外汇或者非法介绍买卖外汇数额较大的，会受到外汇管理机关的警告，违法所得将被没收，并处以违法金额一定比例的罚款。如果情节严重，甚至可能构成犯罪，依法追究刑事责任。

具体来说，私下换外币五万元即被视为违法行为，可能构成非法经营罪。这表明国家对私下外汇交易有严格的监管，并对此类行为采取严厉的打击态度。

因此，建议遵守相关法律法规，通过正规渠道进行外汇交易，如银行或合法的外汇兑换机构，以确保交易的合法性和安全性。如果你有任何关于外汇交易的法律问题，可以直接向我咨询，我会为你提供专业的法律解答和建议。