结论：私下兑换美元且对方不给钱的情况下，您确实可以去法院起诉，但需根据具体情况判断起诉的可行性和胜诉的可能性。以下从多个角度为您详细分析：
一、法律角度
外汇管理规定：
- 根据我国外汇管理规定，私自买卖外汇是违法的。这种行为可能扰乱金融市场秩序，因此不受法律保护。若您因私下兑换美元而遭遇对方违约，虽然您的兑换行为本身违法，但您仍有权就对方未履行支付义务提起诉讼，要求对方返还已支付的款项或赔偿损失。不过，法院在审理此类案件时，可能会对您的违法兑换行为进行批评教育，甚至可能将相关线索移送外汇管理部门处理。
合同效力：
- 私下兑换美元通常不会签订正式的书面合同，但双方之间可能存在口头约定或交易习惯。若您能提供证据证明双方之间存在兑换美元的约定，且您已履行支付美元的义务而对方未履行支付对应人民币的义务，那么您可以依据《民法典》中关于合同的规定，要求对方承担违约责任。
二、实践角度
证据收集：
- 在起诉前，您需要收集足够的证据来证明双方之间的兑换关系以及对方的违约行为。这可能包括转账记录、聊天记录、证人证言等。证据的充分性和合法性将直接影响法院对案件的判断和您的胜诉可能性。
诉讼风险：
- 由于私下兑换美元的行为本身违法，您在诉讼过程中可能面临一定的风险。例如，法院可能对您的违法兑换行为进行处罚，或者对方可能提出抗辩，主张您的兑换行为无效，从而拒绝支付款项。因此，在决定起诉前，您需要充分评估诉讼风险，并考虑是否值得承担这些风险。
三、建议与措施
尝试协商：
- 在决定起诉前，您可以先尝试与对方进行协商，看是否能够达成和解协议，要求对方支付款项或返还美元。协商解决通常更为快捷、经济，且能够避免诉讼带来的不确定性和风险。
寻求法律援助：
- 若您决定起诉，但不确定如何操作或担心诉讼风险，可以寻求专业律师的法律援助。律师可以为您提供法律咨询、代理诉讼等服务，帮助您更好地维护自己的合法权益。
遵守法律法规：
- 无论最终是否选择起诉，您都应该遵守国家的外汇管理规定，避免再次进行私下兑换外汇等违法行为。合法合规的交易行为才能受到法律的保护和支持。
总结：私下兑换美元且对方不给钱的情况下，您可以去法院起诉，但需充分考虑法律角度和实践角度的风险与可行性。在决定起诉前，建议您先尝试协商解决，并寻求专业律师的法律援助。同时，请务必遵守国家的法律法规，避免再次陷入类似的法律纠纷中。如果您有任何疑问或需要进一步的法律帮助，请随时向我咨询。