结论：在离婚协议上约定补偿为3万，但实际与男方协商的是5万的情况下，您是有可能通过法律途径要回那2万的差额的，不过具体能否成功要回，需视情况而定。以下从不同角度为您详细分析：
一、法律原则与规定
根据《民法典》的相关规定，民事法律行为应当遵循诚实信用原则。离婚协议作为双方自愿达成的民事协议，一旦签订并办理了离婚登记手续，即具有法律效力，双方应当按照协议履行。然而，如果离婚协议中的补偿条款并非双方真实意思表示，或者存在欺诈、胁迫等情形，导致一方在签订协议时违背了真实意愿，那么该协议条款可能被认定为无效或可撤销。
二、可能的情况分析
口头协商与书面协议不一致：
- 如果您与男方在离婚前进行了口头协商，约定补偿为5万，但离婚协议上却写成了3万，且没有其他证据证明口头协商的存在和内容，那么从法律上讲，离婚协议上的3万补偿是具有法律效力的。此时，您要回那2万差额的难度会比较大，因为缺乏直接证据支持您的主张。
- 如果您能提供充分的证据（如录音、聊天记录、证人证言等）证明双方确实口头协商了5万的补偿，并且男方也承认这一事实，那么您可以向法院提起诉讼，要求男方按照口头协商的金额支付差额。
离婚协议存在欺诈、胁迫等情形：
- 如果您能证明在签订离婚协议时，男方存在欺诈、胁迫等行为，导致您违背了真实意愿而签订了不公平的协议，那么您可以向法院申请撤销或变更离婚协议中的补偿条款。在这种情况下，您要回那2万差额的可能性会相对较大。
三、法律建议
收集证据：
- 无论您选择哪种途径来要回差额，收集证据都是至关重要的。您应该尽可能收集与口头协商相关的证据，如录音、聊天记录、证人证言等，以证明双方确实约定了5万的补偿。
与男方协商：
- 在提起诉讼之前，您可以尝试与男方进行协商，看是否能够达成和解。如果男方愿意支付差额，那么您可以避免一场不必要的法律纠纷。
提起诉讼：
- 如果协商无果，您可以向法院提起诉讼，要求男方按照口头协商的金额支付差额。在诉讼过程中，您需要提供充分的证据来支持您的主张，并接受法院的审理和判决。
四、可能的法律后果
- 如果法院认定您的主张成立，那么男方可能需要支付那2万的差额给您。
- 如果法院认定您的主张不成立，那么您可能需要承担诉讼费用等法律后果，并且无法要回那2万的差额。
最后，我建议您在处理此类问题时保持冷静和理性，尽可能通过协商来解决问题。如果协商无果，再考虑通过法律途径来维护自己的权益。如果您有任何疑问或需要进一步的法律帮助，请随时向我咨询。