原配可以起诉要求确认男人私下与小三签订的高额抚养费协议无效，但具体能否成功取决于多个因素。

首先，我们需要明确抚养费的支付应当基于合法的亲子关系以及合理的抚养需求。如果男人与小三之间并不存在合法的亲子关系，或者所约定的抚养费金额明显超出了实际的抚养需求，那么这份协议本身就可能存在不合法或不合理的情况。

1. 协议合法性分析：

   • 如果抚养费协议涉及的是非婚生子女的抚养问题，且支付方（男人）确实是非婚生子女的生父，那么他有义务支付抚养费。但是，抚养费的金额应当合理，并考虑到子女的实际需要、父母双方的负担能力以及当地的实际生活水平。
   • 如果协议中的抚养费金额过高，超出了子女的实际需要和父母的负担能力，那么这部分过高的金额可能被视为不合理的支出，原配可以主张其无效。

2. 原配的权利与诉讼途径：

   • 原配作为男人的合法配偶，有权维护夫妻共同财产的合法权益。如果男人擅自将夫妻共同财产以高额抚养费的形式支付给小三，这可能侵害了原配的财产权益。
   • 原配可以通过诉讼途径来维护自己的权益。她可以向法院提起诉讼，要求确认男人与小三之间签订的高额抚养费协议无效，并请求返还已经支付的过高抚养费。

3. 证据收集与诉讼准备：

   • 在提起诉讼之前，原配需要收集充分的证据来支持自己的主张。这些证据可以包括男人与小三之间的转账记录、聊天记录、抚养费协议文本等。
   • 原配还需要准备充分的诉讼材料，包括起诉状、证据清单、法律依据等，以确保自己的诉讼请求能够得到法院的支持。

综上所述，原配可以起诉要求确认男人私下与小三签订的高额抚养费协议无效，但具体能否成功取决于多个因素，包括协议的合法性、原配的权利与诉讼途径以及证据收集与诉讼准备等。如果原配认为自己的权益受到了侵害，建议她及时咨询专业律师并采取相应的法律行动来维护自己的合法权益。