结论：在政府信息明明不存在，但政府单位却说不予公开的情况下，既可以选择复议前置，也可以直接提起诉讼。具体选择哪种方式，需结合实际情况和当事人的诉求来决定。

分析说明：

1. 复议前置的情况：

   • 法律依据：根据《中华人民共和国政府信息公开条例》第五十一条，公民、法人或者其他组织认为行政机关在政府信息公开工作中的具体行政行为侵犯其合法权益的，可以依法申请行政复议或者提起行政诉讼。这里并未明确规定必须复议前置，但复议作为一种行政救济途径，具有程序相对简便、效率较高的特点。
   • 适用情形：如果当事人希望快速解决争议，且认为行政复议机关可能更熟悉行政机关的运作和政府信息公开的相关规定，从而能够更公正、高效地处理争议，那么可以选择复议前置。

2. 直接提起诉讼的情况：

   • 法律依据：同样根据《中华人民共和国政府信息公开条例》第五十一条，公民、法人或者其他组织在认为行政机关的具体行政行为侵犯其合法权益时，也有权直接提起行政诉讼。
   • 适用情形：如果当事人认为行政复议可能无法充分保障其权益，或者对行政复议的结果不信任，那么可以直接向人民法院提起诉讼。此外，如果争议涉及复杂的法律问题或事实认定，诉讼可能提供更全面的审查和更公正的裁决。

特别提醒：

• 在选择复议或诉讼时，当事人应充分考虑自身的实际情况和诉求，以及复议和诉讼的各自特点。例如，复议通常更侧重于对行政行为的合法性进行审查，而诉讼则可能涉及更广泛的法律问题和事实认定。
• 无论选择哪种方式，当事人都应确保自己的诉求明确、合理，并准备好充分的证据来支持自己的主张。
• 如果对复议或诉讼的程序和要求不熟悉，建议咨询专业律师以获取更具体的指导和帮助。

后续行动建议：

• 如果当事人决定选择复议前置，应尽快向有管辖权的行政复议机关提交复议申请，并按照要求提供相关证据和材料。
• 如果当事人决定直接提起诉讼，应向有管辖权的人民法院提交起诉状，并按照要求缴纳诉讼费用和提供相关证据。
• 在整个过程中，当事人应保持与律师的沟通，及时了解案件进展和可能的风险，以便做出更明智的决策。

如有任何疑问或需要进一步的法律帮助，请直接向我咨询。