政府部门无正当理由拒绝出具证明的，老百姓可以通过投诉、复议或诉讼等合法途径维护权益。以下是具体分析和建议：

1. 核实证明的法定性
   首先需确认该证明是否属于政府部门的法定职责范围。根据《国务院关于优化政务服务便民化服务的指导意见》，政府部门不得随意增设证明事项，若要求出具的证明无明确法律依据（如“奇葩证明”“循环证明”），可直接向当地政务服务管理部门或司法局反映，要求取消非必要证明。

2. 沟通与投诉渠道

   • 现场沟通：要求工作人员书面说明拒绝理由（如引用具体法规条款），若理由不成立或态度恶劣，可要求见部门负责人。
     
   • 上级投诉：向该部门的上级主管单位（如区级部门可向市级对应部门投诉）或当地政府信访办提交书面投诉材料，附上相关证据（如申请记录、工作人员答复录音等）。
     
   • 政务服务热线：拨打12345市民服务热线，说明情况并要求协调处理，热线平台会转办至责任部门并跟进回复。

3. 行政复议与诉讼

   • 行政复议：若政府部门明确拒绝且理由违法（如未履行法定职责），可在知道拒绝行为之日起60日内向其上级机关或本级政府申请复议，复议机关需在60日内作出决定。
     
   • 行政诉讼：对复议结果不服或未获答复的，可在6个月内向法院提起行政诉讼，要求法院判决政府部门履行职责或确认其行为违法。诉讼中需提供证明申请材料、拒绝答复等证据。

4. 特殊情形处理

   • 紧急情况：若证明涉及紧急事务（如医疗、入学），可要求政府部门出具《情况说明》或加盖公章的拒绝函，作为后续维权证据。
     
   • 历史遗留问题：对因历史政策导致的证明缺失（如户籍档案丢失），可申请政府部门通过实地调查、部门协查等方式核实情况，而非直接拒绝。

行动建议：

1. 保留所有申请记录、沟通录音、书面回复等证据；
   
2. 优先通过12345热线或上级部门投诉，效率较高；
   
3. 若涉及重大权益（如房产、社保），建议同步准备复议或诉讼材料。
   

如有具体证明类型或部门名称，可进一步分析针对性解决方案。