结论：政府单位凭证是否需要把合同一起订上，需分情况讨论，主要取决于凭证的性质、用途以及相关财务或档案管理规定。以下分情况具体说明：

1. 从财务凭证管理角度
   根据《会计基础工作规范》及相关财务制度，原始凭证（如合同、发票、审批单等）通常需作为记账凭证的附件，以证明经济业务的真实性和合法性。若合同是该笔业务的核心依据（如采购合同、服务合同），则必须将合同或合同关键页（如金额、双方签章页）与凭证装订在一起，否则可能因凭证不完整被财务部门退回或审计质疑。
   例外情况：若合同篇幅过长（如工程合同），可仅附合同摘要页或编号，并在凭证中注明“合同原件存档于XX部门”，同时确保合同与凭证能通过编号或其他方式关联。

2. 从档案管理角度
   若凭证需移交档案部门长期保存（如政府采购档案、工程结算档案），根据《机关档案管理规定》或行业专项档案规范，合同通常需作为独立档案与凭证分开归档，但需在凭证中标注“合同见档案卷XX号”，并在档案目录中明确关联关系。此时无需将合同与凭证订在一起，但需确保两者可追溯。

3. 从实务操作便利性角度
   若凭证仅用于短期内部审批或临时查阅（如报销单初审），且合同已通过电子系统备案（如OA流程），可仅附合同复印件或电子截图，无需订入纸质凭证。但需确保复印件与原件一致，并加盖“与原件核对无误”章。

建议：

• 优先咨询本单位财务或档案部门的具体要求，不同单位可能有细化规定；
  
• 若合同涉及重大资金或法律风险（如政府投资项目），建议将合同全文作为凭证附件，避免后续争议；
  
• 保留合同原件的独立存档，防止因凭证装订导致原件损坏或丢失。
  

如有其他具体场景或合同类型疑问，可进一步向我说明，我会结合法规和实务经验为您分析。