行政单位可以购买被套，但需符合相关法律法规及财务制度的规定。具体分析如下：

1. 从预算与资金来源角度
   行政单位使用财政资金进行采购时，需严格遵循预算安排。若购买被套属于年度预算范围内的支出（如办公用品、后勤物资等），且资金来源合法，则该行为合法。若超出预算或未纳入预算，可能涉及违规使用财政资金，需承担相应责任。

2. 从采购程序角度
   根据《中华人民共和国政府采购法》，行政单位采购货物需通过法定程序：

   • 集中采购目录内物品：必须通过政府集中采购机构进行；
     
   • 分散采购项目：需按单位内部采购制度执行，确保公开透明。
     若被套属于集中采购目录，未按规定程序采购可能构成违法；若为分散采购，需保留采购记录以备审计。

3. 从用途合理性角度
   被套的用途需与行政单位职能相关。例如：

   • 用于单位宿舍、值班室等后勤保障，属于合理支出；
     
   • 若用于个人私用或变相福利，则可能涉嫌挪用公款或违反廉洁纪律。

4. 从合规风险角度
   行政单位需避免以下风险：

   • 超标准采购：如购买豪华被套超出公务接待标准；
     
   • 虚假报销：以被套名义套取资金用于其他支出；
     
   • 未履行审批手续：擅自采购未纳入预算的物品。

建议：行政单位在购买被套前，应核实预算、采购程序及用途合规性，并保留合同、发票等凭证以备查验。如有具体场景或金额疑问，可直接向我咨询进一步分析。