行政单位在符合特定条件下，可以使用公款购买冰箱。以下是对此结论的详细解释：

1. 合规性考虑：行政单位使用公款进行采购，必须严格遵守国家相关的财务管理制度和采购规定。这通常意味着需要遵循公开、公平、公正的原则，通过正规的采购流程进行，并确保所购物品是用于单位公务活动，而非个人或私用。

2. 必要性评估：在购买冰箱之前，行政单位应对其必要性进行充分评估。例如，如果单位有存储食品、药品或其他需要冷藏物品的需求，且现有设施无法满足这些需求，那么购买冰箱可能是合理的。

3. 预算与审批：行政单位在购买冰箱前，应确保该支出已纳入单位预算，并经过相应的审批流程。这通常涉及提交采购申请、获得上级部门或相关负责人的批准，并确保资金来源的合法性。

4. 采购与验收：在采购过程中，行政单位应遵循相关法规，选择信誉良好的供应商，并签订正式的采购合同。购买后，还应进行严格的验收程序，确保所购冰箱符合质量要求并满足单位需求。

5. 后续管理与使用：购买冰箱后，行政单位应建立相应的管理制度，明确冰箱的使用、维护和报废流程。同时，应确保冰箱的使用符合其设计用途，避免浪费或滥用。

综上所述，行政单位在符合财务管理制度、采购规定以及必要性评估等前提下，可以使用公款购买冰箱。但在此过程中，必须严格遵守相关法律法规和制度要求，确保采购活动的合规性和有效性。