单位一把手不可以任意免职。免职是一个严肃的法律程序，必须遵循相关法律法规和单位内部规章制度，具体分析如下：
法律法规层面：
- 根据《中华人民共和国公务员法》及相关法律法规，公务员的任免、升降、奖惩等都有明确的程序和规定。单位一把手作为公务员的一部分，其免职也必须遵循这些程序。
- 免职通常需要基于一定的法定事由，如工作需要、职务调整、考核不合格、违纪违法等。没有合法事由，不能随意免职。
- 免职程序通常包括提出免职建议、审核、讨论决定、任免通知等环节，确保免职的合法性和公正性。
单位内部规章制度层面：
- 除了法律法规外，单位内部通常也有一套完善的规章制度，对人员的任免、考核、奖惩等进行规范。
- 这些规章制度往往对免职的条件、程序、权限等有具体规定，单位一把手作为单位的管理者，也必须遵守这些规定。
- 如果单位内部规章制度对免职有特别规定，如需要经过职工代表大会或董事会等机构的审议和批准，那么免职也必须遵循这些特别规定。
实际操作层面：
- 在实际操作中，免职往往不是一把手个人可以决定的事情，而是需要经过一系列的程序和审批。
- 即使一把手认为某个员工需要免职，也需要提出充分的理由和证据，并经过相关部门的审核和讨论决定。
- 如果免职决定存在争议或违法违规情况，被免职的员工有权依法维权，如申请行政复议或提起行政诉讼等。