结论：单位要求员工上班携带录音笔是否违法不能一概而论，需分情况讨论。具体分析如下：

1. 若单位明确告知员工并征得同意
   根据《个人信息保护法》第十三条，处理个人信息需取得个人同意（法律另有规定除外）。若单位提前书面告知录音目的（如工作监督、纠纷取证）、范围（仅限工作场所）及保存方式，并取得员工书面同意，则属于合法行为。但需注意：

   • 录音内容仅限工作相关，不得涉及员工私生活；
     
   • 单位需对录音数据严格保密，不得随意泄露或用于非工作目的。

2. 若单位未告知或强制要求

   • 侵犯隐私权：根据《民法典》第一千零三十二条，自然人享有隐私权，任何组织或个人不得窃听、偷拍私密活动。若单位在更衣室、卫生间等私密场所强制录音，或录音内容涉及员工私人对话，则构成侵权。
     
   • 违反劳动法：根据《劳动合同法》第三十八条，若单位规章制度违反法律损害劳动者权益（如强制录音侵犯人格尊严），员工可主张解除合同并要求赔偿。
     
   • 可能涉及刑事犯罪：若单位将录音用于敲诈勒索、商业间谍等非法目的，可能触犯《刑法》第二百五十三条之一（侵犯公民个人信息罪）。

3. 特殊行业或岗位的例外
   若员工从事金融、安保等特殊岗位，单位可能依据《安全生产法》或行业规范要求录音，但需满足：

   • 录音目的与工作直接相关（如防止操作失误、应对突发事件）；
     
   • 录音设备由单位统一管理，员工无权私自处理录音数据；
     
   • 录音内容仅限内部使用，不得对外传播。

建议：

• 对员工：若认为单位要求不合理，可要求单位出具书面说明并留存证据，必要时向劳动监察部门投诉或提起民事诉讼。
  
• 对单位：应完善录音制度，明确告知员工并取得同意，限制录音范围，定期销毁无关数据，避免法律风险。
  

如有进一步疑问，可直接向我咨询具体场景下的法律应对方案。