单位在不知情的情况下招聘了未离职人员，可以解除劳动合同，但需分情况讨论，且解除的合法性及程序需严格遵循法律规定。具体分析如下：

1. 若员工构成欺诈，单位可依法解除劳动合同
   根据《劳动合同法》第二十六条，以欺诈手段使对方在违背真实意思的情况下订立劳动合同的，劳动合同无效或部分无效。若员工在入职时隐瞒未离职事实（如伪造离职证明、虚构已解除劳动关系等），导致单位在不知情下签订劳动合同，单位可主张劳动合同无效，并依据《劳动合同法》第三十九条解除劳动关系，且无需支付经济补偿。
   关键点：单位需证明员工存在故意隐瞒或虚构事实的行为（如留存员工入职时填写的虚假信息、伪造文件等证据），否则可能被认定为“单位未尽审查义务”，解除行为可能被认定为违法。

2. 若单位未尽审查义务，解除可能被认定为违法
   若单位在招聘时未要求员工提供离职证明、未核实劳动关系状态（如未通过背景调查、未联系前单位确认），导致员工隐瞒未离职事实成功入职，单位直接解除劳动合同可能被认定为违法。此时，员工可能主张单位违法解除，要求支付赔偿金（2N，N为工作年限）。
   关键点：单位需在招聘流程中设置合理的审查环节（如要求提供离职证明、签署《诚信承诺书》等），以降低法律风险。

3. 若员工未影响工作，单位解除需谨慎
   若员工虽未离职，但未对现单位工作造成实质影响（如未利用前单位资源、未泄露商业秘密、未违反竞业限制等），单位直接解除劳动合同可能缺乏合理性。此时，建议单位先与员工沟通，要求其限期解除前劳动关系，若员工拒绝，再依据规章制度或法律规定解除合同。
   关键点：单位需在规章制度中明确“隐瞒未离职事实”属于严重违纪行为，并确保制度已向员工公示或告知，否则解除依据可能不足。

建议行动步骤：

1. 收集证据：留存员工入职时填写的资料、伪造的离职证明、与前单位的沟通记录等，证明员工存在欺诈行为；
   
2. 沟通协商：先与员工沟通，要求其限期解除前劳动关系，并签署书面承诺；
   
3. 依法解除：若员工拒绝或未履行承诺，单位可依据《劳动合同法》第三十九条（欺诈）或规章制度（严重违纪）解除劳动合同，并书面通知员工；
   
4. 避免风险：解除前确保程序合法（如通知工会、送达解除通知等），避免被认定为违法解除。

总结：单位在不知情下招聘未离职人员，能否解除劳动合同需结合员工行为、单位审查义务及实际影响综合判断。建议单位完善招聘流程，加强背景调查，并在规章制度中明确相关条款，以降低法律风险。如有具体案件，可进一步向我咨询细节。