劳动者未与其他用人单位解除合同的情况下，新单位在特定条件下可以解除与该劳动者的劳动关系，但一般情况下不建议新单位直接解除，而是应谨慎处理。以下从不同角度进行分析：
一、一般情况（不建议新单位直接解除，但存在法律风险）
法律风险：根据《中华人民共和国劳动合同法》的相关规定，劳动者同时与其他用人单位建立劳动关系，若对完成本单位的工作任务造成严重影响，或者经用人单位提出后拒不改正的，用人单位（包括新单位）可以解除劳动合同。然而，这并不意味着新单位可以直接解除与未解除原合同的劳动者的劳动关系，因为新单位在招聘时可能并未充分了解劳动者的原合同情况，直接解除可能引发劳动争议。
双重劳动关系限制：原则上，未解除与原单位的劳动合同前，劳动者不得与新公司签订劳动合同或建立正式的劳动关系，因为这可能导致精力分散，影响原单位的工作效率和质量，同时也违反了忠诚义务。新单位若明知此情况仍与劳动者建立劳动关系，可能面临法律风险，如原单位追究新单位的连带赔偿责任。
二、特殊情况（新单位可考虑解除或谨慎处理）
原单位同意：若劳动者与原用人单位协商一致，原单位明确表示同意劳动者在未解除劳动合同的情况下与新公司签订劳动合同，并且这种双重劳动关系不会对原单位的工作任务造成影响，那么新单位可以与劳动者建立劳动关系。但在此情况下，新单位也应确保劳动者的行为不会违反与原单位的合同约定或法律法规。
新工作不影响原工作：如果新工作的性质、工作时间等与原工作不存在冲突，不会对原单位的工作任务造成严重影响，且不存在利益冲突等问题，劳动者在实践中可能被允许与新公司建立劳动关系。然而，这并不意味着新单位可以随意解除与劳动者的劳动关系，因为仍需考虑劳动者的权益保护和法律法规的遵守。
原单位违约：若原公司无正当理由拖欠工资、不按照劳动合同约定提供劳动条件或支付劳动报酬等，劳动者有权一边申请劳动仲裁，一边寻找新工作并与新公司建立劳动关系。在这种情况下，新单位可以与劳动者建立劳动关系，但仍应建议劳动者尽快处理好与原公司的劳动关系问题，以避免后续可能的法律风险。若新单位发现劳动者与原单位的纠纷可能影响其在本单位的工作，可与劳动者协商解除劳动关系或采取其他合法措施。
三、法律建议与后果
法律建议：对于新单位而言，在招聘劳动者时应尽到合理的审查义务，了解劳动者是否已与原单位解除劳动合同。若发现劳动者未解除原合同，新单位应谨慎处理，可要求劳动者提供原单位的解除证明或同意函等文件。在无法确认的情况下，新单位可与劳动者协商暂缓签订劳动合同或建立非全日制等灵活用工关系。
法律后果：若新单位在未确认劳动者已与原单位解除劳动合同的情况下与其建立劳动关系，并因此给原单位造成损失的，新单位可能需要与劳动者对原单位的损失承担连带赔偿责任。同时，新单位还可能面临劳动行政部门的责令改正、罚款等行政处罚。
总结来说，新单位在面对未与原单位解除劳动合同的劳动者时，应谨慎处理并尽到合理的审查义务。若必须与该劳动者建立劳动关系，应确保劳动者的行为不会违反与原单位的合同约定或法律法规，并尽快协助劳动者处理好与原公司的劳动关系问题。如有任何疑虑或不确定的地方，可直接向我咨询。