结论：新员工在其他单位一直缴纳保险，不需要本单位缴纳保险是否合法，需分情况讨论，具体如下：
- 若新员工与本单位建立劳动关系，且不存在双重劳动关系情形
- 根据《中华人民共和国社会保险法》第五十八条规定，用人单位应当自用工之日起三十日内为其职工向社会保险经办机构申请办理社会保险登记。未办理社会保险登记的，由社会保险经办机构核定其应当缴纳的社会保险费。这意味着，只要员工与本单位建立了劳动关系，本单位就有法定义务为其缴纳社会保险。
- 即使新员工在其他单位一直缴纳保险，若其与本单位建立了全日制劳动关系，本单位仍需为其缴纳社会保险。因为社会保险具有强制性，用人单位和劳动者必须依法参加社会保险，缴纳社会保险费。此时，新员工要求本单位不缴纳保险的行为是不合法的，本单位若不缴纳也会面临劳动保障行政部门的处罚，如责令限期缴纳、加收滞纳金等。
- 若新员工与本单位建立的是非全日制劳动关系
- 根据《中华人民共和国劳动合同法》第六十八条规定，非全日制用工，是指以小时计酬为主，劳动者在同一用人单位一般平均每日工作时间不超过四小时，每周工作时间累计不超过二十四小时的用工形式。对于非全日制员工，法律并未强制要求用人单位为其缴纳社会保险，用人单位可以仅为其缴纳工伤保险费。
- 如果新员工在本单位从事非全日制工作，且在其他单位已经缴纳了社会保险，其要求本单位不缴纳除工伤保险外的其他社会保险是合法的。但本单位若愿意，也可以按照规定为其缴纳工伤保险。
- 若新员工与其他单位存在双重劳动关系，且本单位知情并同意
- 在实践中，存在一些劳动者同时与多个用人单位建立劳动关系的情形。如果本单位知情并同意新员工在其他单位缴纳社会保险，且双方在劳动合同或协议中明确约定了社会保险的缴纳方式，这种约定在不违反法律强制性规定的前提下是有效的。
- 但需要注意的是，这种约定只是双方之间的内部约定，不能对抗法律的强制性规定。如果劳动保障行政部门发现本单位未依法为新员工缴纳社会保险，仍会依法进行处罚。而且，一旦发生劳动争议，新员工仍可以要求本单位承担未缴纳社会保险的法律责任，本单位不能以双方有约定为由进行抗辩。不过，本单位在承担责任后，可以根据双方约定向新员工追偿。
建议：对于新员工来说，要了解自己的社会保险权益，确保社会保险的连续缴纳，以保障自己在年老、疾病、工伤、失业、生育等情况下依法从国家和社会获得物质帮助的权利。对于用人单位来说，要严格遵守法律规定，依法为员工缴纳社会保险，避免因未缴纳社会保险而引发的法律风险。如果在这方面有任何疑问或需要进一步的法律帮助，可以直接向我咨询。