非全日制劳动者在同一单位兼职，在大多数情况下并不违法。不过，具体是否合法，还需根据劳动合同内容、兼职对本职工作的影响以及是否存在利益冲突等多个因素综合判断。以下从不同角度为你详细分析：
合法兼职的情形
劳动合同未限制且不影响本职工作：
- 根据《中华人民共和国劳动合同法》的相关规定，并未明确禁止劳动者建立双重或多重劳动关系。若非全日制劳动者与用人单位签订的劳动合同中未禁止兼职，且兼职行为不会干扰本职工作的完成，也未损害用人单位的合法权益，则兼职是合法的。例如，一名非全日制员工在业余时间为其他企业提供咨询服务，且不影响在现单位的工作，这种兼职行为是被允许的。
非全日制用工的特殊性：
- 《劳动合同法》第六十九条明确规定，从事非全日制用工的劳动者可以与一个或一个以上用人单位订立劳动合同，但后订立的劳动合同不得影响先订立的劳动合同的履行。这意味着，非全日制劳动者在法律上是被允许同时与多个用人单位建立劳动关系的，只要确保每个劳动关系都不受其他关系的影响即可。比如，一名大学生利用课余时间同时在两家餐厅做非全日制服务员，只要他能合理安排时间，确保不影响在两家餐厅的工作，这种兼职方式就是符合法律规定的。
可能违法或违约的情形
违反劳动合同约定：
- 若劳动合同中明确禁止兼职，或包含竞业限制条款，非全日制劳动者擅自兼职将构成违约。例如，员工违反保密及竞业限制协议，在职期间从事与公司业务有竞争关系的兼职工作，需承担违约责任。
对本职工作造成严重影响：
- 即使劳动合同未禁止兼职，若兼职行为导致非全日制劳动者无法完成本职工作，或给用人单位造成损害，用人单位有权依据《劳动合同法》第三十九条解除劳动合同。如员工因兼职频繁旷工、迟到早退，影响本职工作，用人单位可依法解除劳动合同。
侵犯商业秘密或违反竞业限制：
- 非全日制劳动者在兼职过程中泄露原用人单位的商业秘密，或违反竞业限制协议到与原单位有竞争关系的单位兼职，将面临民事赔偿责任，情节严重者还可能承担刑事责任。例如，技术人员将公司研发的新产品技术信息透露给兼职的竞争对手公司，即构成侵犯商业秘密。
建议与指导
- 仔细查阅劳动合同：在兼职前，非全日制劳动者应仔细查阅劳动合同，了解公司规章制度，确保兼职行为不违反合同约定及公司规定。
- 合理安排时间：确保兼职行为不会影响本职工作的完成，避免给用人单位造成损害。
- 遵守竞业限制和保密义务：在兼职过程中，严格遵守竞业限制和保密义务，避免泄露原用人单位的商业秘密。
综上所述，非全日制劳动者在同一单位兼职的合法性取决于多个因素。如果你有具体的法律问题或疑虑，可以直接向我咨询，我会为你提供更详细的法律意见和帮助。