结论：单位制度规定员工兼职就开除，单位据此主张员工兼职并予以开除，这一行为是否违法，需结合具体情况来判断，不能一概而论。以下从不同角度进行分析：
单位规章制度的合法性：
- 根据《劳动合同法》的相关规定，用人单位在制定、修改或者决定有关劳动报酬、工作时间、休息休假、劳动安全卫生、保险福利、职工培训、劳动纪律以及劳动定额管理等直接涉及劳动者切身利益的规章制度或者重大事项时，应当经职工代表大会或者全体职工讨论，提出方案和意见，与工会或者职工代表平等协商确定。
- 如果单位的规章制度未经上述民主程序制定，或者规章制度的内容违反法律、行政法规及政策规定，那么该规章制度对劳动者不具有约束力。因此，如果单位仅凭未经民主程序制定或内容违法的规章制度来开除员工，这一行为是违法的。
员工兼职的性质：
- 员工兼职是否构成对劳动合同的违反，取决于劳动合同或单位规章制度中的具体约定。如果劳动合同或规章制度中明确禁止员工兼职，且员工确实存在兼职行为，那么员工可能构成违约。
- 但即便员工存在兼职行为，单位也不能直接开除员工。单位需要证明员工的兼职行为对完成本单位的工作任务造成了严重影响，或者经单位提出后拒不改正，才能依据《劳动合同法》的相关规定解除劳动合同。
开除程序的合法性：
- 即使单位有合法的规章制度，且员工确实存在违反规章制度的行为，单位在开除员工时也需要遵循法定的程序。这通常包括提前通知员工、听取员工的申辩、告知员工解除劳动合同的理由和依据等。
- 如果单位未遵循法定程序开除员工，那么这一行为也是违法的。
法律建议：
- 对于员工而言，如果单位以兼职为由开除你，你可以先查看单位的规章制度是否合法有效，以及你的兼职行为是否确实违反了规章制度或劳动合同。同时，你也可以回顾单位在开除你时是否遵循了法定程序。如果认为单位的开除行为违法，你可以向劳动争议仲裁委员会申请仲裁，维护自己的合法权益。
- 对于单位而言，在制定规章制度时，应确保规章制度的合法性和有效性，并遵循民主程序。在开除员工时，应确保有充分的证据证明员工的违规行为，并遵循法定程序，以避免法律风险。
可能后果：
- 如果单位的开除行为被认定为违法，那么单位可能需要支付赔偿金给员工，并可能面临劳动行政部门的处罚。
- 如果员工的兼职行为确实违反了规章制度或劳动合同，且单位能够证明这一点并遵循了法定程序，那么单位的开除行为可能是合法的。但即便如此，单位也应谨慎处理，以避免引发不必要的劳动争议。
如有更多疑问或需要进一步的法律帮助，请直接向我咨询。