结论：二级建造师证外挂出去，上班的单位知道了要开除员工是否合法，需根据具体情况判断，若员工行为严重违反公司规章制度或法律法规，单位开除可能合法；若单位规章制度未明确规定或规定不合理，单位开除则可能不合法。
分析说明：
员工行为性质：
- 二级建造师证外挂，即员工将自己的建造师证书挂靠到非工作单位，以获取额外收益。这种行为可能违反了公司的规章制度，尤其是如果公司明确禁止员工将证书挂靠到其他单位。
- 同时，这种行为也可能违反了相关法律法规，如《建筑法》、《招标投标法》等，这些法律对建造师证书的挂靠行为有明确的禁止性规定。
单位规章制度：
- 如果公司的规章制度中明确规定了员工不得将建造师证书挂靠到其他单位，并且规定了相应的违约责任，包括开除等，那么员工违反这一规定，单位有权依据规章制度开除员工。
- 如果公司的规章制度中没有明确规定，或者规定不明确、不合理，那么单位仅凭员工证书挂靠的行为就开除员工，可能缺乏合法依据。
法律法规依据：
- 根据《劳动合同法》的相关规定，员工严重违反用人单位的规章制度的，用人单位可以解除劳动合同。但前提是规章制度必须合法、合理且经过民主程序制定。
- 如果员工的行为同时违反了法律法规，如上述提到的建筑法、招标投标法等，单位在解除劳动合同时，还可以依据这些法律法规来增强自己的合法性。
法律建议：
- 对于员工：应严格遵守公司的规章制度和法律法规，不要将建造师证书挂靠到其他单位，以免给自己带来不必要的法律风险。如果已经挂靠，应尽快解除挂靠关系，并主动向单位说明情况，争取单位的谅解。
- 对于单位：应制定明确、合理、合法的规章制度，明确禁止员工将建造师证书挂靠到其他单位，并规定相应的违约责任。在发现员工有挂靠行为时，应依据规章制度和法律法规进行处理，确保处理的合法性和合理性。
可能后果：
- 如果员工因证书挂靠被单位开除，且单位的行为合法，那么员工将失去工作，并可能面临一定的经济损失。
- 如果单位的行为不合法，员工可以通过劳动仲裁或诉讼等途径维护自己的合法权益，要求单位支付经济补偿金等。
如有更多疑问或需要进一步的法律帮助，可以直接向我咨询。