关于您在私人企业上班12年后被开除是否合法的问题，这需要根据具体情况来判断。以下是我根据相关法律法规和常见劳动纠纷处理经验，为您提供的详细解答：
单位开除员工的合法性判断：
- 若员工存在严重违反单位制度、严重失职致单位重大损失、被追究刑事责任等法定过错，单位可以依法解除劳动合同，且无需支付经济补偿。
- 若员工没有上述过错，单位单方面开除员工则可能构成违法解除。特别是当员工已经在单位工作了12年，且很可能已经签订了无固定期限劳动合同的情况下，单位解约的限制会更多。
员工权益与单位责任：
- 如果单位违法解除劳动合同，员工有权要求单位继续履行劳动合同。
- 如果员工不要求继续履行合同，或者合同已经无法继续履行，单位应当按照经济补偿标准的二倍支付赔偿金。经济补偿按员工在单位工作的年限，每满一年支付一个月工资的标准计算。
实际案例参考：
- 以小何为例，他在某单位工作了12年，已签订无固定期限劳动合同。若单位单方面开除小何，且不能证明小何存在严重违反单位规章制度、严重失职给单位造成重大损害、被依法追究刑事责任等法定过错，那么单位的开除行为就可能构成违法解除。小何有权要求单位继续履行合同，或者要求单位按经济补偿标准的二倍支付赔偿金。
综上所述，私人企业上班12年后被开除是否合法，关键在于单位开除员工的理由是否合法、合规。如果您认为自己被违法解除，可以依法维护自己的权益，要求单位继续履行合同或者支付赔偿金。如有需要，您可以随时向我咨询具体的法律问题和应对策略。