退伍军人在单位上班，并非没有重大错误就不能被开除，但确实受到一定的法律保护。以下从不同角度为你详细分析：

法律对退伍军人的特殊保护

根据《退役士兵安置条例》等相关法律法规，退伍军人在就业安置方面享有一定的优惠政策，包括由政府安排工作等。对于由政府安排工作的退役士兵，接收单位应当与其签订中长期劳动合同，且合同期限一般不少于3年。但这并不意味着退伍军人在单位就拥有了“铁饭碗”，不能被开除。

单位开除员工的法定条件

单位开除员工，通常需要满足一定的法定条件，如员工严重违反用人单位的规章制度、严重失职或营私舞弊给用人单位造成重大损害、被依法追究刑事责任等。这些条件同样适用于退伍军人。也就是说，如果退伍军人在单位上班期间存在上述严重过错，单位是有权依法开除的。

退伍军人被开除的特殊情况

虽然退伍军人受到一定的法律保护，但在某些特殊情况下，他们也可能被开除。例如：

1. 试用期不符合录用条件：如果退伍军人在试用期内被证明不符合录用条件，单位可以依据《劳动合同法》的相关规定解除劳动合同。
2. 严重违反规章制度：如果退伍军人严重违反单位的规章制度，且该规章制度是合法有效的，单位也有权开除。
3. 被依法追究刑事责任：如果退伍军人因犯罪被依法追究刑事责任，单位可以依据《劳动合同法》的相关规定解除劳动合同。

退伍军人被开除后的权益保障

如果退伍军人被单位开除，他们仍然享有一定的权益保障。例如，他们有权要求单位出具解除劳动合同的证明，并在规定时间内办理档案和社会保险关系转移手续。同时，如果退伍军人认为单位的开除决定违法或不当，他们还可以依法申请劳动仲裁或提起诉讼，维护自己的合法权益。

建议

1. 了解并遵守单位规章制度：退伍军人在单位上班期间，应了解并遵守单位的规章制度，避免因违反规定而被开除。
2. 保留相关证据：如果退伍军人认为单位的开除决定违法或不当，应保留好相关证据，如劳动合同、工资单、工作记录等，以便在申请劳动仲裁或提起诉讼时使用。
3. 及时咨询专业律师：如果退伍军人遇到劳动纠纷或被开除等问题，应及时咨询专业律师，了解自己的权益和义务，并寻求法律帮助。

有问题可以直接向我咨询，我会根据你的具体情况提供详细的法律建议。