公司翻旧账开除员工是否合法，不能一概而论，需要结合具体情况来判断。以下从不同角度为你详细分析：
合法情况
- 员工存在严重违纪行为且公司有充分证据
- 如果员工在过去存在严重违反公司规章制度、职业道德或者法律法规的行为，例如贪污受贿、泄露公司商业机密、严重违反操作规程导致重大事故等，且公司当时由于各种原因没有及时处理，但之后掌握了确凿的证据。在这种情况下，公司依据合法有效的规章制度，经过合法的程序（如通知工会、听取员工意见等）开除员工，是合法的。
- 举例：员工在一年前利用职务之便，将公司的客户信息私自出售给竞争对手，当时公司没有发现。后来通过调查取证，掌握了该员工出售客户信息的聊天记录、转账记录等证据。此时公司依据公司规章制度中“泄露公司商业机密，情节严重者予以开除”的规定，经过合法程序开除该员工，这种行为是合法的。
- 员工被依法追究刑事责任
- 根据《劳动合同法》第三十九条规定，劳动者被依法追究刑事责任的，用人单位可以解除劳动合同。如果员工在过去犯了罪，当时没有被发现或者没有被追究刑事责任，之后被司法机关依法追究了刑事责任，公司可以据此开除员工，这是合法的。
- 举例：员工在两年前参与了一起盗窃案件，当时没有被警方察觉。后来案件侦破，该员工被法院判处有期徒刑。公司得知此情况后，依据法律规定开除该员工，是符合法律要求的。
非法情况
- 公司没有合法依据
- 如果公司翻旧账开除员工，但是无法提供员工存在违纪行为或者其他符合开除条件的证据，或者公司的规章制度本身不合法（如制定程序不合法、内容违反法律法规等），那么公司的开除行为就是非法的。
- 举例：公司以员工在三年前的一次会议上迟到为由开除员工，但公司没有相关的规章制度规定会议迟到可以开除，且也没有其他证据证明该迟到行为给公司造成了重大损失。这种情况下，公司的开除行为就是非法的。
- 未履行法定程序
- 即使员工存在可以开除的情形，公司也需要按照法定程序进行操作。例如，公司需要事先将理由通知工会，如果公司没有工会，需要向上级工会报备；还需要听取员工的陈述和申辩等。如果公司没有履行这些法定程序，开除行为也可能被认定为非法。
- 举例：公司发现员工存在严重违纪行为后，没有通知工会，也没有听取员工的陈述和申辩，直接做出了开除决定。这种情况下，即使员工确实存在违纪行为，公司的开除程序不合法，开除行为也可能被撤销。
法律后果
如果公司非法开除员工，员工可以要求公司继续履行劳动合同，或者要求公司支付赔偿金。赔偿金的标准按照经济补偿标准的二倍计算，经济补偿按劳动者在本单位工作的年限，每满一年支付一个月工资的标准向劳动者支付。六个月以上不满一年的，按一年计算；不满六个月的，向劳动者支付半个月工资的经济补偿。
如果你遇到公司翻旧账开除的情况，建议先收集相关证据，如劳动合同、公司规章制度、开除通知等，然后根据具体情况维护自己的合法权益。有问题可以直接向我咨询。