职工在这种情况下是可以维权的。以下是从不同角度对此问题的详细分析：
法律程序与实体权利的时效性：
- 程序时效：虽然职工二十多年前被判刑入狱，但单位现在才决定开除，这并不意味着单位可以随意行使开除权。劳动关系的解除，包括开除，都需要遵循法定的程序和时效。如果单位在职工服刑期间或之后未及时行使开除权，且没有合理的理由，那么其现在开除职工的行为可能面临法律上的挑战。
- 实体权利时效：对于职工的违法行为（如被判刑），单位有权根据相关规定进行处理。但是，这种处理权并非无限期的。如果单位在长时间内未行使这一权利，且职工在服刑后已经回归社会并可能重新就业，那么单位现在突然开除职工，可能涉及对职工实体权利的侵犯，特别是如果这种开除没有合理的依据或程序上的正当性。
开除的合法性与合理性：
- 合法性：单位开除职工必须依据明确的法律法规或劳动合同中的约定。如果单位没有合法的依据或违反了法定程序进行开除，那么职工有权对此提出异议并寻求法律救济。
- 合理性：即使单位有合法的开除依据，也需要考虑开除的合理性。例如，如果职工在服刑期间已经受到了足够的惩罚，并且回归社会后表现良好，那么单位现在开除职工可能缺乏合理性。
维权途径：
- 劳动仲裁：职工可以先向当地的劳动仲裁委员会申请劳动仲裁，要求确认单位的开除行为违法或无效，并要求单位恢复劳动关系或支付相应的赔偿。
- 诉讼：如果劳动仲裁结果不满意，职工还可以向法院提起诉讼，通过司法程序来维护自己的合法权益。
具体建议：
- 收集证据：职工应收集与劳动关系、开除行为相关的所有证据，包括劳动合同、工资单、开除通知、相关法律法规等，以便在劳动仲裁或诉讼中证明自己的主张。
- 咨询专业律师：虽然我在这里提供了一些基本的法律分析，但每个案件的具体情况都有所不同。因此，职工在维权前最好咨询一位专业的劳动法律师，以便得到更具体、更专业的法律建议。
行动建议：职工应尽快行动起来，收集相关证据，并考虑向劳动仲裁委员会申请劳动仲裁或向法院提起诉讼来维护自己的合法权益。如果在这个过程中有任何疑问或需要进一步的法律帮助，可以直接向我咨询。