结论：单位无故辞退在单位工作了三十多年且从未犯过错误的职工，单位的做法是违法的，职工有权要求单位承担相应的法律责任。

分析如下：

1. 违法性分析：

   • 根据《中华人民共和国劳动合同法》的相关规定，用人单位解除劳动合同必须基于法定事由，如劳动者严重违反用人单位的规章制度、严重失职给用人单位造成重大损害等。若单位无法证明职工存在这些法定解除事由，而随意辞退职工，则构成违法解除劳动合同。
   • 在您描述的情况下，职工在单位工作了三十多年且从未犯过错误，显然不存在单位可以合法解除劳动合同的情形。因此，单位的做法是违法的。

2. 法律责任：

   • 经济补偿：根据《劳动合同法》的规定，用人单位违法解除劳动合同的，应当向劳动者支付赔偿金。赔偿金的标准是经济补偿标准的两倍。经济补偿按劳动者在本单位工作的年限，以每满一年支付一个月工资的标准向劳动者支付。六个月以上不满一年的，按一年计算；不满六个月的，向劳动者支付半个月工资的经济补偿。因此，您有权要求单位支付相应的赔偿金。
   • 继续履行合同：除了要求支付赔偿金外，您还可以选择要求单位继续履行劳动合同，恢复劳动关系。这通常适用于您希望继续留在单位工作的情况。

3. 维权途径：

   • 协商：首先，您可以尝试与单位进行协商，看是否能够达成和解，要求单位承认错误并支付相应的赔偿。
   • 劳动仲裁：如果协商无果，您可以向当地的劳动仲裁委员会申请劳动仲裁，要求单位承担违法解除劳动合同的法律责任。劳动仲裁是解决劳动纠纷的一种有效方式，其裁决具有法律效力。
   • 诉讼：如果您对劳动仲裁的结果不满意，还可以向人民法院提起诉讼，通过司法途径维护自己的合法权益。

建议：

• 在维权过程中，建议您保留好与单位之间的劳动合同、工资单、工作记录等相关证据，以便在需要时提供证明。
• 如果您对法律程序不熟悉或感到困惑，可以寻求专业律师的帮助，以确保您的权益得到充分保障。

后续行动：

• 如果您决定采取法律行动，建议您尽快咨询专业律师，了解具体的维权步骤和注意事项。
• 在与单位协商或进行法律程序时，保持冷静和理性，避免情绪化行为影响维权效果。

如有任何疑问或需要进一步的法律帮助，请随时向我咨询。