关于开除5年员工和3年员工的区别，核心在于开除的合法性及经济补偿或赔偿的计算方式上存在差异，具体分析如下：

1. 开除的合法性基础：

   • 无论是开除5年还是3年的员工，用人单位都必须有合法的理由和依据，如员工严重违反公司规章制度、严重失职造成重大损失、被依法追究刑事责任等。若用人单位无法提供充分证据证明开除的合法性，则可能构成违法解除劳动合同。

2. 经济补偿或赔偿的计算：

   • 合法开除：若用人单位能够证明开除的合法性，且符合《劳动合同法》中无需支付经济补偿的情形（如员工严重违纪等），则无需支付经济补偿。但若开除虽合法，但不符合无需支付经济补偿的情形（如公司经济性裁员等），则需按照员工在本单位的工作年限，每满一年支付一个月工资的标准向员工支付经济补偿。这里，5年员工和3年员工的经济补偿计算年限不同，5年员工将获得5个月工资的经济补偿，而3年员工则获得3个月工资的经济补偿。
   • 违法开除：若用人单位无法证明开除的合法性，则构成违法解除劳动合同。此时，用人单位需按照经济补偿标准的二倍向员工支付赔偿金。同样地，5年员工和3年员工的赔偿金计算年限也不同，5年员工将获得10个月工资的赔偿金（5年×2倍），而3年员工则获得6个月工资的赔偿金（3年×2倍）。

3. 其他潜在影响：

   • 员工关系与声誉：开除员工，尤其是长期服务的员工，可能对公司的员工关系和声誉产生负面影响。长期服务的员工往往对公司有更深的情感认同，其被开除可能引发其他员工的担忧和不满。
   • 法律风险：违法开除员工不仅需支付赔偿金，还可能面临劳动仲裁或诉讼的风险，增加公司的法律成本和声誉损失。

建议：

• 用人单位在开除员工前，应充分评估开除的合法性和必要性，确保有充分的证据和合理的理由。
• 在计算经济补偿或赔偿时，应严格按照《劳动合同法》的规定执行，避免计算错误或遗漏。
• 考虑到开除员工可能带来的负面影响，用人单位应谨慎处理，尽量通过协商、调解等方式解决劳动纠纷，维护良好的员工关系和公司声誉。

如有任何疑问或需要进一步的法律帮助，请直接向我咨询，我会根据你的具体情况提供详细的法律建议。