结论：单位辞退员工时，赔偿的计算需根据辞退的合法性及员工的工作年限、工资水平等因素综合确定。针对您描述的情况，即以前年度工资每月5000元，离职前一个月工资每月2000元，我将从合法辞退和违法辞退两个角度为您详细分析赔偿的计算方法。
一、合法辞退的情况
如果单位因员工存在《劳动合同法》第三十九条规定的情形（如严重违反用人单位的规章制度、严重失职给用人单位造成重大损害等）而合法辞退员工，那么单位无需支付经济补偿金或赔偿金。但在此情况下，员工应得的工资（包括离职前一个月的工资）仍应足额支付。
二、违法辞退的情况
如果单位违法辞退员工（即无合法理由或未按照法定程序辞退），则员工有权要求单位支付赔偿金。赔偿金的计算通常基于员工的工作年限和工资水平。
工作年限的计算：
- 根据《劳动合同法》第四十七条，经济补偿按劳动者在本单位工作的年限，以每满一年支付一个月工资的标准向劳动者支付。六个月以上不满一年的，按一年计算；不满六个月的，向劳动者支付半个月工资的经济补偿。
工资水平的确定：
- 在计算赔偿金时，工资水平通常指的是员工在劳动合同解除或者终止前十二个月的平均工资。针对您的情况，虽然离职前一个月的工资为2000元，但计算赔偿金时应考虑以前年度较高的工资水平（如5000元），除非单位能证明员工离职前十二个月的平均工资确实因合理原因（如病假、事假等）而降低。
- 计算公式：赔偿金 = 工作年限 × 月平均工资 × 2（因为违法辞退的赔偿金是经济补偿金的两倍）。
- 示例计算：假设员工在单位工作了3年，且能证明离职前十二个月的平均工资为5000元（尽管离职前一个月为2000元，但整体平均仍为5000元），则赔偿金 = 3年 × 5000元/月 × 2 = 30000元。
特殊情况：
- 如果员工月工资高于用人单位所在直辖市、设区的市级人民政府公布的本地区上年度职工月平均工资三倍的，向其支付经济补偿的标准按职工月平均工资三倍的数额支付，向其支付经济补偿的年限最高不超过十二年。但这一规定主要适用于经济补偿金的计算，对于违法辞退的赔偿金计算，仍可能以员工实际工资为准（除非工资过高且符合上述三倍封顶条件）。
三、其他注意事项
- 工资支付：无论辞退是否合法，单位都应足额支付员工应得的工资，包括离职前一个月的工资。
- 证据收集：员工在主张赔偿金时，应收集相关证据（如劳动合同、工资单、辞退通知等）以证明自己的工作年限、工资水平及辞退的违法性。
- 争议解决：如果员工与单位就赔偿金问题发生争议，可以通过劳动争议调解仲裁委员会进行调解或仲裁，对仲裁裁决不服的，还可以向人民法院提起诉讼。
建议：针对您的情况，我建议您首先与单位协商解决赔偿金问题。如果协商不成，您可以收集相关证据并咨询专业律师（即我本人），以便更好地维护自己的合法权益。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。