单位不给开辞退证明是不合法的行为，这主要基于以下几点法律依据和理由：

首先，根据《劳动合同法》第50条的规定，用人单位在解除或者终止劳动合同时，有出具解除或者终止劳动合同证明的法定义务。这一规定明确了用人单位在员工离职时必须履行的一项基本责任，无论离职的性质是自愿还是非自愿，也无论离职的原因是什么，用人单位都必须为员工开具这份证明。

其次，如果单位拒绝开具解除或终止劳动合同证明，不仅违反了法律规定，还可能对劳动者的再就业产生不利影响。因为现在很多用人单位在招聘新员工时，都会要求求职者提供上家单位开具的解除或终止劳动合同证明，以了解求职者在上家单位的相关信息，作为是否录用的依据之一。没有这份证明，劳动者可能会面临就业困难。

再者，对于非自愿离职的员工来说，持解除或终止劳动合同证明还可以进行失业登记并领取失业保险金。这是《社会保险法》第45条所规定的。如果单位拒绝开具证明，员工就可能无法享受到这一应有的权益。

那么，如果单位确实拒绝开具辞退证明，员工应该如何维权呢？一方面，员工可以向劳动行政部门投诉，由劳动行政部门责令单位改正；另一方面，如果因为单位的行为给员工造成了损害，员工还可以要求单位承担赔偿责任。

综上所述，单位不给开辞退证明是违法的，且可能对劳动者的权益造成损害。因此，建议单位在员工离职时，严格按照法律规定为员工开具解除或终止劳动合同证明，以避免不必要的法律纠纷和赔偿责任。同时，员工也应该了解自己的权益，如果单位拒绝开具证明，要及时采取法律手段维护自己的合法权益。