您好，关于您提出的“单位没有开离职证明是否违法”的问题，我可以明确地告诉您，单位在解除或终止劳动合同时未出具离职证明，是违法的。

首先，我们来看相关的法律规定。根据《中华人民共和国劳动合同法》第五十条的规定，用人单位在解除或者终止劳动合同时，应当出具解除或者终止劳动合同的证明，这是用人单位的法定义务。同时，该法条还规定了用人单位应在十五日内为劳动者办理档案和社会保险关系转移手续。

接下来，我们分析一下如果单位不出具离职证明可能会带来的后果。离职证明对于劳动者来说非常重要，它是劳动者与新用人单位建立劳动关系的重要凭证。如果因为原单位未出具离职证明，导致劳动者无法成功入职新单位，或者在新单位因未在规定期限内提交前家离职证明而被解聘，那么原单位是需要承担赔偿责任的。这种赔偿责任包括但不限于劳动者因此遭受的工资收入损失等。

再举一个实际的案例来进一步说明这个问题。有位劳动者在离职后，因为原单位迟迟不出具离职证明，导致他无法按时入职新单位。后来，这位劳动者通过法律途径维护了自己的权益，原单位被责令出具离职证明，并赔偿了劳动者因此遭受的经济损失。

因此，我建议您，如果您的单位在解除或终止劳动合同时未出具离职证明，您可以先与单位进行沟通协商，要求其出具离职证明。如果单位拒绝或拖延出具，您可以向当地的劳动行政部门投诉，或者申请劳动仲裁来维护自己的合法权益。

希望以上解答能够对您有所帮助。如果您还有其他问题或需要进一步的帮助，请随时告诉我。