离职当天不开离职证明是否违法，这个问题涉及到《中华人民共和国劳动合同法》的相关规定。

首先，根据《中华人民共和国劳动合同法》第五十条第一款的明确规定，用人单位在解除或者终止劳动合同时，应当出具解除或者终止劳动合同的证明。这是用人单位的法定义务。同时，该条款还规定，用人单位需在十五日内为劳动者办理档案和社会保险关系转移手续。

进一步地，如果用人单位违反这一规定，未向劳动者出具解除或终止劳动合同的书面证明，根据《中华人民共和国劳动合同法》第八十九条，劳动行政部门可以责令其改正。而且，如果这一行为给劳动者造成了损害，用人单位还需要承担赔偿责任。

从实际操作的角度看，离职证明对于劳动者来说非常重要，因为它通常是新雇主要求提供的入职资料之一。如果原用人单位拒绝出具离职证明，可能会影响到劳动者的再就业，甚至导致劳动者错失新的工作机会。

因此，离职当天不开离职证明是违法的。如果遇到这种情况，劳动者可以选择与公司协商，或者向劳动监察大队投诉，还可以通过仲裁途径来解决问题。

综上所述，用人单位在解除或终止劳动合同时，必须出具离职证明。如果拒绝出具，不仅可能面临法律责任，还可能对劳动者的再就业造成不利影响。所以，建议用人单位在解除或终止劳动合同时，及时、规范地出具离职证明，以避免不必要的法律纠纷和损失。