单位证明形式不符合法律规定，确实会影响其合法性。具体来说：

单位证明若不符合法律规定的形式要件，则不能作为有效的证据使用，不具有合法性。根据最高人民法院的司法观点以及《最高人民法院关于适用〈中华人民共和国民事诉讼法〉的解释》第一百一十五条的规定，单位向人民法院提出的证明材料，必须同时满足以下三个条件，才具有证据效力：

1. 由单位负责人及制作证明材料的人员签名或者盖章；
2. 加盖单位印章；
3. 必要时，制作证明材料的人员需出庭作证。

如果单位出具的证明材料不符合上述形式要件，例如没有单位负责人或制作人员的签名、盖章，或者没有加盖单位印章，那么该证明材料就不能作为认定案件事实的根据，即不具有合法性。

在实践中，这样的规定对于确保证据的真实性和可靠性至关重要。例如，如果一份单位证明仅加盖了单位印章，但没有单位负责人或制作人员的签名或盖章，那么这份证明就可能因为无法核实其真实性而被法院排除在证据之外。

因此，在准备或使用单位证明时，务必确保其符合法律规定的形式要件，以确保其合法性和有效性。如果你在这方面有任何疑问或需要进一步的法律帮助，请随时向我咨询。