公司违法开除员工且不开具解除劳动合同证明的行为，确实违法。以下从不同角度为您详细分析：

一、违法开除员工的法律后果

根据《中华人民共和国劳动合同法》的相关规定，用人单位违法解除或者终止劳动合同的，应当依照经济补偿标准的二倍向劳动者支付赔偿金。经济补偿的标准则根据劳动者在本单位工作的年限，以每满一年支付一个月工资的标准向劳动者支付。六个月以上不满一年的，按一年计算；不满六个月的，向劳动者支付半个月工资的经济补偿。因此，公司违法开除员工，不仅需要支付赔偿金，还可能面临劳动行政部门的处罚。

二、不开具解除劳动合同证明的法律后果

1. 行政责任：

   • 根据《中华人民共和国劳动合同法》第八十九条：“用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明，由劳动行政部门责令改正；给劳动者造成损害的，应当承担赔偿责任。”这意味着，如果公司不开具解除劳动合同证明，劳动行政部门有权责令其改正，并可能对公司进行处罚。

2. 民事责任：

   • 如果因公司未开具解除劳动合同证明而导致劳动者无法享受失业保险待遇、无法再就业等损失，公司应当承担相应的赔偿责任。例如，劳动者因无法提供解除劳动合同证明而错过新的就业机会，公司可能需要赔偿劳动者因此遭受的工资损失等。

三、劳动者的应对措施

1. 与公司协商：

   • 劳动者可以首先尝试与公司进行协商，要求公司开具解除劳动合同证明，并支付违法解除劳动合同的赔偿金。

2. 向劳动行政部门投诉：

   • 如果协商无果，劳动者可以向当地劳动行政部门投诉，要求劳动行政部门介入调查，并责令公司改正违法行为。

3. 申请劳动仲裁或提起诉讼：

   • 劳动者还可以向劳动争议仲裁委员会申请仲裁，或者向人民法院提起诉讼，要求公司支付赔偿金、开具解除劳动合同证明，并承担因未开具证明而造成的损失。

四、实际案例与启示

在实际操作中，已经有多起因公司违法开除员工且不开具解除劳动合同证明而引发的劳动争议案件。这些案件中，法院通常都会判决公司支付赔偿金，并责令公司开具解除劳动合同证明。因此，对于劳动者而言，如果遇到类似情况，应当勇敢维护自己的合法权益，通过法律途径解决问题。

综上所述，公司违法开除员工且不开具解除劳动合同证明的行为，不仅违反了《中华人民共和国劳动合同法》的相关规定，还可能面临行政处罚和民事赔偿。劳动者在遇到此类情况时，应当及时采取措施维护自己的合法权益。如果您有进一步的法律问题或需要具体的法律建议，请直接向我咨询。