公司以不能胜任工作开除员工，并不一定合法，需要视具体情况而定。以下从多个角度进行分析：

一、法律背景与规定

根据《中华人民共和国劳动合同法》的相关规定，劳动者不能胜任工作，经过培训或者调整工作岗位，仍不能胜任工作的，用人单位提前三十日以书面形式通知劳动者本人或者额外支付劳动者一个月工资后，可以解除劳动合同。这是公司以不能胜任工作为由开除员工的法律前提。

二、合法解除的条件

1. 证明不能胜任工作：

   • 公司需要提供充分的证据证明员工确实不能胜任当前的工作。这通常包括员工的工作表现记录、考核结果、同事或上级的评价等。
   • 如果公司无法提供这些证据，或者证据不足以证明员工不能胜任工作，那么公司以此为由开除员工就是违法的。

2. 培训或调整工作岗位：

   • 在证明员工不能胜任工作后，公司应当先对员工进行培训或者调整其工作岗位。
   • 如果公司没有进行这一步骤，直接开除员工，也是违法的。

3. 再次证明不能胜任工作：

   • 即使经过培训或调整工作岗位后，公司还需要再次证明员工仍然不能胜任工作。
   • 这同样需要提供充分的证据，如新的工作表现记录、考核结果等。

4. 提前通知或支付代通知金：

   • 在满足上述条件后，公司还需要提前三十日以书面形式通知员工本人，或者额外支付员工一个月工资作为代通知金，才能解除劳动合同。

三、违法解除的后果

如果公司违反上述规定，以不能胜任工作为由违法开除员工，那么员工有权要求公司继续履行劳动合同，或者要求公司支付赔偿金。赔偿金的计算通常是根据员工在公司的工作年限和工资水平来确定的。

四、实际操作建议

1. 对于公司：

   • 在开除员工前，务必确保满足所有合法解除的条件，并保留好相关证据。
   • 最好咨询专业律师，以确保解除劳动合同的合法性和合规性。

2. 对于员工：

   • 如果公司以不能胜任工作为由开除你，你有权要求公司提供充分的证据证明你不能胜任工作。
   • 如果公司无法提供证据，或者证据不足，你可以向劳动仲裁机构申请仲裁，维护自己的合法权益。

总结来说，公司以不能胜任工作开除员工并不一定合法，需要满足一系列条件并保留好相关证据。如果你或你所在的公司面临这样的问题，建议直接向我咨询，我会根据具体情况提供详细的法律建议和帮助。