结论前置：公司以不能胜任工作为由辞退员工，是否需要支付赔偿，主要取决于公司的辞退程序是否合法合规以及是否能够提供充分证据证明员工不能胜任工作。具体来说，存在需要支付经济补偿和不需要支付经济补偿两种情况。
一、需要支付经济补偿的情况
法律依据与程序要求：
- 根据《中华人民共和国劳动合同法》第四十条，若劳动者不能胜任工作，且经过培训或调整工作岗位后仍不能胜任，用人单位需提前三十日以书面形式通知劳动者本人或者额外支付一个月工资后，方可解除劳动合同。
- 同时，依据该法第四十七条，用人单位应按劳动者在本单位工作年限支付经济补偿，具体为每满一年支付一个月工资的标准向劳动者支付；六个月以上不满一年的，按一年计算；不满六个月的，向劳动者支付半个月工资的经济补偿。这里的月工资是指劳动者在劳动合同解除或者终止前十二个月的平均工资。
- 对于月工资高于用人单位所在直辖市、设区的市级人民政府公布的本地区上年度职工月平均工资三倍的员工，向其支付的经济补偿标准将按职工月平均工资三倍的数额支付，且支付经济补偿的年限最高不超过十二年。
实际案例：
- 假设员工小张在某公司工作了4年，月平均工资为10000元。若公司以小张不能胜任工作且经过培训后仍不能胜任为由合法解除劳动合同，则需向小张支付4个月工资的经济补偿，即40000元。若公司未提前三十日书面通知，还需额外支付一个月工资10000元。
二、不需要支付经济补偿（但可能需支付赔偿金）的情况
违法辞退情形：
- 如果公司无法证明劳动者不能胜任工作，或者未对不能胜任工作的劳动者进行培训或调整工作岗位，就直接以不能胜任工作为由辞退员工，这构成违法解除劳动合同。
- 根据《中华人民共和国劳动合同法》第八十七条，用人单位违反本法规定解除或者终止劳动合同的，应当依照本法第四十七条规定的经济补偿标准的二倍向劳动者支付赔偿金。
实际案例：
- 假设员工小李在某公司工作了2年，月平均工资为8000元。若公司无任何证据证明小李不能胜任工作就直接将其辞退，则属于违法解除劳动合同，应向小李支付赔偿金。赔偿金为经济补偿（2×8000=16000元）的二倍，即32000元。
三、特殊情况与建议
- 特殊情况：如果劳动者不能胜任工作是由于用人单位未提供适当的培训或劳动条件造成的，用人单位在解除劳动合同时可能需要承担更大的责任，包括但不限于支付额外的经济补偿或赔偿金。
- 建议：公司在做出辞退决定时，应确保符合相关法律规定，包括有充分的证据证明员工不能胜任工作，以及已履行了培训或调岗等前置程序。同时，公司应严格按照法律规定的程序进行操作，以避免不必要的法律风险。
总结与进一步咨询：公司以不能胜任工作为由辞退员工时，是否需要支付赔偿取决于多种因素。若您面临此类情况，或有任何疑问，请直接向我咨询，我将根据您的具体情况提供详细的法律建议。