不胜任工作辞退并不必然属于非法辞退，但单位需遵循法定程序。
不在试用期内的情况：
- 单位若发现员工不能胜任工作，不可立即解除劳动合同。根据《中华人民共和国劳动合同法》的相关规定，此类员工应先经过培训或者调整工作岗位。若经过培训或调岗后，员工仍不能胜任工作，用人单位需提前三十日以书面形式通知劳动者本人或者额外支付劳动者一个月工资后，才可解除劳动合同，并按规定支付经济补偿金。
试用期内的情况：
- 试用期是员工初入单位的考察期，单位可以根据其表现决定是否继续录用。若员工在试用期间被证明不符合录用条件，用人单位可以解除劳动合同，且无需提前通知，也无经济补偿。但需注意，解雇原因必须合法合理，且单位需有明确的录用条件并已提前告知。
举证责任：
- 单位以“不胜任工作”为由解除劳动合同，需承担举证责任，证明员工初始不胜任工作，且经过培训或调岗后仍不能胜任。若单位未能完成此举证，则可能构成违法解除劳动合同。
法律后果：
- 若单位直接以“不胜任工作”为由辞退员工，未遵循上述法定程序，则属于违法解除劳动合同。员工有权要求单位继续履行劳动合同，或者要求单位支付违法解除劳动合同的赔偿金。
综上所述，不胜任工作辞退并不必然属于非法辞退，关键在于单位是否遵循了法定程序。若你有相关劳动纠纷问题，可直接向我咨询，我会根据你的具体情况提供进一步的法律建议。