结论：公司不能仅以“能力不胜任”为由直接辞退已经在公司上班4年的同事，而需遵循一定的法律程序和规定。
分析：
法律依据：
- 根据《中华人民共和国劳动合同法》的相关规定，劳动者不能胜任工作，经过培训或者调整工作岗位，仍不能胜任工作的，用人单位提前三十日以书面形式通知劳动者本人或者额外支付劳动者一个月工资后，可以解除劳动合同。
法律程序：
- 不胜任工作的认定：公司需有明确的证据证明该员工确实不能胜任当前工作，这通常涉及对员工工作表现的评估、考核等。
- 培训或调岗：在认定员工不胜任工作后，公司应首先考虑提供培训或调整工作岗位，以帮助员工提升能力或适应新的工作要求。
- 再次评估：经过培训或调岗后，公司需再次评估员工的工作表现，确认其是否仍不能胜任工作。
- 解除劳动合同：只有在经过上述步骤后，公司才能提前三十日以书面形式通知员工本人或者额外支付一个月工资后，解除劳动合同。
经济补偿：
- 如果公司依法解除劳动合同，还需根据员工在公司的工作年限支付经济补偿。对于已经在公司上班4年的员工，公司应支付4个月工资的经济补偿（具体数额根据员工月工资和当地政策确定）。
违法解除的后果：
- 如果公司未经上述法律程序直接辞退员工，可能构成违法解除劳动合同。根据《劳动合同法》的规定，违法解除劳动合同的，公司需支付赔偿金，即经济补偿的两倍。
建议：
- 公司角度：在考虑辞退不胜任工作的员工时，务必遵循法律程序，确保每一步都有充分的证据和合理的理由。同时，与员工进行充分沟通，尽量通过培训或调岗等方式解决问题，避免直接辞退带来的法律风险和经济损失。
- 员工角度：如果认为自己被不公正地辞退，可以收集相关证据（如工作表现记录、培训或调岗通知等），向当地劳动争议仲裁委员会申请仲裁，维护自己的合法权益。
总结：公司不能仅以“能力不胜任”为由直接辞退员工，而需遵循一定的法律程序和规定。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。