单位考核规定必须有不称职这一等级，并不直接决定其合法性，其合法性取决于多个因素。以下从不同角度为你详细分析：
一、考核规定的制定程序
民主程序：根据《劳动合同法》第四条的规定，用人单位在制定、修改或者决定有关劳动报酬、工作时间、休息休假、劳动安全卫生、保险福利、职工培训、劳动纪律以及劳动定额管理等直接涉及劳动者切身利益的规章制度或者重大事项时，应当经职工代表大会或者全体职工讨论，提出方案和意见，与工会或者职工代表平等协商确定。如果单位在制定考核规定时，未遵循这一民主程序，那么该规定可能因程序违法而无效。
公示或告知程序：用人单位应当将直接涉及劳动者切身利益的规章制度和重大事项决定公示，或者告知劳动者。如果单位未履行这一程序，劳动者有权主张该规定对其不产生约束力。
二、考核规定的内容
合理性：考核规定的内容应当合理，不能违背公序良俗，也不能过分苛刻或不合理。例如，如果单位规定所有员工中必须有固定比例的不称职员工，且这一比例过高，导致大部分员工都难以达到称职标准，那么这样的规定可能因缺乏合理性而无效。
与劳动合同的一致性：考核规定应当与劳动合同中的约定相一致，不能违反劳动合同的约定或损害劳动者的合法权益。如果考核规定中的不称职标准与劳动合同中的约定相悖，或者导致劳动者在工资、奖金、晋升等方面受到不公平对待，那么劳动者有权主张该规定无效。
三、不称职评定的程序与结果
评定程序：单位在评定员工是否不称职时，应当遵循公平、公正、公开的原则，确保评定程序的合法性和合理性。如果评定程序存在瑕疵或违法行为，如暗箱操作、偏袒特定员工等，那么评定结果可能因程序违法而无效。
结果告知与申诉：单位应当将评定结果及时告知员工，并告知员工有权提出申诉或异议。如果单位未履行这一义务，或者对员工的申诉或异议未给予合理回应和处理，那么员工有权主张评定结果无效。
四、法律后果与应对建议
法律后果：如果单位的考核规定因程序违法、内容不合理或与劳动合同不一致等原因而被认定无效，那么单位不能依据该规定对员工进行不称职评定或采取相应的处罚措施。否则，员工有权向劳动争议仲裁委员会或人民法院提起诉讼，要求单位承担相应的法律责任。
应对建议：作为员工，如果你认为单位的考核规定存在违法或不合理之处，可以先与单位进行协商沟通，尝试解决问题。如果协商无果，你可以向当地的劳动监察部门投诉举报，或者向劳动争议仲裁委员会提起仲裁申请。在维权过程中，建议你保留好相关证据材料，如考核规定、劳动合同、评定结果通知等，以便在需要时提供证明。
综上所述，单位考核规定必须有不称职这一等级并不直接决定其合法性。其合法性取决于制定程序、内容合理性、与劳动合同的一致性以及不称职评定的程序与结果等多个因素。如果你对单位的考核规定有疑问或不满，建议直接向我咨询，我会根据你的具体情况为你提供专业的法律建议。