单位不可以随意制定不胜任制度。针对这一问题，我们从以下几个方面进行分析：

一. 单位制定规章制度的法律依据

1. 根据《中华人民共和国劳动法》第四条，用人单位应当依法建立和完善规章制度，保障劳动者享有劳动权利和履行劳动义务。这意味着单位有权制定规章制度，但必须依法进行。

二. 不胜任制度的制定要求

1. 内容合法：不胜任制度的内容必须符合国家法律、法规的规定，不能违反劳动法的基本原则和劳动者的合法权益。
2. 程序合法：单位在制定不胜任制度时，应当经过民主程序，如征求员工意见、与工会协商等，确保制度的合理性和公正性。
3. 公示与告知：制定后的不胜任制度应当向全体员工公示，或者通过其他方式使员工知晓，以确保制度的透明度和执行力。

三. 不胜任制度的实际应用

1. 单位在依据不胜任制度对劳动者进行管理时，必须确保制度的合理性和公正性，避免滥用制度损害劳动者的权益。
2. 如果劳动者对不胜任制度的制定或执行有异议，可以通过工会、劳动争议调解委员会等途径进行申诉或寻求法律援助。

综上所述，单位在制定不胜任制度时，必须遵守国家法律法规，确保制度的内容合法、程序合法，并向员工公示或告知。因此，单位不能随意制定不胜任制度，而应当依法、合理、公正地制定和执行。如有进一步需要，您可以继续咨询我。