结论：劳动合同中约定禁止收小费并规定违法罚款5000元是否合理，需分情况讨论，1. 若罚款属于用人单位内部规章制度且符合法定程序与限度，具有一定合理性；2. 若罚款超出法定限度或程序违法，则不合理且可能违法。以下为详细分析：

一、用人单位是否有权禁止员工收小费？

根据《劳动法》《劳动合同法》及相关行业规范，用人单位有权通过规章制度或劳动合同约定禁止员工收取小费，尤其在服务行业（如餐饮、酒店、医疗等），收小费可能违反职业道德、行业规范或损害用人单位声誉。例如：

• 《医师法》明确禁止医务人员收受患者财物；
• 《餐饮业经营管理办法》规定餐饮企业不得设置最低消费或收取额外费用（包括小费）。

若劳动合同中明确约定禁止收小费，且该约定不违反法律强制性规定或公序良俗，则该条款有效，员工需遵守。

二、用人单位能否对违规员工罚款5000元？

需分情况讨论：

1. 若罚款属于用人单位内部规章制度，且符合法定程序与限度

根据《劳动合同法》第4条，用人单位可依法制定规章制度，但需满足：

• 内容合法：罚款金额不得超过法定限度。根据《工资支付暂行规定》第16条，因员工过错造成损失的，用人单位可按劳动合同约定要求赔偿，但每月扣除部分不得超过员工当月工资的20%，且扣除后工资不得低于当地最低工资标准。若5000元罚款超过员工月工资的20%，或扣除后工资低于最低标准，则违法。
• 程序合法：规章制度需经民主程序（如职工代表大会讨论）并公示或告知员工。若未履行程序，罚款条款可能无效。

示例：若员工月工资为1万元，用人单位最多可扣除2000元作为罚款；若月工资为5000元，则最多扣除1000元。超出部分无效。

2. 若罚款属于行政处罚或刑事处罚范畴

根据《行政处罚法》，只有行政机关（如市场监管部门）有权对违法行为进行罚款，用人单位无权行使行政处罚权。若劳动合同中约定“违法收小费将由用人单位罚款5000元”，该条款可能因越权而无效。

3. 若罚款属于违约金性质

根据《劳动合同法》第25条，用人单位仅可在两种情形下约定违约金：

• 员工违反服务期约定；
• 员工违反竞业限制约定。 收小费不属于上述情形，因此约定罚款作为违约金无效。

三、实务建议

1. 对用人单位：

   • 禁止收小费的约定需明确写入劳动合同或规章制度，并履行民主程序与公示义务；
   • 罚款金额需合理，不得超过员工月工资的20%或低于最低工资标准；
   • 优先通过扣减奖金、绩效等方式管理，而非直接罚款。

2. 对员工：

   • 若认为罚款违法，可向劳动监察部门投诉或申请劳动仲裁；
   • 保留劳动合同、工资条、罚款通知等证据，以维护权益。

总结：劳动合同中禁止收小费的约定合法有效，但罚款5000元是否合理需结合罚款性质、金额限度及程序合法性判断。若您遇到具体纠纷，可直接向我咨询，我会结合细节进一步分析。