关于饭店自己定义剩菜罚款的合法性，这确实是一个涉及法律与合同层面的问题，需要细致分析。

首先，从法律层面来看，饭店并不具备执法权，因此不能直接对顾客进行罚款。罚款是法律制裁手段的一种，只能由人民法院等法定机关来实施。虽然部分地方法规，如《中华人民共和国反食品浪费法》，支持餐饮服务经营者对造成明显浪费的消费者收取处理厨余垃圾的费用，但这并不等同于直接罚款，且必须明示收费标准。

其次，从合同层面来看，消费者进入饭店就餐，与商家之间形成了一种合同关系。如果商家在就餐场所的醒目位置明确公示了防止食品浪费的规则，以及违约金的收取标准，并且消费者在知晓并接受这些规则的情况下选择就餐，那么可以视为双方达成了关于浪费食物需支付违约金的约定。在这种情况下，如果消费者故意造成大量浪费，且商家已经提供了必要的服务和提醒，那么商家有权依据合同约定收取违约金。

然而，需要注意的是，商家的任何收费，包括违约金，都应当合理、合法、透明。违约金的金额应当与处理浪费食物所产生的实际成本相当，商家不得借此谋取不当利益。同时，商家必须确保相关规则的公示充分、明确，以便消费者在购买服务前能够充分了解并作出选择。

此外，虽然一些地方政府或餐饮行业协会可能出台相关规定或自律公约，对剩菜行为进行规范，但这些规定或公约必须经过法定程序且内容合法，商家在其框架内操作才可能具有合法性。而且，这些规定或公约也不能违反上位法的原则性规定，特别是关于消费者权益保护的内容。

综上所述，饭店自己定义剩菜罚款并不直接合法，但可以通过合同约定的方式收取违约金作为赔偿。商家在制定相关规则时，应确保合法合规，尊重消费者的合法权益，并加强服务和提醒工作，引导消费者合理点餐、避免浪费。如果消费者对商家的收费行为有异议，可以通过协商、投诉或诉讼等途径来维护自己的权益。