擅自在公共绿地上种菜是违法的，而摘掉这些擅自种植的蔬菜，通常不构成违法。以下是对此结论的详细解释：

一、公共绿地的性质与法律规定

公共绿地，如城市公园、小区绿地等，是城市绿化系统的重要组成部分，旨在提供公共空间，改善城市环境，供市民休闲、娱乐。这些绿地的使用和管理受到相关法律法规的严格规定，任何单位和个人都不得擅自改变其性质和功能。

二、在公共绿地上种菜的法律后果

根据相关法律法规，如《城市绿化条例》，擅自在公共绿地上种植蔬菜等其他植物，是对公共绿地性质和功能的擅自改变，破坏了绿地的整体景观和生态平衡，影响了绿地的正常使用和市民的公共利益，因此是违法的。行为人可能面临法律责任，包括但不限于罚款、恢复原状等。

三、摘掉擅自种植蔬菜的法律分析

1. 行政部门的执法行为：

   • 城市管理、园林等相关行政部门有权对在公共绿地上种菜的行为进行纠正。
   • 他们依法责令种菜者自行清理或直接拔掉菜苗，是履行法定职责的行为，不构成违法。

2. 其他居民的合理行为：

   • 如果是其他居民出于维护公共绿地原状的目的，在合理范围内拔掉公共绿地上的蔬菜，一般也不违法。
   • 但需要注意的是，在拔除过程中应避免造成不必要的额外损害，如过度破坏周边绿化植物、设施等，否则可能需要承担相应的赔偿责任。

四、实际案例与启示

在实际生活中，不乏因擅自在公共绿地上种菜而引发的纠纷。例如，某小区居民擅自占用公共绿地种菜，被物业管理部门责令整改并恢复原状。该居民拒不整改，最终面临罚款等法律责任。这启示我们，应遵守相关法律法规，尊重公共绿地的性质和用途，共同维护城市绿化的美好环境和市民的公共利益。

综上所述，擅自在公共绿地上种菜是违法的，而摘掉这些擅自种植的蔬菜是对违法行为的纠正和恢复绿地原状的正常管理措施。如果你发现有人擅自在公共绿地上种菜，可以向相关部门反映情况，由他们依法进行处理。