结论：针对您描述的“参加旅游团时有一组客人闹事并怂恿他人一起退款”的行为，是否可以报警，这主要取决于该行为的具体性质和后果。以下是从不同角度进行的分析：

1. 若行为构成治安违法：

   • 法律解释：根据《中华人民共和国治安管理处罚法》的相关规定，如果这组客人的行为扰乱了公共场所秩序，如大声喧哗、无理取闹、影响其他游客的正常旅游活动等，且情节较轻的，公安机关可以对其处以警告或者二百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
   • 建议行动：在这种情况下，您可以向旅游团的管理人员报告，并由他们协助报警。或者，您也可以直接向当地公安机关报案，提供相关证据（如现场视频、照片、证人证言等），以便公安机关依法处理。

2. 若行为构成合同违约：

   • 法律解释：如果这组客人与旅游团签订了旅游合同，并因个人原因（如无理取闹、不满意服务等）而怂恿他人一起退款，这可能构成对旅游合同的违约。根据《中华人民共和国民法典》中关于合同违约的规定，违约方需要承担违约责任，包括赔偿守约方因此遭受的损失。
   • 建议行动：在这种情况下，旅游团可以依据合同条款与这组客人进行协商，要求他们承担违约责任。如果协商无果，旅游团可以向法院提起诉讼，要求这组客人赔偿损失。同时，对于被怂恿的其他游客，如果他们并未实际违约，旅游团应继续履行合同义务，提供旅游服务。

3. 若行为涉及欺诈或胁迫：

   • 法律解释：如果这组客人通过欺诈或胁迫手段怂恿他人退款，如虚构事实、隐瞒真相或威胁他人等，这可能构成欺诈或胁迫行为。根据《中华人民共和国刑法》的相关规定，欺诈或胁迫他人可能构成犯罪，需要承担刑事责任。
   • 建议行动：在这种情况下，您应立即向当地公安机关报案，并提供相关证据。公安机关将依法进行调查处理，如果构成犯罪，将追究犯罪嫌疑人的刑事责任。

额外建议：

• 在处理此类事件时，建议您保持冷静，不要与闹事客人发生直接冲突，以免事态升级。
• 尽可能收集并保存相关证据，如现场视频、照片、证人证言等，以便在需要时提供给公安机关或法院。
• 如果旅游团的管理人员未能及时采取措施处理此事，您可以向旅游主管部门投诉，要求他们介入调查并处理。

如有任何进一步的问题或需要法律帮助，请随时向我咨询。