结论：面对租车商家敲诈无果且不结束订单的情况，你可以通过与商家协商、向租车平台投诉、向消费者协会投诉、报警处理以及通过法律途径解决等多种方式来维护自己的合法权益。

详细分析与建议：

1. 与商家协商：

   • 首先，尝试与租车商家进行友好沟通，明确表达你的立场和诉求，即要求商家结束订单并退还任何不合理的费用。
   • 在协商过程中，保持冷静和理性，避免情绪化冲突，同时保留好沟通记录，以备后续需要。

2. 向租车平台投诉：

   • 如果你是在某个租车平台上租赁的车辆，可以向该平台投诉商家的不当行为。
   • 租车平台通常会有相应的投诉处理机制，会对商家的行为进行调查，并根据调查结果采取相应的措施，如警告、罚款、下架等。

3. 向消费者协会投诉：

   • 如果与商家协商和向租车平台投诉均无果，你可以向当地的消费者协会投诉。
   • 消费者协会是保护消费者权益的机构，他们会根据你的投诉情况进行调查，并协调商家解决问题。

4. 报警处理：

   • 如果商家的行为涉嫌敲诈勒索等违法行为，你可以立即报警。
   • 警方会介入调查，并根据调查结果采取相应的法律措施，如拘留、罚款等，以维护你的合法权益。

5. 通过法律途径解决：

   • 如果以上方式均无法解决问题，你可以考虑通过法律途径来维护自己的权益。
   • 你可以咨询专业律师（比如我，张湛秋律师，专注于合同纠纷等领域），了解具体的法律程序和维权策略。
   • 根据律师的建议，你可以向法院提起诉讼，要求商家结束订单、退还费用并赔偿损失。在诉讼过程中，你需要提供充分的证据来支持你的诉求，如租赁合同、沟通记录、付款凭证等。

额外建议：

• 在处理此类纠纷时，务必保持冷静和理性，避免采取过激行为或言语攻击，以免加剧矛盾或引发不必要的法律风险。
• 同时，建议你在未来的租赁活动中更加谨慎，仔细阅读租赁合同条款，了解商家的信誉和口碑，以降低类似纠纷的发生概率。

如果你有任何进一步的疑问或需要具体的法律帮助，请随时向我咨询。