针对您旅游时被导游带着高价买玉，且因商家开具的不是正规发票导致退货申请被退回的情况，以下是我为您提供的详细解答和建议：
一、可退款的情况及依据
欺诈行为：
- 如果导游与商家存在串通，对玉石的品质、价值进行虚假宣传，误导您以高价购买，这构成了欺诈。根据《中华人民共和国民法典》第一百四十八条，您有权请求人民法院或仲裁机构撤销交易，并要求商家退款。
强制交易：
- 若导游通过胁迫、威胁等手段强迫您购买高价玉，这违背了您的真实意愿。根据《中华人民共和国消费者权益保护法》第十六条，您有权要求退款，因为这样的交易违背了自愿、平等、公平、诚实信用的原则。
未履行告知义务：
- 如果商家未如实、充分地告知玉石的产地、材质、是否经过优化处理等关键信息，导致您在信息不对称的情况下做出误判，您也有理由要求退款。
二、退款途径与步骤
与商家协商：
- 首先，您可以直接与商家沟通，说明购买情况及存在的问题，明确要求退款。在沟通过程中，尽量保持理性，并收集商家承诺退款或存在问题的证据，如对话录音、聊天记录等。
向旅游监管部门投诉：
- 如果与商家协商无果，您可以向当地旅游局或旅游质量监督管理所投诉。投诉时，请提供购物凭证（尽管发票不正规，但其他如合同、收据等也可作为证据）、与导游及商家的沟通记录等材料。旅游监管部门会进行调查调解，促使商家退款。
向消费者协会投诉：
- 您还可以拨打12315向消费者协会投诉。消协会就您与商家之间的纠纷进行调解，有可能达成退款协议。
法律途径：
- 如果上述方法均无法解决您的问题，您可以考虑向人民法院提起诉讼或根据仲裁协议申请仲裁。但请注意，法律途径可能耗时、耗力且产生费用，因此需权衡利弊后决定。
三、特别提醒
- 保留证据：在整个过程中，请务必妥善保留所有与购物相关的凭证和沟通记录，包括不正规的发票（尽管它可能不符合正规发票的标准，但仍是交易的一种证明）、合同、收据、对话录音、聊天记录等。这些证据在后续的投诉或法律程序中可能起到关键作用。
- 寻求专业帮助：如果您对法律程序不熟悉或感到困惑，建议及时寻求专业法律帮助。律师可以为您提供更具体、更专业的建议，并帮助您维护自己的合法权益。
希望以上解答和建议能对您有所帮助。在未来的旅游购物中，请保持理智，不被导游或商家的夸大宣传所迷惑，仔细询问商品信息，并妥善保留购物凭证。