针对您在门店购买手机时未被告知系统有问题，且商家拒绝退货的情况，您可以按照以下步骤来维护自己的合法权益：

一、与商家再次协商

首先，我建议您保持冷静，亲自前往门店与负责人或销售人员再次进行沟通。在沟通过程中，请清晰、详细地陈述手机系统存在的问题，比如频繁卡顿、死机、应用无法正常运行等，并明确表达您希望退货的合理诉求。同时，您可以提及《中华人民共和国消费者权益保护法》中关于商品质量问题消费者有权退货的相关规定，强调您的合法权利。

二、利用店内投诉渠道

如果直接沟通没有取得满意的结果，您可以查看店内是否设有投诉建议箱、投诉电话或其他正规的投诉渠道。通过这些渠道提交详细的投诉信息，包括购买时间、地点、手机品牌型号、价格、系统问题的具体描述以及您的退货诉求等，并等待商家的反馈。

三、向消费者协会投诉

如果商家仍然拒绝退货，您可以向当地的消费者协会进行投诉。投诉方式有两种：一是拨打消费者协会的投诉电话12315；二是访问全国12315平台（网址：www.12315.cn）进行在线投诉。在投诉时，请务必提供购买信息、发票或收据、手机系统问题的描述及相关证据，如照片、视频等，以便消费者协会能够更全面地了解情况并为您处理。

四、向工商管理部门投诉

除了消费者协会，您还可以向当地的工商管理部门进行投诉。您可以拨打12345政务服务便民热线转接至市场监督管理部门，或者直接前往其办公地点进行现场投诉。在投诉时，需要提交书面材料，包括投诉人及被投诉人的基本情况、投诉事实和理由以及相关证据。如果手机确实存在质量不合格、虚假宣传或欺诈销售等违法行为，市场监督管理部门将依法进行查处。

五、考虑其他维权途径

如果以上途径均无法解决问题，您还可以考虑通过媒体曝光或寻求法律帮助来维权。您可以联系当地电视台、报纸或网络媒体等，向他们反映问题，通过媒体曝光来引起社会关注并给商家施加舆论压力。同时，您也可以咨询专业律师，获取详细的法律建议和解决方案，甚至在必要时向人民法院提起诉讼。

六、务必保留相关证据

在整个投诉和维权过程中，请务必保留好所有相关证据，包括购物小票、收据、发票、手机系统问题的照片或视频、与商家的沟通记录（如短信、邮件、录音等）。这些证据将在投诉、调解、诉讼等各个环节中发挥重要作用，有助于证明您的权益和诉求的合理性。

希望以上建议能够对您有所帮助，祝您能够顺利解决问题并维护自己的合法权益。