结论：在未签订书面租赁合同的情况下，若您不想继续租赁房屋，能否退租及退还相关费用需根据实际情况判断。以下从不同角度为您详细分析：
一、未形成事实租赁关系的情况
- 仅支付定金或租金但未入住：
- 若您仅支付了定金或租金，但尚未实际入住，且双方未形成事实上的租赁关系，您有权要求房东全额退还已支付的款项。
- 建议：在此情况下，建议您及时与房东沟通，说明情况并要求退款。若房东拒绝，您可保留支付凭证等证据，通过基层调解组织调解或诉讼途径维护权益。
二、已形成不定期租赁关系的情况
已实际入住但无书面合同：
- 根据《中华人民共和国民法典》第七百零七条和第七百三十条，租赁期限六个月以上的应当采用书面形式，未采用书面形式且无法确定租赁期限的，视为不定期租赁。在不定期租赁关系中，您有权随时解除合同，但需提前在合理期限内通知房东。
- 合理期限的确定：通常根据租赁房屋的性质、用途等因素确定，可能为几天到几周不等。例如，若房屋为住宅，且房东需要时间寻找新租客，您可能需要提前一周或更长时间通知。
- 费用退还：在解除合同后，您有权要求房东退还未使用期间的租金及押金（如有）。若提前解除租赁给房东造成损失，您可能需承担赔偿责任，剩余租金退还需双方协商或对房东损失进行弥补。
存在法定解除情形：
- 若房屋存在严重质量问题影响居住使用（如漏水严重、墙体有倒塌危险等），您可依据法定解除权解除租赁关系，并要求退还剩余租金、押金及赔偿损失。
- 证据保留：在此情况下，建议您保留房屋质量问题的相关证据，如照片、视频或第三方检测报告等，以便在需要时证明自己的权益。
三、押金退还问题
- 无论是否签订合同，只要您没有对房屋及其附属设施造成损坏，退房时房东都应退还押金。
- 若房屋有损坏需维修或清理，房东可在押金中扣除相应费用后退还剩余部分。建议：在退房时，与房东共同检查房屋状况，并确认押金退还金额，以避免后续纠纷。
四、具体操作建议
提前告知房东：
- 无论是否签订租赁合同，您决定退租时都应提前以书面形式或口头形式告知房东，以便房东及时处理后续事宜。
协商解决：
- 退租时应与房东进行友好协商，明确双方的权利和义务，包括退还租金、押金的具体金额和时间等。协商达成一致后，建议签订书面的退租协议以备查证。
保留证据：
- 在整个退租过程中，您应妥善保留相关证据，如支付凭证、退租协议、沟通记录、房屋质量问题的证据等，以应对可能出现的纠纷。
法律途径：
- 若房东拒绝协商或拒绝退款，您有权向当地法院提起诉讼，请求法院依法判决房东退还相关款项并承担相应责任。
总结：在未签订书面租赁合同的情况下，若您不想继续租赁房屋，能否退租及退还相关费用需根据实际情况判断。建议您首先与房东进行友好协商，明确双方的权利和义务；若协商不成，可保留好相关证据，通过法律途径维护自身合法权益。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。