行使解除权并不必然需要起诉，当事人可以根据具体情况选择通知对方或直接通过诉讼/仲裁的方式解除合同。以下是对这一问题的详细分析：
一、通知对方解除合同
法律依据：
- 根据《中华人民共和国民法典》第五百六十五条的规定，当事人一方依法主张解除合同的，应当通知对方。合同自通知到达对方时即告解除。
操作方式：
- 当事人可以通过书面或口头形式（建议以书面形式为证）向对方发送解除合同的通知。通知中应明确解除合同的意思表示，并可载明债务人在一定期限内不履行债务则合同自动解除的条款。
- 举例而言，在房屋租赁合同中，若承租人严重拖欠租金并符合法定解除条件，出租人可以直接向承租人发送书面通知，明确告知租赁合同自通知到达之日起解除。
注意事项：
- 确保通知内容明确、形式合法，并妥善保留送达证据，如邮寄凭证、电子邮件发送记录等。
- 若通知中载明了债务人在一定期限内不履行债务则合同自动解除的条款，债务人在该期限内未履行债务的，合同将自通知载明的期限届满时自动解除。
二、通过诉讼或仲裁解除合同
法律依据：
- 同样根据《中华人民共和国民法典》第五百六十五条的规定，当事人一方未通知对方，直接以提起诉讼或者申请仲裁的方式依法主张解除合同，人民法院或者仲裁机构确认该主张的，合同自起诉状副本或者仲裁申请书副本送达对方时解除。
操作方式：
- 当双方对是否符合法定解除条件存在争议，或者虽然符合法定解除条件但担心对方不认可单纯通知的解除效力时，当事人可以选择通过向法院提起诉讼或向仲裁机构申请仲裁的方式来请求确认合同解除。
- 在诉讼或仲裁过程中，当事人需要提交充分的证据证明合同符合法定解除条件，并请求法院或仲裁机构作出解除合同的判决或裁决。
注意事项：
- 遵循相关程序规定，如起诉状的撰写、证据的提交、出庭应诉等。
- 准备充分的证据材料以支持自己的主张，如合同文本、履行情况记录、对方违约的证据等。
三、选择行使方式的考量因素
争议性质与复杂程度：
- 如果争议较为复杂或涉及大量证据收集与质证，诉讼可能更为合适；而如果争议相对简单明了，通知方式可能更为高效。
时间成本与经济成本：
- 诉讼通常耗时较长且费用相对较高；而通知方式则可能更加节省时间和成本。
执行力与灵活性：
- 法院判决具有强制执行力，适用于需要确保判决得到履行的场景；而通知方式在双方无争议的情况下最为灵活便捷。
总结与建议：
- 行使解除权的方式灵活多样，并不局限于诉讼。当事人应根据具体情况和实际需要选择合适的行使方式。
- 在选择通知对方解除合同时，应确保通知内容明确、形式合法，并妥善保留送达证据。
- 在选择通过诉讼或仲裁解除合同时，则应遵循相关程序规定，准备充分的证据材料以支持自己的主张。
如有任何疑问或需要进一步的法律帮助，请随时向我咨询。