是的，当您对履行通知书中的债务存在异议并主张债务不存在时，需要提供相应的证据来支持您的主张。以下是从不同角度对此问题的详细分析：
一、法律原则与规定
在法律程序中，尤其是涉及债务纠纷的场合，“谁主张，谁举证”是一项基本原则。这意味着，如果您对履行通知书中的债务存在异议，并主张该债务实际上并不存在，那么您有责任提供证据来证明这一点。这是为了确保法律程序的公正性和准确性，防止无根据的否认或主张。
二、证据的种类与要求
书面证据：如合同、协议、收据、转账记录等，这些可以直观地展示债务的产生、变更或消灭情况。例如，如果您能提供一份与债权人签订的书面协议，明确约定了债务的免除或消灭条件，并且这些条件已经得到满足，那么这将是一个强有力的证据。
证人证言：如果有关债务的情况有目击者或知情人士，他们的证言也可以作为证据。但需要注意的是，证人证言的证明力相对较弱，通常需要与其他证据相互印证。
其他证据：如录音、录像、电子邮件、短信等电子数据，也可以作为证明债务不存在的证据。但同样需要注意，这些证据需要满足合法性、真实性和关联性的要求。
三、不提供证据的后果
如果您对履行通知书中的债务存在异议，但未能提供足够的证据来支持您的主张，那么法律程序可能会继续按照通知书中的要求进行。这可能导致您被要求履行原本认为不存在的债务，甚至可能面临法律制裁，如罚款、拘留等。因此，提供充分的证据来支持您的异议是非常重要的。
四、实际操作建议
及时收集证据：一旦您收到履行通知书并对其中的债务存在异议，应立即开始收集相关证据。不要拖延时间，以免证据丢失或难以获取。
咨询专业律师：在收集证据和准备异议材料的过程中，建议您咨询专业律师的意见。律师可以根据您的具体情况，为您提供针对性的法律建议和帮助。
提交异议申请：在收集到足够的证据后，您应按照法律程序的要求，及时向相关部门或法院提交异议申请，并附上相关证据材料。
如果您在债务债权方面有任何疑问或需要进一步的法律帮助，请直接向我咨询。我会根据您的具体情况，为您提供专业、全面的法律建议。