行政处罚未出具缴费凭证，并不直接导致行政处罚被撤销，但可能构成程序违法，影响行政处罚的合法性。以下从多个角度进行分析：
一、行政处罚的合法性要求
行政处罚的合法性要求包括实体合法和程序合法两个方面。实体合法主要指行政处罚的依据、种类、幅度等符合法律规定；程序合法则要求行政机关在作出行政处罚时，必须遵循法定的程序，如告知、听证、送达等。出具缴费凭证，作为行政处罚执行过程中的一个环节，虽然不直接决定行政处罚的实体合法性，但它是程序合法性的一个重要体现。
二、未出具缴费凭证的法律后果
程序违法：如果行政机关在作出行政处罚后，未依法出具缴费凭证，这可能构成程序违法。程序违法可能影响行政处罚的合法性，但并不直接导致行政处罚被撤销。在行政诉讼中，如果法院认为程序违法影响了当事人的合法权益，可能会判决撤销或部分撤销行政处罚决定，或者确认行政处罚违法。
当事人权益保障：缴费凭证是当事人缴纳罚款或执行其他处罚的凭证，也是当事人行使复议或诉讼权利的重要证据。未出具缴费凭证可能损害当事人的合法权益，如无法证明已缴纳罚款，从而面临被强制执行的风险。
三、撤销行政处罚的法定情形
根据《中华人民共和国行政处罚法》等相关法律法规，撤销行政处罚通常需要满足以下情形之一：
主要证据不足：行政处罚决定所依据的证据不充分，无法证明当事人存在违法行为。
适用法律错误：行政机关在作出行政处罚时，适用了错误的法律条款或法律解释。
违反法定程序：行政机关在作出行政处罚时，未遵循法定的程序要求，如未告知当事人权利、未举行听证等。但需要注意的是，单纯的未出具缴费凭证，并不直接等同于违反法定程序导致行政处罚被撤销，除非该程序违法严重影响了当事人的合法权益。
超越职权或滥用职权：行政机关在作出行政处罚时，超越了其法定职权范围，或者滥用职权，如出于不正当目的作出行政处罚。
四、建议与措施
与行政机关沟通：如果当事人认为行政机关未出具缴费凭证构成程序违法，可以先与行政机关进行沟通，要求其出具缴费凭证或说明情况。
申请行政复议或提起行政诉讼：如果沟通无果，当事人可以依法申请行政复议或提起行政诉讼，请求撤销或部分撤销行政处罚决定，或者确认行政处罚违法。
保留证据：在申请行政复议或提起行政诉讼前，当事人应尽可能保留与行政处罚相关的所有证据，包括行政处罚决定书、缴费通知（如有）、沟通记录等，以便在复议或诉讼中证明自己的主张。
如有具体法律问题或需要进一步的法律帮助，请直接向我咨询。我会根据你的具体情况，提供更详细、更专业的法律意见。