行政处罚原则上应当有书面凭证，但也存在特定情形下的口头形式。以下是对这一问题的详细阐述：
一、书面行政处罚决定为常态
根据《中华人民共和国行政处罚法》的相关规定，行政机关在给予行政处罚时，应当制作行政处罚决定书。这份决定书是正式的法律文书，具有严肃性和规范性，必须载明法定事项，包括但不限于：
书面的行政处罚决定不仅便于行政相对人明确自身的权利义务以及后续可能采取的救济途径，也便于行政机关的内部监督和外部监督。即使在简易程序中，执法人员当场作出处罚决定，也是通过填写预定格式、编有号码的行政处罚决定书并交付当事人，这依然是书面形式的一种体现。
二、口头行政处罚决定的例外
尽管书面形式是行政处罚决定的常态，但法律也规定了例外情况。对于警告以下的行政处罚决定，行政机关可以选择口头告知当事人，而无需出具书面的行政处罚决定书。这种口头形式适用于轻微的违法行为，旨在提高行政效率，减少不必要的行政成本。
三、行政处罚决定书的送达与效力
无论行政处罚决定是以书面形式还是口头形式作出，都应当确保当事人能够及时知晓。对于书面的行政处罚决定书，行政机关应当在宣告后当场交付当事人。如果当事人不在场，行政机关则应当在七日内依照民事诉讼法的有关规定，将决定书送达当事人，以确保其合法权益得到保障。行政处罚决定书一旦送达当事人，即产生法律约束力，当事人应当在规定的期限内履行处罚决定。
四、行政处罚的种类与形式要求
行政处罚的种类多样，包括警告、罚款、没收违法所得、没收非法财物、责令停产停业、暂扣或者吊销许可证、暂扣或者吊销执照、行政拘留等。在适用这些处罚措施时，除警告以下的处罚可以口头作出外，其他均应当出具书面的行政处罚决定书，以确保行政处罚的合法性和规范性。
总结来看，行政处罚决定并非绝对都是书面的，但在大多数情况下，特别是涉及较重处罚时，应当出具书面的行政处罚决定书。这一要求不仅体现了法律的严肃性和规范性，也确保了当事人的合法权益得到有效保障。同时，对于轻微的违法行为，法律允许采用口头形式作出警告以下的处罚决定，以提高行政效率。如果您在行政处罚方面有任何疑问或需要进一步的法律帮助，请随时向我咨询。