行政处罚并不一定要当场处罚。具体是否当场处罚，取决于违法行为的性质、情节以及相关法律法规的规定。

1. 当场处罚的条件：

   • 根据《中华人民共和国行政处罚法》第五十一条，违法事实确凿并有法定依据，对公民处以二百元以下、对法人或者其他组织处以三千元以下罚款或者警告的行政处罚的，可以当场作出行政处罚决定。
   • 在某些特殊情况下，如不当场收缴事后难以执行，或者当事人到指定的银行缴纳罚款存在实际困难并经当事人提出，行政机关也可以当场收缴罚款并作出行政处罚决定。

2. 非当场处罚的情形：

   • 对于超出上述罚款限额的行政处罚，或者需要进一步调查取证的复杂案件，行政机关通常不会当场作出处罚决定，而是会按照一般程序进行立案、调查、取证、告知、听证等程序后，再作出行政处罚决定。

3. 当场处罚的程序：

   • 执法人员当场作出行政处罚决定时，应当向当事人出示执法证件，填写预定格式、编有号码的行政处罚决定书，并当场交付当事人。
   • 当事人应当在行政处罚决定书上签字确认。如果当事人拒绝签收，执法人员应当在决定书上注明情况。
   • 执法人员当场作出的行政处罚决定，应当报所属行政机关备案。

综上所述，行政处罚是否当场处罚取决于具体情况和法律法规的规定。如果当事人对行政处罚决定有异议或不服，可以依法申请行政复议或提起行政诉讼来维护自己的合法权益。如有任何疑问或需要进一步的法律咨询，请直接向我提问。