当场行政处罚并非必须在违法当天作出。以下是对这一问题的详细分析：

1. “当场”的含义：

   • 根据《行政处罚法》第五十一条的规定，“当场”主要是指执法人员查明违法事实后，且符合简易程序标准的，执法人员可以直接作出处罚决定，无需经行政机关负责人、集体讨论等程序。这里的“当场”并不严格等同于“现场”或“违法当天”，而是强调程序上的简易化。
   • 有观点认为，“当场”是指当时的现场，较“现场”这一空间概念要求更加严格，不但要在现场作出，还要当时作出。但也有观点认为，“当场处罚”不是“现场处罚”，不一定要在现场作出。从法律条文和实践来看，“当场”更侧重于程序上的即时性，而非严格的空间或时间限制。

2. 当场行政处罚的适用条件：

   • 违法事实确凿并有法定依据。
   • 对公民处以二百元以下、对法人或者其他组织处以三千元以下罚款或者警告的行政处罚。
   • 满足上述条件时，可以适用简易程序，当场作出行政处罚决定。

3. 《当场行政处罚决定书》的作出时间：

   • 尽管《行政处罚法》规定“可以”当场作出处罚决定，但“可以”并非“必须”。从实践来看，如果当场发现违法行为后，还是应该当场予以处理，并下达《当场行政处罚决定书》。
   • 然而，这并不意味着《当场行政处罚决定书》必须在违法当天或案发现场立即作出。在案件调查结束后，如果违法事实成立、证据确凿，并且符合简易程序标准，执法人员可以在后续的时间点（如回到行政机关后）作出并交付《当场行政处罚决定书》。

4. 法律建议：

   • 对于执法人员而言，在适用简易程序作出当场行政处罚时，应确保违法事实清楚、证据确凿，并严格按照法定程序进行。
   • 对于当事人而言，如果对当场行政处罚决定有异议，可以在法定的期限内寻求救济，如申请行政复议或提起行政诉讼。

综上所述，当场行政处罚并非必须在违法当天作出，而是强调程序上的简易化和即时性。在实际操作中，应结合具体情况和法律规定进行判断和处理。如果您有关于行政处罚或其他法律问题的疑问，欢迎直接向我咨询。