《当场行政处罚决定书》并非必须当场作出，但从实践和立法初衷来看，当场发现违法行为后原则上应当场处理并下达该决定书。以下是对此问题的详细分析：
一、法律规定层面
《行政处罚法》规定，在违法事实确凿并有法定依据，且对公民处以二百元以下、对法人或者其他组织处以三千元以下罚款或者警告的行政处罚时，可以当场作出行政处罚决定。这里的“可以”意味着并非强制要求当场作出，而是赋予了执法人员一定的裁量权。然而，从立法初衷来看，当场作出处罚决定是为了提高执法效率，减轻当事人负担，因此，在符合条件的情况下，应当尽量当场作出。
二、实践操作层面
当场交付的考量：
- 如果当场调查取证后，再到行政机关作出行政处罚，会增加当事人的负担，如往返行政机关的时间和费用等。
- 同时，也会增加行政机关的执法成本，如人力、物力等资源的投入。
- 此外，这种做法还会影响执法效率，违背简易程序的立法初衷。简易程序的设计就是为了快速、高效地处理轻微违法行为。
“当场”与“现场”的理解：
- 有观点认为，“当场处罚”不是“现场处罚”，不一定要在现场作出。但笔者认为，“当场”是指当时的现场，较“现场”这一空间概念要求更加严格。它不但要求在现场作出，还要求在当时作出。
- 例如，交警通过非现场执法（如电子警察拍摄）没有在拍摄现场作出处罚，但这只是证据固定与处罚的空间、时间分离。在这种情况下，“当场”应以当事人与执法人员正式见面为现场来解释。
不能当场作出处罚的情形：
- 往往不能当场作出处罚的，都是一些需要进一步调查取证或对违法事实有争议的案件。
- 对此种情况，不应再使用简易程序，因为没有达到“违法事实清楚、证据确凿”的要求。
三、法律建议
对于执法人员：
- 在符合当场作出行政处罚决定的条件时，应当尽量当场作出，并当场交付《当场行政处罚决定书》。
- 如果不能当场作出，应当及时告知当事人原因，并在规定期限内作出处罚决定。
对于当事人：
- 如果对当场作出的行政处罚决定不服，可以依法申请行政复议或者提起行政诉讼。
- 在接受处罚时，有权要求执法人员出示执法证件，并有权知晓处罚的依据、罚款数额等信息。
如有任何关于行政处罚或其他法律问题的疑问，可以直接向我咨询。我会根据你的具体情况，提供专业、全面的法律建议。