关于行政罚款是否必须当场收缴的问题，这并非一个绝对化的规定，而是取决于具体的法定情形，并且必须严格遵循法定的程序要求。
首先，我们来看一下哪些情况下行政罚款可以当场收缴：
依法给予一百元以下罚款的： 为了提高执法效率，对于罚款金额在一百元以下的小额罚款，执法人员是有权当场收缴的。比如，交警对行人闯红灯处以50元罚款，若符合当场处罚条件，就可以当场收缴。
不当场收缴事后难以执行的： 在某些特定场合，如集贸市场、车站码头等流动性较大的地方，如果不对当事人当场收缴罚款，事后可能很难再找到当事人，从而影响处罚的执行。这种情况下，执法人员也可以当场收缴罚款。
在边远、水上、交通不便地区缴纳罚款确有困难的： 在这些特殊地区，由于交通、通讯等条件的限制，当事人前往指定地点缴纳罚款可能存在实际困难。如果当事人主动提出因交通不便等原因希望当场缴纳罚款，执法人员是可以当场收缴的。
接下来，我们强调一下当场收缴罚款时必须遵循的程序要求：
出具专用票据：执法人员当场收缴罚款时，必须向当事人出具由国务院财政部门或者省、自治区、直辖市人民政府财政部门统一制发的专用票据。这是确保罚款收缴合法性的重要凭证，如果不出具该票据，当事人有权拒绝缴纳罚款。
及时上缴罚款：执法人员当场收缴的罚款，应当自收缴罚款之日起二日内交至行政机关；在水上当场收缴的罚款，应当自抵岸之日起二日内交至行政机关。行政机关则应在二日内将罚款缴付指定的银行。
备案与报告：执法人员当场作出的行政处罚决定，必须报所属行政机关备案，以接受监督和审查。如果当场收缴的罚款数额较大或存在其他特殊情况，执法人员还应按照相关规定及时向所属行政机关报告。
综上所述，行政罚款并非必须当场收缴，而是取决于具体的法定情形和程序要求。在实际操作中，执法人员应严格遵循相关法律法规和程序要求，确保行政处罚的合法性和有效性。