对当场作出的行政处罚决定不服的，不可以直接起诉，而应当先向行政复议机关申请行政复议，对行政复议决定不服的，再依法向人民法院提起行政诉讼。以下是详细的分析：

法规依据

根据《中华人民共和国行政复议法》第二十三条第一款第一项的规定，对当场作出的行政处罚决定不服的，申请人应当先向行政复议机关申请行政复议，对行政复议决定不服的，才可以再依法向人民法院提起行政诉讼。

特殊情况说明

虽然一般情况下对行政行为不服可以直接起诉，但当场作出的行政处罚决定属于特殊情形，需要遵循“复议前置”的原则。即，当事人必须先申请行政复议，对复议决定不服的，才能提起行政诉讼。

法律建议

1. 申请行政复议：如果你对当场作出的行政处罚决定不服，首先应当向作出该决定的行政机关的上一级行政机关或者法律、法规规定的行政复议机关申请行政复议。
2. 提起行政诉讼：如果你对行政复议决定仍然不服，那么你可以在收到复议决定书之日起的法定期限内（通常为十五日），依法向人民法院提起行政诉讼。

综上所述，对当场作出的行政处罚决定不服的，不能直接起诉，而应当先申请行政复议，对复议决定不服的，再提起行政诉讼。如果你在这个过程中有任何疑问或需要进一步的法律帮助，请随时向我咨询。