结论前置：当场作出的行政处罚，如果公民、法人或其他组织认为该处罚存在违法情形或显失公正，通常有权依法向人民法院提起行政诉讼，以维护自身的合法权益。

详细分析如下：

一、法律依据与权利保障

1. 行政诉讼法的规定：根据《中华人民共和国行政诉讼法》的相关规定，公民、法人或者其他组织认为行政机关和行政机关工作人员的行政行为侵犯其合法权益时，有权依法向人民法院提起诉讼。行政处罚作为具体行政行为的一种，自然包含在内。这意味着，无论行政处罚是当场作出还是经过一定程序后作出，只要公民、法人或其他组织认为其合法权益受到侵犯，都有权提起行政诉讼。

2. 行政处罚法的保障：《中华人民共和国行政处罚法》第六条也明确指出，公民、法人或者其他组织对行政机关所给予的行政处罚享有陈述权、申辩权，并有权依法申请行政复议或者提起行政诉讼。这一条款进一步强调了公民、法人或其他组织在面对行政处罚时的法律救济权利。

二、可提起行政诉讼的当场行政处罚情形

当场作出的行政处罚，如果存在以下情形，行政相对人（即被处罚的公民、法人或其他组织）可以提起行政诉讼：

1. 没有法定的行政处罚依据：行政机关作出处罚决定必须基于明确的法律、法规等依据。若当场作出的行政处罚缺乏相应依据，则该处罚决定属于违法行为，行政相对人有权提起行政诉讼。

2. 违反法定程序：例如，未依法告知当事人作出行政处罚决定的事实、理由及依据，或未给予当事人陈述、申辩的机会等，均构成程序违法。程序违法是行政诉讼中常见的诉讼理由之一。

3. 超越职权或滥用职权：行政机关超出自身法定权限范围作出行政处罚，或为了不正当目的而作出处罚决定，均属于违法行为。行政相对人有权对此类行为提起行政诉讼。

4. 处罚显失公正：处罚结果与违法行为的情节、危害程度等明显不相适应，无论是畸轻还是畸重，均属于显失公正的处罚。行政相对人认为处罚显失公正时，也有权提起行政诉讼。

三、提起行政诉讼的条件与程序

1. 起诉条件：要提起行政诉讼，必须满足以下条件：原告是符合《行政诉讼法》规定的公民、法人或其他组织；有明确的被告；有具体的诉讼请求和事实根据；案件属于人民法院受案范围和受诉人民法院管辖。

2. 诉讼程序：在提起行政诉讼时，需要按照法定程序进行。这包括准备相关证据材料、书写行政诉状，并在规定的期限内向有管辖权的人民法院提交。行政相对人可以寻求法律援助或咨询专业律师，以确保诉讼程序的顺利进行。

法律建议：

• 如果您认为当场作出的行政处罚存在违法情形或显失公正，建议首先收集相关证据材料，如处罚决定书、现场照片、证人证言等，以支持您的诉讼主张。
• 在提起行政诉讼前，您可以考虑先申请行政复议，以寻求更快捷的救济途径。如果行政复议结果仍不能满足您的需求，再提起行政诉讼也不迟。
• 在诉讼过程中，务必遵守法定程序，按照法院的要求提交证据材料、参加庭审等。如有需要，可以寻求专业律师的帮助，以确保您的合法权益得到充分保障。

可能法律后果：

• 如果法院认定当场作出的行政处罚存在违法情形或显失公正，可能会判决撤销该处罚决定，并要求行政机关重新作出处罚决定或赔偿您的损失。
• 如果法院认定您的诉讼请求不成立，可能会驳回您的诉讼请求。但即使如此，您仍然有权在法定期限内提起上诉或申请再审等法律救济途径。