若违法的行政处罚已非诉执行完毕，当事人仍可通过以下途径进行救济：

1. 申请行政复议（若执行依据的行政处罚决定本身存在错误）
   若当事人认为原行政处罚决定存在事实认定错误、程序违法、适用法律错误或明显不当等情形，即使处罚已执行完毕，仍可在知道该行政处罚之日起60日内向作出处罚的行政机关的上一级主管部门或本级人民政府申请行政复议。复议机关若撤销或变更原处罚决定，可能进一步要求执行机关纠正执行行为（如返还罚款、赔偿损失等）。
   法律依据：《行政复议法》第9条、第28条。

2. 提起行政诉讼（若对复议结果不服或未申请复议）
   若当事人未申请复议或对复议结果不满，可在知道或应当知道行政处罚之日起6个月内直接向法院提起行政诉讼，请求撤销或变更原处罚决定。若法院判决撤销处罚，当事人可依据生效判决申请执行回转（即返还已执行的财产或赔偿损失）。
   法律依据：《行政诉讼法》第46条、第77条；《国家赔偿法》第4条（若执行行为造成损害）。

3. 申请国家赔偿（若执行行为违法且造成损害）
   若执行机关在执行过程中存在超范围执行、错误执行或暴力执行等违法行为，导致当事人财产损失或人身伤害，可依据《国家赔偿法》第4条、第7条，在2年内向执行机关提出国家赔偿申请。赔偿义务机关应在2个月内作出决定，逾期未答复或不服决定的，可向上一级机关申请复议或直接向法院赔偿委员会申请作出赔偿决定。
   示例：若罚款金额超出处罚决定范围，或错误查封、扣押财产导致损失，可主张赔偿。

4. 信访或投诉（辅助性途径）
   若当事人认为行政机关或执行机关存在不作为、乱作为等情形，可通过信访渠道向上级机关反映问题，或向监察机关投诉工作人员的违法行为。但需注意，信访结果不具有强制执行力，通常需结合其他法律途径主张权利。
   提示：信访程序不影响复议或诉讼的时效计算，但建议优先通过法律程序解决。

操作建议：

• 优先固定证据：收集原处罚决定书、执行通知书、缴费凭证、损失证明（如财产清单、医疗记录）等材料，以证明处罚或执行的违法性及损害后果。
  
• 分阶段主张权利：若处罚决定本身违法，先申请复议或诉讼；若执行行为违法，可同步申请国家赔偿。
  
• 注意时效限制：复议、诉讼、赔偿申请均有严格期限，逾期可能丧失救济权。
  

如有具体案件细节或证据材料，可进一步向我咨询，我将结合实际情况提供针对性建议。