单位以职工培训未及格为由进行罚款的行为，通常属于违法。具体分析如下：

1. 罚款的合法性依据不足
   根据《劳动法》《劳动合同法》及相关司法解释，用人单位对劳动者享有管理权，但管理权的行使需以合法为前提。现行法律未赋予用人单位对劳动者进行经济处罚的权力（除特定行业如金融、航空等有特殊规定外）。即使单位内部规章制度规定“培训未及格罚款”，该制度也可能因违反法律强制性规定而被认定为无效。

2. 培训未及格与罚款的因果关系不成立
   培训的目的是提升职工技能，未及格可能反映培训效果或职工个人能力问题，但与“造成单位损失”无直接关联。若单位主张罚款是为了弥补损失，需证明职工未及格行为与实际损失之间的因果关系，否则罚款缺乏合理性。

3. 合法替代措施
   单位可通过合法方式督促职工完成培训，例如：

   • 重新安排培训或补考；
     
   • 将培训成绩与绩效考核、晋升挂钩（需在劳动合同或规章制度中明确约定）；
     
   • 对严重违反培训纪律的行为（如无故缺席）依据规章制度处理，但处理方式应为警告、调岗等非经济处罚。

4. 职工的维权路径
   若单位已实施罚款，职工可采取以下措施：

   • 与单位协商要求返还罚款；
     
   • 向当地劳动监察部门投诉（需提供罚款凭证、规章制度等证据）；
     
   • 申请劳动仲裁，主张单位返还罚款并赔偿损失（如因罚款导致的工资扣减等）。

建议：单位应避免直接罚款，转而通过完善培训机制、明确考核标准等方式提升培训效果。职工若遇到此类问题，可保留相关证据（如罚款通知、工资条等）并直接向我咨询具体维权方案。