结论：政府采购评审专家所在单位与供应商有正在履行的合同，该专家通常需要回避，但具体是否需要回避还需结合实际情况判断。

分析说明：

1. 利害关系回避原则：

   • 根据政府采购专家评审的回避原则，评审专家与供应商或投标人之间存在利害关系时，应当回避。这种利害关系不仅限于直接的亲属关系或经济利益关系，还包括可能影响公正评审的其他任何关系。
   • 在您所描述的情况下，评审专家所在单位与供应商有正在履行的合同，这很可能构成一种经济利益关系或至少是一种可能影响公正评审的关系。因此，从利害关系回避的角度来看，该专家应当回避。

2. 具体情形判断：

   • 然而，是否需要回避还需结合具体情形来判断。例如，如果评审专家本人并不直接参与该合同的履行，且该合同与评审项目无直接关联，那么可能不构成必须回避的情形。
   • 另外，如果评审专家能够证明其与供应商之间的合同关系不会影响其公正评审，且采购人或采购代理机构也认为该专家可以保持公正，那么该专家可能不需要回避。但在实际操作中，这种证明往往较为困难，且为了维护政府采购的公正性和公信力，通常倾向于采取更为严格的回避标准。

3. 实际操作建议：

   • 在实际操作中，为了确保政府采购活动的公正性和透明度，建议评审专家在发现自身与供应商存在可能影响公正评审的关系时，主动提出回避。
   • 同时，采购人或采购代理机构在选定评审专家时，也应当对专家的背景进行充分了解，避免选择存在可能影响公正评审关系的专家。

特殊场景：

• 如果评审专家所在单位与供应商的合同关系非常微弱，或者该合同与评审项目完全无关，且评审专家能够证明其公正性不受影响，那么可能存在不需要回避的例外情况。但这种情况较为罕见，且需要严格的证明和审核程序。

后续行动建议：

• 如果您是评审专家，发现自身与供应商存在可能影响公正评审的关系，建议主动向采购人或采购代理机构提出回避申请。
• 如果您是采购人或采购代理机构，在选定评审专家时，应当对专家的背景进行充分了解，并要求专家签署回避承诺书等文件，以确保评审活动的公正性和透明度。

如有更多关于政府采购评审回避的疑问或需要进一步的法律帮助，请直接向我咨询。