行政检查违法时，根据该检查做出的行政处罚是否违法，需具体情况具体分析。以下是从不同角度对这一问题的详细阐述：

1. 行政检查本身的合法性：

   • 若行政检查本身存在违法情形，如检查主体不具备法定权限、检查程序违反法律规定、检查内容超出法定范围等，那么基于该检查所获取的证据材料将可能被视为非法证据。
   • 在此情况下，若行政机关依据这些非法证据作出行政处罚决定，则该处罚决定很可能因证据不合法而被认定为违法。

2. 行政处罚的合法性判断：

   • 即使行政检查存在违法情形，也不必然导致根据该检查作出的行政处罚决定违法。行政机关在作出处罚决定时，需确保处罚事实清楚、证据确凿、适用法律正确、程序合法。
   • 若行政机关能够证明其处罚决定是基于合法、有效的证据材料，且符合法定程序和要求，那么该处罚决定仍可能被认定为合法。

3. 法律后果与救济途径：

   • 若行政处罚被认定为违法，当事人有权依法申请行政复议或提起行政诉讼，要求撤销或变更该处罚决定。
   • 在行政复议或行政诉讼过程中，行政机关需承担证明其处罚决定合法性的举证责任。若行政机关无法提供充分、有效的证据支持其处罚决定，则可能面临败诉的风险。

综上所述，行政检查违法时，根据该检查做出的行政处罚是否违法需根据具体情况进行判断。若行政检查本身存在违法情形，且行政机关无法证明其处罚决定是基于合法、有效的证据材料作出，那么该处罚决定很可能被认定为违法。反之，若行政机关能够证明其处罚决定的合法性和有效性，则该处罚决定仍可能被认定为合法。如有任何疑问或需要进一步的法律咨询，请直接向我提问。