行政赔偿案件中，赔偿义务机关迟延履行时，应当支付迟延履行金。

首先，从法律层面来看，《中华人民共和国民事诉讼法》第二百二十九条规定，被执行人未按判决、裁定和其他法律文书指定的期间履行给付金钱义务的，应当加倍支付迟延履行期间的债务利息。虽然这是民事诉讼法的规定，但在行政赔偿案件中，当赔偿义务机关拖延支付赔偿金时，参照此规定，赔偿义务机关也应当支付迟延履行金。

其次，从国家赔偿法的角度来看，国家赔偿法明确规定赔偿义务机关不得拖延支付赔偿金。这意味着赔偿义务机关有义务按时支付赔偿金，如果拖延支付，则应当承担相应的法律责任，包括支付迟延履行金。

最后，从司法实践来看，也有案例支持行政赔偿案件中赔偿义务机关迟延履行时应支付迟延履行金。例如，在某行政赔偿纠纷案件中，法院判决被告应向原告支付赔偿金，但被告未主动支付余款，原告申请执行并要求支付迟延履行期间的债务利息。法院在执行过程中支持了原告的请求，裁定被告支付迟延履行期间的债务利息。

综上所述，行政赔偿案件中，赔偿义务机关迟延履行时，应当支付迟延履行金。这是法律的规定，也是司法实践的做法。如果赔偿义务机关拖延支付赔偿金，受害人可以向法院申请执行，并要求支付迟延履行金。