公司不可以以员工五年前被追究刑事责任为由，五年后解除其无固定期限合同。下面我将从法律角度详细解释这一结论：

1. 法律依据明确：

   • 根据《中华人民共和国劳动合同法》第三十九条的规定，劳动者被依法追究刑事责任的，用人单位可以解除劳动合同。但这一条款的适用前提是“被依法追究刑事责任”的事实发生在劳动合同关系存续期间，且用人单位在知晓该事实后的合理期限内行使解除权。

2. 时效性问题：

   • 在本案例中，员工被追究刑事责任的事实发生在五年前，而公司试图在五年后以此为由解除劳动合同。这显然超过了合理期限，因为法律并未规定用人单位可以无限期地保留解除劳动合同的权利。
   • 通常，用人单位在知晓员工被追究刑事责任后，应及时作出反应，而不是在多年后再行主张。

3. 合同稳定性与公平原则：

   • 无固定期限合同本身就是为了保障劳动者的就业稳定性而设立的。如果允许用人单位在员工被追究刑事责任多年后仍能以此为由解除合同，将严重损害劳动者的合法权益，也违背了劳动合同的稳定性和公平原则。

4. 实际案例支持：

   • 参考类似案例，如杜某被追究刑事责任后，公司得知并查实该情况后，依据规章制度解除劳动合同的案例。但请注意，该案例中公司是在得知情况后的合理期限内作出了反应，与本题中的情况截然不同。

综上所述，公司不可以以员工五年前被追究刑事责任为由，五年后解除其无固定期限合同。这一结论既符合法律规定，也体现了对劳动者合法权益的保护。如果你在这方面还有其他疑问或需要进一步的法律帮助，请随时向我咨询。