虚开增值税专用发票，如果税务机关不起诉，并不意味着可以逃避法律责任，税务机关仍可能依法给予行政处罚。具体分析如下：
一. 虚开增值税专用发票的法律责任
刑事责任：根据《中华人民共和国刑法》第二百零五条，虚开增值税专用发票或者虚开用于骗取出口退税、抵扣税款的其他发票，构成犯罪的，应依法追究刑事责任。刑罚包括有期徒刑、拘役、罚金等，具体根据虚开的税款数额和情节严重程度而定。
行政责任：即使税务机关不起诉，虚开增值税专用发票的行为仍然违反了发票管理办法的相关规定。税务机关有权依据相关法律法规，对虚开行为给予行政处罚，如罚款、追缴滞纳金等。
二. 税务机关不起诉后的处理
行政处罚的可能性：如上述案例中，即使检察机关对虚开增值税专用发票的行为作出相对不起诉决定，税务机关仍可根据案件情况，依法给予行政处罚。这表明，不起诉并不等同于免除所有法律责任。
行政检察部门的介入：在某些情况下，如案例中所述，检察机关的行政检察部门可能会依据行刑反向衔接工作机制，将案件移送至行政检察部门审查。这进一步强调了即使刑事案件不起诉，行政责任仍需追究的可能性。
三. 我的观点
我认为，虚开增值税专用发票是一种严重的违法行为，不仅损害了国家的税收利益，也破坏了市场经济秩序。因此，无论税务机关是否起诉，违法者都应承担相应的法律责任。如果税务机关不起诉，并不意味着可以逃避处罚，而是可能面临税务机关的行政处罚。我建议企业或个人应严格遵守税收法律法规，避免虚开增值税专用发票等违法行为的发生。
如有进一步需要，您可以继续咨询我。