关于公司虚开发票是否可以对股东进行行政处罚的问题，这主要取决于股东在公司虚开发票行为中的具体角色、行为以及是否存在过错。以下是对此问题的详细解答：
一、股东不承担责任的情形
如果股东对公司虚开发票的行为完全不知情，没有参与任何与虚开发票相关的决策或实施过程，也没有从该违法行为中获利，并且在得知情况后及时采取了措施来阻止或纠正，那么股东通常不需要承担任何法律责任，包括行政处罚。
二、股东可能承担责任的情形
直接参与或指使：
- 如果股东直接参与了虚开发票的决策过程，或者实际指使了虚开发票的行为，那么股东将与公司一同构成虚开发票的违法行为，并可能面临税务机关的行政处罚，如罚款等。在严重的情况下，如果构成犯罪，还将依法追究刑事责任。
滥用股东权利或未尽监督义务：
- 股东如果滥用公司法人独立地位和股东有限责任，通过虚开发票来逃避债务，严重损害公司债权人利益的，不仅可能需要对公司债务承担连带责任，还可能面临行政处罚。
- 同时，如果股东在公司治理中有一定的监督职责，却因故意或重大过失未能尽到合理的监督义务，导致公司有机会虚开发票，股东也可能需要承担一定的行政责任或赔偿责任。
三、股东责任的判定因素
在判定股东是否应承担责任时，会综合考虑以下因素：
- 股东的地位和作用：股东在公司中的职位、权力以及实际参与公司经营管理的程度。
- 股东的过错程度：股东对公司虚开发票行为的知情程度、是否采取了阻止措施以及是否存在其他过错行为。
- 证据情况：是否有充分证据证明股东参与了虚开发票的行为或存在过错。
四、总结与建议
综上所述，公司虚开发票时，股东是否承担行政处罚取决于其在公司虚开发票行为中的具体角色、行为以及是否存在过错。为避免潜在的法律风险，股东应：
- 积极参与公司治理，加强对公司财务和业务的监督。
- 确保公司合法合规经营，不参与任何违法活动。
- 一旦发现公司存在虚开发票等违法行为，应立即采取措施予以阻止和纠正，并及时向相关部门报告。
这样，股东可以最大程度地保护自己的合法权益，避免不必要的法律责任。