结论：负责人以公司名义虚开，公司确实可能构成行政违法意义上的“虚开”，但具体是否构成以及承担何种责任，需结合虚开行为的性质、情节及法律规定综合判断。同时，若虚开行为达到刑事立案标准，公司及相关责任人还可能面临刑事责任。
一、行政违法意义上的“虚开”
定义与特征：
- 行政违法意义上的“虚开”通常指的是违反税收管理法规，无真实交易背景或交易内容不真实，而开具与实际不符的发票行为。这种行为扰乱了税收征管秩序，损害了国家税收利益。
公司构成行政违法的条件：
- 当公司作为开票方，在没有真实交易或交易内容不真实的情况下，为他人或自己开具与实际不符的发票时，即构成行政违法意义上的“虚开”。
- 此时，税务机关有权对公司进行行政处罚，包括罚款、没收违法所得等。
法律后果：
- 根据《中华人民共和国税收征收管理法》等相关规定，公司因虚开发票可能面临罚款、滞纳金等行政处罚。
- 情节严重的，还可能被税务机关列入税收违法“黑名单”，影响公司信用和后续经营。
二、刑事责任意义上的“虚开”
定义与特征：
- 刑事责任意义上的“虚开”指的是虚开增值税专用发票或者虚开用于骗取出口退税、抵扣税款的其他发票，且情节严重的行为。这种行为不仅扰乱了税收征管秩序，还损害了国家税收利益，具有严重的社会危害性。
公司构成刑事犯罪的条件：
- 当公司作为开票方，虚开增值税专用发票或者虚开用于骗取出口退税、抵扣税款的其他发票，且虚开的税款数额较大或者有其他严重情节时，即构成刑事犯罪。
- 此时，公司及相关责任人（如直接负责的主管人员和其他直接责任人员）可能面临刑事处罚，包括有期徒刑、罚金等。
法律后果：
- 根据《中华人民共和国刑法》第二百零五条等相关规定，公司因虚开发票构成犯罪的，对公司判处罚金，并对其直接负责的主管人员和其他直接责任人员判处刑罚。
- 刑罚的轻重取决于虚开税款的数额、情节以及犯罪主体的主观恶性等因素。
三、综合分析与建议
区分行政违法与刑事犯罪：
- 并非所有虚开发票行为都构成刑事犯罪。只有当虚开行为达到刑事立案标准时，才构成刑事犯罪。在此之前，可能仅构成行政违法。
- 因此，在判断公司是否构成“虚开”时，需首先区分行政违法与刑事犯罪的界限。
加强内部管理：
- 公司应建立健全内部发票管理制度，确保发票开具的真实性和合法性。
- 加强对财务人员的培训和教育，提高其法律意识和风险意识。
及时咨询与应对：
- 若公司面临虚开发票的指控或调查，应及时咨询专业律师，了解自身权利和义务。
- 根据律师的建议，积极配合调查，提供相关证据材料，争取从轻或减轻处罚。
进一步行动建议：如果您或您的公司面临虚开发票的相关问题，请直接向我咨询。我将根据您的具体情况，提供详细的法律分析和建议。