发现公司虚开增值税专用发票时，您应积极向相关部门进行举报，以下是详细的举报途径及步骤，供您参考：
一、向税务机关举报
税务机关是管理发票和税收的主要机构，对于虚开增值税专用发票的行为，您首先可以向税务机关举报。具体举报方式如下：
直接上门举报：
- 前往当地的国家税务总局各级税务局办税服务厅或税务稽查部门进行当面举报。
- 提交相关证据材料，如虚开的发票、交易记录、资金往来凭证等。
电话举报：
- 拨打全国统一税款征收电话12366进行举报。
- 根据语音提示或人工服务指引，提供举报信息和相关证据。
网络举报：
- 登录国家税务总局官网或各省级税务局官网的相关栏目进行在线举报。
- 上传涉嫌虚开增值税发票的证据资料，并填写举报信息。
邮寄或传真举报：
- 根据主管税务机关公示的地址及联系方式，通过邮寄或传真的方式提交举报材料。
二、向公安机关举报
如果虚开增值税专用发票的行为涉嫌犯罪，您也可以直接向公安机关举报。具体途径如下：
- 拨打报警电话：直接拨打110报警电话，告知警方涉嫌虚开增值税发票的情况。
- 前往经济犯罪侦查部门：前往当地公安机关的经济犯罪侦查部门（经侦支队或大队）进行举报。
三、向检察院、法院举报
除了税务机关和公安机关，您还可以选择向检察院或法院举报涉嫌犯罪的虚开增值税行为。这些机关会依法接受并处理您的举报。
四、举报注意事项
在举报过程中，请注意以下几点：
- 确保举报内容真实可靠：提供准确的举报信息和相关证据，避免不实举报带来的法律责任。
- 保护个人信息：举报人有权要求相关机关对举报行为及个人信息进行保密，以保护自身安全。
- 详细提供证据材料：为了执法机关能够快速、准确地开展调查工作，请尽可能详细地提供虚开增值税行为的相关线索和证据。
综上所述，举报虚开增值税专用发票的违法犯罪行为是每位公民的责任和义务。通过选择合适的举报途径并提供详尽的证据材料，我们可以共同维护国家的税收秩序和经济安全。希望以上信息能对您有所帮助。