公司未成立工会，在特定情况下可能会被督促整改。具体分析如下：
一、法律基础与司法实践分歧
根据《中华人民共和国劳动合同法》第四十三条的规定，用人单位单方解除劳动合同时，应当事先将理由通知工会。然而，对于尚未建立内部工会组织的企业，是否仍需履行这一程序，法律和司法解释中并未给出直接明确的指导，导致各地司法实践存在显著差异。
观点一：以北京、上海、广东等地区为代表的司法实践认为，企业未成立工会，则不存在通知对象，因此企业无需履行通知程序。
观点二：以江苏、天津、浙江宁波为代表的司法实践则要求，未设立内部工会的企业，也必须通过告知职工代表或通知所在地（或上级）工会的方式，履行这一义务。
二、实务应对策略
面对各地司法实践的分歧，企业在未建立工会的情况下，应采取以下策略以合规有效地应对：
地区差异化合规：企业需明确所在地司法机关的具体裁判倾向，并根据当地司法实践采取相应的措施。
履行替代通知程序：在要求严格履行通知义务的地区，企业应通过向所在地总工会或行业工会组织发出书面通知、向职工代表告知并听取其意见并保留书面证据等方式，履行替代通知程序。
事后补正措施：即使企业在解除劳动合同时未及时通知工会，仍可在劳动者提起诉讼前补正通知程序，以降低违法解除的风险。
内部规范和证据保留：企业应建立完善的内部规范制度，对于解除劳动合同的原因、程序及通知工会的证明材料，应保留完整记录。
三、可能的整改情况
虽然法律并未直接规定未成立工会的企业必须被督促整改，但在实际操作中，如果企业所在地的司法实践倾向于要求未建立工会的企业也需履行通知义务，而企业未履行该义务，那么在企业与劳动者发生劳动争议时，企业可能会因此被认定为违法解除劳动合同，从而面临法律责任。在这种情况下，相关部门可能会对企业进行督促整改，要求其建立工会或履行相应的通知义务。
综上所述，公司未成立工会是否会被督促整改，取决于企业所在地的司法实践以及企业是否因此违反了相关法律法规。因此，建议企业在处理此类问题时，务必要谨慎对待，深入了解当地司法实践的倾向，并积极采取相应措施以确保合规并有效预防潜在法律风险。