可以由县级非国资部门出资成立公司，但需分情况讨论：

1. 若县级非国资部门属于机关法人
   根据《公司法》及《民法典》相关规定，机关法人（如县级政府部门、事业单位等）原则上不得作为公司股东或出资人。其核心职能是行使公共管理权力，若参与商业经营可能引发利益冲突或行政垄断问题。例如，县级教育局作为机关法人，不得直接出资设立教育咨询公司。

2. 若县级非国资部门属于事业单位或社会团体
   需区分其是否具备经营性资质：

   • 非经营性事业单位（如图书馆、博物馆）：通常禁止投资公司，因其经费来源于财政拨款，不得用于营利活动。
     
   • 经营性事业单位（如县级医院、出版社）：若经主管部门批准并完成转企改制，可依法出资设立公司，但需符合《企业国有资产法》中关于国有资产监管的规定（即使非国资部门，若涉及国有资产成分仍需履行审批程序）。

3. 若县级非国资部门属于集体所有制企业或民办非企业单位

   • 集体所有制企业（如县级供销社）：可作为出资人设立公司，但需确保出资来源合法（如自有资金、集体资产收益等），且不得滥用行政权力强制员工入股。
     
   • 民办非企业单位（如县级民办学校、医院）：若登记为营利性法人，可依法出资；若为非营利性法人，则禁止投资公司，因其资产需用于公益目的。

关键风险提示：

• 无论何种情况，出资人均需履行《公司法》规定的出资义务（如足额缴纳出资、不得抽逃出资），否则可能承担补缴责任或行政处罚。
  
• 若县级非国资部门通过关联方间接出资（如由下属企业代持股份），需确保交易透明，避免被认定为“隐名投资”或利益输送。
  
• 涉及国有资产成分时，即使非国资部门出资，仍需遵守《企业国有资产交易监督管理办法》中关于资产评估、公开交易等程序要求。

建议行动：
若您具体涉及某类县级非国资部门出资，可进一步提供部门性质（如是否为机关法人、事业单位类型等）及出资目的（如设立何种行业公司），我将结合地方性法规为您细化分析合规路径。