私人企业主要由工商行政管理部门进行管理。具体来说：

1. 工商行政管理部门的管理职责：根据《中华人民共和国公司登记管理条例》第四条，工商行政管理部门是公司登记机关，负责公司的登记、监督管理工作。私人企业作为公司的一种形式，其设立、变更、注销等都需要到工商行政管理部门进行登记，并接受其监督管理。

2. 其他相关部门的管理：虽然工商行政管理部门是私人企业的主要管理部门，但私人企业在经营过程中还可能涉及到税务、环保、劳动等多个方面，因此也需要接受税务部门、环保部门、劳动部门等相关部门的监督和管理。例如，税务部门负责私人企业的税收管理，环保部门负责私人企业的环保监管，劳动部门负责私人企业的劳动用工管理等。

综上所述，私人企业主要由工商行政管理部门进行管理，但同时也需要接受其他相关部门的监督和管理。如有进一步需要，您可以继续咨询我。