未办理手续占用集体荒山种树属于违法行为，需根据具体情况承担相应法律责任并接受处理，具体如下：
法律责任分析
- 行政责任：根据《土地管理法》第七十七条，未经批准非法占用土地的，由县级以上人民政府自然资源主管部门责令退还非法占用的土地。若占用的是集体荒山（属于集体所有土地），可能面临限期拆除地上建筑物、恢复土地原状等处罚。
- 民事责任：若占用行为导致集体经济组织或其他成员损失（如荒山原有收益减少），需承担赔偿责任。例如，若荒山本可被合法承包用于其他用途，占用者可能需赔偿预期利益损失。
- 刑事责任：若占用面积达到刑事立案标准（如非法占用基本农田5亩以上或基本农田以外的耕地10亩以上），可能触犯《刑法》第三百四十二条非法占用农用地罪，处五年以下有期徒刑或拘役，并处或单处罚金。
处理流程建议
- 立即停止占用行为：主动退还土地是减轻处罚的关键步骤。若已种植树木，可与集体经济组织协商补偿方案（如移栽树木或折价赔偿），避免损失扩大。
- 补办审批手续：若仍希望继续使用土地，需向乡镇人民政府或县级自然资源部门申请审批。根据《农村土地承包法》，集体荒山可通过招标、拍卖、公开协商等方式承包，但需经村民会议三分之二以上成员同意并报乡（镇）人民政府批准。
- 接受行政处罚：若已受到责令退还土地、罚款等处罚，需按要求履行。对处罚决定不服的，可依法申请行政复议或提起行政诉讼。
特殊情形说明
- 历史遗留问题：若占用行为发生在较早时期（如20年前），且当时未明确禁止，可能适用“法不溯及既往”原则。但需提供证据证明占用时间，并仍需补办手续或协商解决。
- 公益目的占用：若种树是为了防风固沙、水土保持等公益目的，可尝试与集体经济组织协商签订无偿或低价承包合同，但仍需履行审批程序。
行动建议：立即停止占用行为，与集体经济组织沟通协商，并尽快咨询当地自然资源部门或律师补办手续或制定解决方案。若涉及刑事风险，需委托专业律师介入处理。