非法贷款中介的行政处罚部门主要包括地方金融监管部门、市场监管部门以及公安机关（在特定情形下），具体分析如下：

1. 地方金融监管部门
   根据《防范和处置非法集资条例》及地方金融监管职责划分，地方金融监管局（或金融工作局）负责对非法贷款中介行为进行查处。若中介机构未经批准擅自开展贷款业务，或以“贷款中介”为名变相从事非法放贷、吸收公众存款等金融活动，地方金融监管部门可依据《非法金融机构和非法金融业务活动取缔办法》等法规，采取责令停止经营、没收违法所得、罚款等行政处罚措施。

2. 市场监管部门
   若非法贷款中介存在虚假宣传、误导消费者、未依法登记注册或超范围经营等行为，市场监管部门可依据《广告法》《反不正当竞争法》《公司登记管理条例》等法律法规，对其作出行政处罚。例如，中介机构虚构贷款资质、承诺“无抵押秒放款”等虚假宣传行为，市场监管部门可责令改正、罚款，情节严重的可吊销营业执照。

3. 公安机关（特定情形下）
   若非法贷款中介行为涉嫌刑事犯罪（如诈骗、非法经营罪、侵犯公民个人信息罪等），公安机关将依法介入调查。例如，中介机构以“贷款”为名骗取客户手续费、保证金，或非法获取、出售客户个人信息，公安机关可依据《刑法》立案侦查，追究刑事责任。但需注意，公安机关的介入属于刑事司法程序，与行政处罚性质不同。

补充说明：

• 实践中，地方金融监管部门与市场监管部门可能联合执法，对非法贷款中介形成综合打击。
  
• 若您发现非法贷款中介行为，可同时向上述部门举报，相关部门将根据职责分工依法处理。
  

如有具体案件或细节需进一步分析，可直接向我咨询。