单位非法吸收公众存款的行政处罚，一般由地方金融监管部门或相关有权机关实施。以下是对此问题的详细分析：
一、行政处罚的实施机关
地方金融监管部门：
- 在多数情况下，地方金融监管部门（如地方金融监督管理局）是负责监管和查处非法吸收公众存款行为的主要机关。这些部门具有专业的金融监管能力和经验，能够有效地识别和打击非法金融活动。
- 地方金融监管部门在发现单位存在非法吸收公众存款的行为后，会依法进行调查取证，并根据调查结果作出相应的行政处罚决定。
其他有权机关：
- 除了地方金融监管部门外，根据具体情况，其他有权机关（如市场监管部门、公安机关等）也可能参与对非法吸收公众存款行为的查处。这些机关在各自的职责范围内，对非法金融活动进行监管和打击。
- 例如，如果非法吸收公众存款的行为同时涉及虚假宣传或欺诈等违法行为，市场监管部门可能会介入调查并作出相应的行政处罚。
二、行政处罚的法律依据
- 行政处罚的实施必须依据相关的法律法规进行。对于非法吸收公众存款的行为，主要依据的法律法规包括《中华人民共和国银行业监督管理法》、《非法金融机构和非法金融业务活动取缔办法》等。
- 这些法律法规明确规定了非法吸收公众存款的定义、处罚标准以及实施处罚的机关等关键内容，为行政处罚提供了明确的法律依据。
三、行政处罚的程序和要点
立案调查：
- 监管部门在发现单位存在非法吸收公众存款的嫌疑后，会依法进行立案调查。调查过程中，监管部门会收集相关证据，包括但不限于合同、账目、宣传资料等。
作出处罚决定：
- 在调查结束后，监管部门会根据调查结果作出相应的行政处罚决定。处罚决定可能包括罚款、没收违法所得、责令停业整顿、吊销业务许可证等。
执行处罚：
- 被处罚的单位应当依法履行处罚决定。如果单位不履行处罚决定，监管部门有权采取进一步的强制措施，如申请法院强制执行等。
四、法律建议
- 合规经营：单位应当严格遵守国家法律法规，不得从事非法吸收公众存款等违法行为。
- 及时自查：单位应当定期进行自查，确保自身的经营活动符合法律法规的要求。
- 积极配合调查：如果单位被监管部门调查涉嫌非法吸收公众存款，应当积极配合调查工作，如实提供相关证据和信息。
如有任何关于非法吸收公众存款或其他法律问题的疑问，可以直接向我咨询。我将根据您的具体情况，提供专业的法律意见和帮助。