将电动自行车租赁给未成年人，一般由市场监督管理部门进行处罚。以下是对此问题的详细分析：

法律依据与处罚部门

根据相关法律法规，向未成年人租赁电动自行车属于违法行为，因为未成年人通常不具备完全的民事行为能力和责任能力，无法独立承担租赁合同中的权利和义务。这种行为可能违反了关于未成年人保护、消费者权益保护以及市场管理等方面的规定。市场监督管理部门作为负责市场监管和行政执法的部门，有权对这类违法行为进行查处和处罚。

可能的处罚措施

1. 警告与罚款：市场监督管理部门可以对租赁者发出警告，并处以一定数额的罚款。罚款的数额会根据违法行为的严重程度、租赁者的主观恶意以及造成的社会影响等因素进行综合考量。

2. 没收违法所得：如果租赁者通过向未成年人租赁电动自行车获得了违法所得，市场监督管理部门有权没收这些所得。

3. 责令停业整顿或吊销营业执照：对于情节严重的违法行为，市场监督管理部门还可以责令租赁者停业整顿，甚至吊销其营业执照，以彻底消除违法行为的影响。

实际案例与启示

在实际操作中，已经有多起因向未成年人租赁电动自行车而被处罚的案例。这些案例表明，市场监督管理部门对于此类违法行为的查处力度是较大的，租赁者应当严格遵守相关法律法规，避免向未成年人提供租赁服务。

法律建议

1. 严格审查租赁者身份：在提供电动自行车租赁服务时，租赁者应当严格审查租赁者的身份，确保其具备完全的民事行为能力和责任能力。对于未成年人提出的租赁请求，应当坚决拒绝。

2. 加强法律法规学习：租赁者应当加强对相关法律法规的学习，了解向未成年人租赁电动自行车的违法性和可能面临的法律后果，从而增强法律意识，规范自身行为。

3. 积极配合市场监管：如果租赁者因向未成年人租赁电动自行车而受到市场监督管理部门的查处，应当积极配合调查，如实陈述事实，接受处罚，并采取措施纠正违法行为，避免类似情况再次发生。

如果您在交通运输领域遇到任何法律问题或需要进一步的法律咨询，请随时向我提问。