在两个孩子都由女方抚养的情况下，男方仍负有一系列的责任。以下是对男方责任的详细阐述：

1. 抚养费用责任：

   • 男方需承担孩子们的抚养费用，包括但不限于生活费、教育费、医疗费等。这是基于父母对子女有抚养教育的义务，即使不直接抚养子女，也应负担必要的生活费和教育费。

2. 情感关怀责任：

   • 虽然孩子们由女方抚养，但男方仍应给予孩子们情感上的关怀和陪伴。这可以通过定期探望、电话沟通、视频聊天等方式实现，以确保孩子们在成长过程中不会缺失父爱的陪伴。

3. 教育责任：

   • 男方应关注孩子们的教育情况，包括学习成绩、兴趣爱好、心理健康等。在必要时，男方应提供教育上的支持和帮助，如参与家长会、提供学习资源等。

4. 法律责任：

   • 如果男方未履行抚养义务，女方有权代表孩子们向法院提起诉讼，要求男方支付抚养费用。同时，男方也可能面临法律上的追责和处罚。

综上所述，即使两个孩子都由女方抚养，男方仍需承担抚养费用、情感关怀、教育以及法律责任等多方面的责任。这些责任是基于父母对子女的法定义务，也是确保孩子们健康成长的重要保障。如有任何具体问题或需要进一步的法律咨询，请直接向我提问。