结论：男方在未离婚的情况下，其非婚子女确实有权起诉要求支付抚养费。
法律背景与解释：
非婚子女的法律地位：
- 根据我国法律，非婚子女与婚生子女享有同等的法律地位。这意味着，无论父母是否结婚，非婚子女都享有与婚生子女相同的权利，包括受抚养权。
抚养费的支付义务：
- 父母对子女有抚养教育的义务，这一义务不因父母是否结婚而改变。因此，即使男方未离婚，他仍然对其非婚子女负有抚养义务，包括支付抚养费。
起诉抚养费的法律依据：
- 如果男方未履行其抚养义务，非婚子女或其法定代理人（如母亲或其他监护人）有权向法院提起诉讼，要求男方支付抚养费。法院会根据子女的实际需要、父母的负担能力和当地的实际生活水平等因素，确定抚养费的数额和支付方式。
法律建议与行动步骤：
收集证据：
- 在提起诉讼前，应收集能够证明男方与非婚子女之间存在亲子关系（如出生证明、亲子鉴定报告等）以及男方未履行抚养义务（如未支付抚养费、未提供生活照顾等）的证据。
咨询律师：
- 虽然我已经给出了基本的法律解释和建议，但每个案件的具体情况都有所不同。因此，在提起诉讼前，建议咨询专业律师，以便更准确地了解案件的法律前景和可能的诉讼结果。不过，既然你已经在向我咨询，我会尽我所能为你提供全面的法律帮助。
提起诉讼：
- 在收集到足够的证据并咨询了律师后，可以向法院提起诉讼，要求男方支付抚养费。在诉讼过程中，应积极配合法院的工作，提供必要的证据和材料，以便法院能够公正、及时地审理案件。
可能的法律后果：
- 如果法院认定男方确实未履行其抚养义务，且非婚子女确实需要抚养费支持，那么法院可能会判决男方支付一定数额的抚养费，并可能规定支付方式和期限。如果男方拒不履行判决，非婚子女或其法定代理人可以向法院申请强制执行。
进一步思考：
- 在处理此类案件时，除了考虑法律因素外，还应考虑家庭关系、子女情感需求等社会因素。因此，在可能的情况下，建议通过调解、协商等方式解决纠纷，以减少对子女的伤害和影响。当然，如果调解、协商无果，那么诉讼仍然是保护非婚子女权益的有效途径。
如果你有任何进一步的疑问或需要更具体的法律帮助，请随时向我咨询。