结论：哥哥的子女能否继承弟弟的遗产，需分情况讨论，具体如下：

1. 若弟弟未立遗嘱：

   • 根据《中华人民共和国民法典》第一千一百二十七条，遗产按照下列顺序继承：第一顺序为配偶、子女、父母；第二顺序为兄弟姐妹、祖父母、外祖父母。继承开始后，由第一顺序继承人继承，第二顺序继承人不继承；没有第一顺序继承人继承的，由第二顺序继承人继承。
   • 在此情况下，哥哥作为弟弟的兄弟姐妹，属于第二顺序继承人。若弟弟没有第一顺序继承人（如配偶、子女、父母均已去世或不存在），则哥哥有权继承弟弟的遗产。但哥哥的子女并不直接属于法定继承人范围，因此在弟弟未立遗嘱且哥哥作为第二顺序继承人继承遗产的情况下，哥哥的子女不能直接继承弟弟的遗产。不过，若哥哥继承遗产后去世，其子女可继承哥哥所继承的弟弟的遗产份额（即转继承）。

2. 若弟弟立有遗嘱：

   • 根据《中华人民共和国民法典》第一千一百三十三条，自然人可以立遗嘱将个人财产指定由法定继承人中的一人或者数人继承，也可以立遗嘱将个人财产赠与国家、集体或者法定继承人以外的组织、个人。
   • 若弟弟在遗嘱中明确指定哥哥或哥哥的子女为遗产继承人或受遗赠人，则哥哥的子女有权按照遗嘱继承或受遗赠弟弟的遗产。

3. 特殊情况：代位继承：

   • 代位继承通常发生在被继承人的子女先于被继承人死亡的情况下，由被继承人子女的直系晚辈血亲代位继承。
   • 在本题中，若哥哥先于弟弟去世，且哥哥有子女，但此情况并不符合代位继承的常规适用条件（即被继承人的子女先于被继承人死亡），因此哥哥的子女不能通过代位继承的方式继承弟弟的遗产。但如前所述，若哥哥继承遗产后去世，其子女可继承哥哥所继承的遗产份额。

建议：

• 若弟弟希望哥哥的子女继承其遗产，建议弟弟立下遗嘱明确指定哥哥的子女为继承人或受遗赠人。
• 若涉及复杂的家庭关系和遗产分配问题，建议咨询专业律师以获取更具体的法律建议。