核心结论：母亲长期跟着小儿子生活，遗产继承需根据具体情况确定，主要分为有遗嘱和无遗嘱两种情况。
有遗嘱的情况：
- 如果母亲在生前立有合法有效的遗嘱，明确指定了遗产的分配方式，那么遗产将按照遗嘱的内容进行继承。例如，母亲可能在遗嘱中写明将大部分或全部遗产留给长期照顾她的小儿子，或者根据她的意愿分配给其他子女或亲属。在这种情况下，遗嘱的内容具有最高的法律效力，其他法定继承原则将不再适用。
无遗嘱的情况：
- 如果母亲没有立遗嘱，那么遗产将按照法定继承的原则进行分配。根据《中华人民共和国民法典》的相关规定，法定继承的第一顺序继承人包括配偶、子女、父母。在母亲去世时，如果她的配偶（即孩子的父亲）也已去世，且母亲的父母（即孩子的外祖父母）也已不在世，那么遗产将由她的子女平均分配。这里的子女包括所有子女，无论他们是否与母亲长期共同生活。
- 然而，在实际操作中，如果小儿子长期照顾母亲，尽了主要的赡养义务，根据法律规定，他可能会在分配遗产时得到更多的份额。这是因为法律鼓励家庭成员之间的互助和赡养，对于尽了主要赡养义务的继承人，会给予适当的倾斜。但这种倾斜并不是绝对的，具体份额的确定还需要考虑其他因素，如其他子女的经济状况、赡养能力等。
额外建议：
- 如果家庭成员之间对遗产分配有争议，建议通过协商、调解或诉讼等方式解决。在协商和调解过程中，可以寻求第三方（如亲戚、朋友或专业调解机构）的帮助，以达成公平合理的分配方案。
- 如果选择诉讼方式解决争议，建议咨询专业律师，了解具体的法律程序和证据要求，以便更好地维护自己的合法权益。
如有其他疑问，可以直接向我咨询。