结论：父亲将土地都给了小儿子的行为是否合法，需根据土地性质、继承方式以及是否存在遗嘱等因素综合判断。以下从不同角度进行分析：
一、土地性质与继承规定
宅基地使用权：
- 宅基地使用权属于农村集体所有，村民个人仅享有使用权，不享有所有权。因此，宅基地本身不能作为遗产进行继承。
- 但宅基地上的房屋属于村民个人财产，可以依法继承。继承房屋后，继承人可继续使用宅基地，直至房屋灭失或继承人不再符合宅基地使用条件。
- 若土地为宅基地：父亲无权将宅基地“给”小儿子，因为宅基地不属于其个人财产。但父亲可以决定宅基地上房屋的继承，若房屋由小儿子继承，则小儿子可继续使用宅基地。
承包地经营权：
- 农村土地承包经营权可以依法继承，但需符合《农村土地承包法》的相关规定。
- 若父亲是承包方，其承包地经营权在承包期内可以由家庭成员继续承包，或依法转包、出租、互换、转让等。
- 若土地为承包地：父亲在承包期内将承包地经营权转让给小儿子，需符合法律规定的转让条件，如需经发包方同意等。若父亲通过遗嘱将承包地经营权指定由小儿子继承，也需符合法律规定。
二、继承方式与遗嘱效力
法定继承：
- 若父亲未立遗嘱，则按照法定继承办理。根据《民法典》继承编，法定继承中，配偶、子女、父母为第一顺序继承人。
- 在本题中，母亲已去世，父亲和两个儿子均为第一顺序继承人。父亲无权单独决定将土地（或房屋、承包地经营权）全部给小儿子，除非其他继承人放弃继承。
遗嘱继承：
- 若父亲立有遗嘱，且遗嘱内容合法有效，则按照遗嘱继承办理。
- 遗嘱需符合《民法典》继承编关于遗嘱形式和内容的规定，如自书遗嘱需由遗嘱人亲笔书写、签名，注明年、月、日等。
- 若父亲立有合法有效的遗嘱：将土地（或房屋、承包地经营权）指定由小儿子继承，则该行为合法有效。但需注意，遗嘱不能违反法律强制性规定，如不能剥夺缺乏劳动能力又没有生活来源的继承人的继承权。
三、建议与后续行动
核实土地性质：
- 首先需明确土地是宅基地还是承包地，以便确定适用的法律规定。
查看遗嘱情况：
- 若父亲立有遗嘱，需核实遗嘱的合法性和有效性。
- 若父亲未立遗嘱，则需按照法定继承办理，父亲无权单独决定土地归属。
协商或诉讼解决：
- 若家庭成员对土地归属存在争议，可先尝试协商解决。
- 若协商不成，可向人民法院提起诉讼，由法院根据事实和法律规定作出判决。
最后，家庭财产纠纷往往涉及复杂的法律关系和情感因素，建议家庭成员在处理此类问题时保持冷静和理性，通过合法途径解决争议。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。