结论：农民在自家耕地挖小水窖是否违法，主要取决于是否改变了土地用途、是否获得了相关批准以及是否符合当地的具体规定。若未经批准擅自挖掘，很可能构成违法。
详细分析：
改变土地用途的风险：
- 根据《土地管理法》的相关规定，耕地是专门用于农业生产的土地，其用途受到严格保护。擅自改变土地用途，如将耕地转为建筑或商业用途（包括挖掘水窖用于非农业目的），是违法的。
- 如果挖掘小水窖是为了农业灌溉等农业生产活动，且未对土地造成永久性损害，可能在一定程度上被视为合理使用。但即便如此，也最好事先获得相关部门的批准。
未经批准的挖掘行为：
- 无论挖掘水窖的用途如何，如果未经当地土地行政主管部门的批准，擅自进行挖掘，都可能面临法律风险。
- 未经批准的挖掘行为可能被视为非法占用土地或擅自改变土地用途，从而受到相应的行政处罚，包括限期拆除、恢复土地原状、罚款等。
当地具体规定的影响：
- 不同地区可能对耕地上的挖掘行为有具体的规定或限制。例如，某些地区可能出于保护地下水资源、防止土地沙化等考虑，对挖掘水窖等行为有明确的禁止性规定。
- 因此，在决定挖掘水窖之前，应详细了解当地的具体规定和政策要求，以确保自己的行为符合当地的规定。
法律建议：
- 了解法律法规：在决定挖掘水窖之前，应详细熟悉当地的法律法规和政策要求，特别是与土地使用相关的规定。
- 申请批准：如果需要在耕地上挖掘水窖，应提前向当地土地行政主管部门申请并获得批准。申请时，应提交详细的施工方案和保护土地的措施，以证明挖掘行为不会对土地造成永久性损害。
- 科学施工与安全保障：在实际操作中，应保证挖掘水窖不会影响土地的正常使用和利用，并严格遵守施工标准以确保水窖的安全性和稳定性。可以聘请专业人员进行设计和施工，以防止潜在问题。
可能后果：
- 如果未经批准擅自挖掘水窖，可能面临限期拆除、恢复土地原状、罚款等行政处罚。
- 如果挖掘行为对土地造成了永久性损害或影响了周边环境的安全，还可能面临更严重的法律责任，包括刑事责任。
综上所述，农民在自家耕地挖小水窖是否违法，取决于多种因素。为了确保自己的行为合法合规，建议在挖掘前充分了解相关法律法规和政策要求，并获得相关部门的批准。如果有任何疑问或需要进一步的法律帮助，请直接向我咨询。