关于农村小医生是否合法的问题，这主要取决于他们是否具备相应的执业资格和是否在合法的执业范围内进行医疗活动。

首先，我们需要明确的是，根据《中华人民共和国医师法》的规定，医师是指已取得医师资格，并经注册在医疗卫生机构中执业的专业医务人员，这包括执业医师和执业助理医师。而乡村医生，虽然经注册可以在村医疗卫生机构从事预防、保健和一般医疗服务，但他们并不具备执业医师或执业助理医师资格，这是有明确执业条件限制的卫技人员，并不等同于执业医师。

进一步地，根据《乡村医生从业管理条例》等相关法律规定，乡村医生应当在聘用其执业的村卫生机构执业，且其执业活动需要受到一定的限制和监管。如果乡村医生未取得相应的执业资格，或者超出了其执业范围进行医疗活动，那么他们的行为就可能构成非法行医。

以您提供的案例为例，张某虽然取得了乡村医生执业证，但他在未取得《医疗机构执业证书》和《医师资格证书》的情况下擅自执业，且多次被卫生行政部门行政处罚后仍继续非法行医，最终其行为被认定为构成非法行医罪。这说明，仅仅取得乡村医生执业证并不足以保证其行医的合法性，还需要满足其他相关的执业条件和规定。

因此，对于农村的小医生来说，他们是否合法主要取决于他们是否具备相应的执业资格，是否在合法的执业范围内进行医疗活动，以及是否遵守了相关的法律法规和规章制度。如果他们能够满足这些条件，那么他们的行医行为就是合法的；反之，则可能构成非法行医，需要承担相应的法律责任。

总的来说，农村小医生的合法性是一个复杂的问题，需要综合考虑多个方面的因素。如果您对某个具体的农村小医生的合法性有疑问，建议您向当地的卫生行政部门或相关法律机构进行咨询和确认。