结论：二十几年一直在乡卫生院上班但没有证，卫生院是有可能开除的，但具体是否开除以及开除的合法性等会因不同情况而有所差异，以下分情况详细说明。
- 从合法性角度
- 无证行医违反法律规定：根据《中华人民共和国医师法》等相关法律法规，在我国从事医师执业活动，必须依法取得医师资格并注册取得执业证书。如果员工在乡卫生院一直从事需要医师资格的工作，却没有相应证件，这属于无证行医的违法行为。卫生院作为用人单位，有责任确保其工作人员具备合法的从业资格，以保障患者的生命健康安全和医疗秩序的正常运行。从合法合规的角度出发，卫生院有权对无证行医的员工进行处理，开除是一种可能的处理方式。
- 开除程序需合法：然而，即使员工存在无证行医的情况，卫生院如果要开除该员工，也需要遵循合法的程序。根据《中华人民共和国劳动合同法》的规定，用人单位单方解除劳动合同，应当事先将理由通知工会，用人单位违反法律、行政法规规定或者劳动合同约定的，工会有权要求用人单位纠正。用人单位应当研究工会的意见，并将处理结果书面通知工会。同时，用人单位还需要向员工出具解除劳动合同的证明，并在规定时间内为员工办理档案和社会保险关系转移手续等。如果卫生院没有按照法定程序开除员工，可能会面临违法解除劳动合同的法律风险，需要向员工支付经济赔偿金。
- 从实际情况角度
- 历史原因和特殊情况：考虑到该员工已经在乡卫生院工作了二十几年，可能存在一些历史原因导致其没有取得相应的证件。例如，过去可能由于政策不完善、培训机会有限等原因，使得该员工未能及时获得合法的从业资格。在这种情况下，卫生院在决定是否开除员工时，可能会综合考虑多种因素，如员工的工作表现、对卫生院的贡献、是否正在积极考取相关证件等。如果员工工作表现良好，对卫生院有重要贡献，并且正在努力考取证件，卫生院可能会给予一定的宽限期，而不是直接开除。
- 卫生院的管理和发展需求：卫生院的管理和发展需求也会影响其是否开除无证员工。如果卫生院目前人员紧张，该员工的工作岗位难以立即找到合适的人员替代，或者该员工在卫生院的工作具有不可替代性，卫生院可能会权衡利弊，选择暂时保留该员工的职位，同时督促其尽快取得合法证件。相反，如果卫生院有充足的人员储备，或者该员工的工作可以通过其他方式替代，卫生院可能会更倾向于开除无证员工，以维护卫生院的合法合规运营。