在租赁合同纠纷中，主张合同无效属于抗辩理由，而不是反诉或另行起诉。
分析说明：
抗辩理由：抗辩，就其字面意义而言，就是抗击而辩解。法律意义上的抗辩，则是抗击对方，提出辩解与说明。在合同纠纷的诉讼中，如果被告认为合同无效，这是直接针对原告提出的诉讼请求或事实理由进行的一种防御性主张，旨在否定或削弱原告的诉讼请求或事实基础。因此，主张合同无效属于抗辩理由。
反诉与另行起诉的区别：
- 反诉：是指被告以原告为被告，向法院提出与原告诉讼请求相关联的、独立的反请求。反诉是一个独立的诉，需要满足诉的构成要素，即具有明确的被告、具体的诉讼请求和事实、理由，以及属于人民法院受理民事诉讼的范围和受诉人民法院管辖。
- 另行起诉：是指被告或原告向法院提出一个全新的、与原诉讼无关的诉讼请求。这通常发生在原诉讼已经结束或正在进行中，但当事人之间又产生了新的争议或纠纷，需要另行通过诉讼方式解决。
主张合同无效的具体应用：
- 在租赁合同纠纷中，如果被告认为合同无效，他可以在诉讼过程中提出这一抗辩理由，并围绕合同无效的事实和法律依据进行举证和辩论。如果法院认定合同确实无效，那么原告的诉讼请求将失去基础，法院可能会驳回原告的诉讼请求或根据具体情况作出其他相应判决。
综上所述，租赁合同无效是抗辩理由，而非反诉或另行起诉。在租赁合同纠纷中，如果被告认为合同无效，他应当积极收集证据，提出抗辩理由，并围绕合同无效的事实和法律依据进行举证和辩论，以维护自己的合法权益。