当法院判决抵押合同无效时，登记机构的处理方式需严格遵循相关法律法规，并综合考虑多种因素。以下是对此问题的详细解答：
一、抵押合同无效的法律后果
首先，需要明确的是，无效的抵押合同自始没有法律约束力，即该合同从签订之日起就不具备任何法律效力。根据《中华人民共和国民法典》的相关规定，民事法律行为无效后，行为人应返还因该行为取得的财产；不能返还或无需返还的，应折价补偿。这同样适用于抵押合同无效的情况。
二、登记机构的具体处理步骤
撤销抵押登记：
- 若抵押合同已办理抵押登记，登记机构在接到法院判决抵押合同无效的通知后，应立即启动撤销抵押登记的程序。
- 撤销抵押登记的目的是恢复抵押物的原始状态，确保抵押物的权属清晰，避免后续的法律纠纷。
协助返还抵押物与款项：
- 登记机构应协助抵押权人将抵押物返还给抵押人，若抵押物已交付给抵押权人。
- 同时，若一方在合同履行过程中支付了款项，如预付款，登记机构也应协助收款方将该款项返还给支付方。
记录与通知：
- 登记机构应在内部系统中记录该抵押合同无效及撤销抵押登记的情况，以便后续查询和管理。
- 同时，登记机构还应通知相关当事人（如抵押人、抵押权人）抵押登记已被撤销，并告知其后续的法律义务和责任。
三、债务问题的处理
- 抵押合同的无效并不影响主债权债务合同的效力。因此，债务人仍需履行偿还债务的义务。
- 债权人可通过其他途径实现债权，如要求债务人以其他财产偿还或寻找其他合法担保。登记机构在此过程中可提供必要的协助和证明。
四、法律程序与证据收集
- 若因抵押合同无效引发法律纠纷，登记机构应配合相关当事人提供必要的证据和资料，如抵押登记记录、合同文本等。
- 同时，登记机构也应保留和收集与自身职责相关的证据，以证明其在抵押登记过程中的合法性和合规性。
五、风险防范与建议
- 加强审核力度：登记机构在办理抵押登记时，应加强对抵押合同和抵押物的审核力度，确保合同内容合法、形式规范，抵押物权属清晰、无瑕疵。
- 完善登记制度：登记机构应不断完善抵押登记制度，明确登记流程、标准和要求，提高登记效率和准确性。
- 提供法律咨询：登记机构可在办理抵押登记时，为当事人提供必要的法律咨询和风险提示，帮助当事人了解抵押合同无效的法律后果和责任分担。
六、特殊情况处理
- 若当事人恶意串通，损害国家、集体或第三人利益，因此取得的财产将收归国家所有或返还给集体、第三人。登记机构在发现此类情况时，应及时向相关部门报告并配合处理。
总结：当法院判决抵押合同无效时，登记机构应严格按照相关法律法规和程序处理撤销抵押登记、协助返还抵押物与款项、记录与通知等事宜。同时，登记机构还应加强审核力度、完善登记制度、提供法律咨询等风险防范措施，以确保抵押登记的合法性和合规性。在整个过程中，登记机构应保持与相关当事人的沟通与合作，共同维护良好的法律秩序和交易环境。