结论前置：在依法解除女员工劳动合同后，若女员工提供怀孕检查证明，单位可从解除程序合法性、解除依据充分性、女员工是否存在过错等角度进行抗辩，以证明解除行为的合法性。以下为详细分析：
一、解除程序合法性抗辩
提前通知与工会意见：
- 单位在解除劳动合同前，应确保已按照《劳动合同法》的规定，提前通知了女员工，并听取了工会的意见（如单位设有工会）。若单位未设立工会，则需通过其他民主程序（如职工代表大会）进行告知和听取意见，以确保解除程序的合法性。
- 抗辩要点：单位可以提供解除劳动合同前的通知记录、工会意见（或民主程序记录）等证据，证明解除程序符合法律规定。
解除通知的送达：
- 解除劳动合同的通知应有效送达女员工，确保其知晓解除决定。
- 抗辩要点：单位可以提供送达回执、邮件发送记录、短信通知截图等证据，证明解除通知已有效送达女员工。
二、解除依据充分性抗辩
解除依据的明确性：
- 单位解除劳动合同应基于明确的法律依据，如女员工严重违反公司规章制度、不能胜任工作且经过培训或调岗后仍不能胜任等。
- 抗辩要点：单位可以提供公司规章制度、女员工违规记录、培训或调岗记录等证据，证明解除依据充分且合法。
怀孕并非解除合同的法定禁止情形（特定情况下）：
- 虽然《劳动合同法》规定女职工在孕期、产期、哺乳期的，用人单位不得依照本法第四十条、第四十一条的规定解除劳动合同，但这并不意味着女职工在孕期、产期、哺乳期绝对不能被解除劳动合同。若女职工存在严重违反公司规章制度、严重失职、营私舞弊给用人单位造成重大损害等情形，单位仍可依法解除劳动合同。
- 抗辩要点：单位可以强调解除劳动合同并非基于女员工的怀孕状态，而是基于其存在的严重违规行为或其他法定解除情形，并提供相应证据。
三、女员工是否存在过错抗辩
女员工过错的存在：
- 若女员工在解除劳动合同前存在严重过错，如盗窃、贪污、严重违反工作纪律等，单位可以以此为由进行抗辩。
- 抗辩要点：单位可以提供女员工过错行为的证据，如监控录像、证人证言、书面记录等，证明女员工存在过错且该过错是解除劳动合同的直接原因。
过错与解除的关联性：
- 单位需证明女员工的过错行为与解除劳动合同之间存在直接的关联性，即该过错行为是导致解除劳动合同的直接原因。
- 抗辩要点：单位可以详细阐述女员工过错行为的具体情况、影响及后果，以及这些因素如何导致单位作出解除劳动合同的决定。
四、其他抗辩要点
解除决定的合理性：
- 单位可以强调解除劳动合同的决定是经过慎重考虑、基于充分证据和合理判断的，并非随意作出。
- 抗辩要点：单位可以提供解除劳动合同的决策过程记录、相关会议纪要等证据，证明解除决定的合理性。
法律适用与解释：
- 在抗辩过程中，单位可以引用相关法律法规和司法解释，对解除劳动合同的合法性进行法律层面的解释和说明。
- 抗辩要点：单位可以准备相关的法律法规条文、司法解释及类似案例，以支持其抗辩观点。
总结与建议：在面对女员工提供怀孕检查证明并质疑解除劳动合同合法性的情况下，单位应从解除程序合法性、解除依据充分性、女员工是否存在过错等多个角度进行抗辩。同时，单位应确保所有抗辩证据充分、合法且有效，以维护自身的合法权益。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。