结论：单位不聘用35岁以上员工，确实可能构成年龄歧视，但具体是否违法需结合实际情况判断。以下从多个角度为你详细分析：

一、法律背景与规定

1. 《劳动法》与《就业促进法》的相关规定

   • 根据《劳动法》第十二条，劳动者就业，不因民族、种族、性别、宗教信仰不同而受歧视。虽然该条款未直接提及年龄，但为反就业歧视提供了基本原则。
   • 《就业促进法》第三条进一步明确，劳动者依法享有平等就业和自主择业的权利。劳动者就业，不因民族、种族、性别、宗教信仰等不同而受歧视。这里“等”字为年龄歧视的认定留下了空间。
   • 更重要的是，《就业促进法》第二十七条专门规定，国家保障妇女享有与男子平等的劳动权利。用人单位招用人员，除国家规定的不适合妇女的工种或者岗位外，不得以性别为由拒绝录用妇女或者提高对妇女的录用标准。同时，该条还隐含了反对其他形式就业歧视的立法精神，包括年龄歧视。

2. 地方性法规或规章的补充

   • 部分地方性法规或规章可能对年龄歧视有更具体的规定。例如，某些地区可能明确禁止用人单位在招聘过程中设置年龄限制，除非该限制与岗位性质、工作要求等密切相关且合理。

二、年龄歧视的认定标准

1. 直接年龄限制

   • 如果用人单位在招聘广告或面试过程中明确表示不聘用35岁以上员工，且无法提供合理理由（如岗位性质、工作要求等），则很可能构成年龄歧视。

2. 隐性年龄歧视

   • 即使没有直接年龄限制，用人单位也可能通过其他方式实施隐性年龄歧视。例如，通过询问应聘者的年龄、毕业年份等信息，间接筛选掉35岁以上员工；或者在实际招聘过程中，对35岁以上员工设置更高的标准或更严格的面试流程。

三、法律后果与维权途径

1. 法律后果

   • 如果用人单位被认定存在年龄歧视，可能面临行政处罚（如罚款、责令改正等）和民事赔偿（如赔偿应聘者因歧视而遭受的损失）。

2. 维权途径

   • 应聘者可以向当地劳动监察部门投诉，要求对用人单位的招聘行为进行调查和处理。
   • 应聘者也可以直接向法院提起诉讼，要求用人单位承担民事赔偿责任。在诉讼过程中，应聘者需要提供证据证明用人单位存在年龄歧视行为，并证明自己因此遭受了损失。

四、实际案例与司法实践

• 在司法实践中，法院在认定年龄歧视时通常会考虑多个因素，包括用人单位的招聘广告、面试记录、岗位性质、工作要求等。如果用人单位无法提供合理理由来支持其年龄限制，法院很可能会认定其存在年龄歧视行为。

五、建议与提醒

1. 对于应聘者

   • 在应聘过程中，如果遇到用人单位设置年龄限制的情况，可以要求用人单位提供合理理由。如果认为用人单位存在年龄歧视行为，可以向当地劳动监察部门投诉或向法院提起诉讼。

2. 对于用人单位

   • 在招聘过程中应避免设置不必要的年龄限制，确保招聘行为的合法性和公平性。如果确实需要设置年龄限制（如某些特殊岗位对年龄有特定要求），应提供合理理由并确保该限制与岗位性质、工作要求等密切相关且合理。

有问题可以直接向我咨询，我会根据你的具体情况提供更详细的法律建议。