结论：单位是否违法，不能仅凭“参加过遴选”这一单一因素直接判断，需结合单位职级晋升的具体规定、遴选与晋升的关联性、单位决策的合理性及程序合法性等多方面综合分析。以下从不同角度详细说明：

一、单位职级晋升的合法依据

1. 法定原则：根据《公务员法》及相关规定，公务员的职级晋升需遵循德才表现、工作实绩、资历等综合因素，并符合规定的晋升条件和程序。若单位在职级晋升中未遵循法定原则，如仅因个人参加遴选而拒绝晋升，可能涉嫌违法。
2. 单位内部规定：单位可能根据自身情况制定职级晋升的具体办法，这些办法需不违反法律法规的强制性规定。若单位内部规定明确将参加遴选作为晋升的负面因素，且该规定本身合法，则单位行为可能不违法；但若规定违法或未明确规定，单位仅凭参加遴选拒绝晋升，则可能违法。

二、遴选与职级晋升的关联性

1. 遴选性质：遴选通常是单位或系统内部选拔优秀人才的一种方式，其目的在于优化人才结构、提升工作效能。参加遴选本身并不应成为职级晋升的障碍，除非单位有明确规定且该规定合法。
2. 单位决策合理性：若单位认为参加遴选的员工可能因准备遴选而影响本职工作，或遴选成功后可能离职，从而拒绝其职级晋升，这种决策需基于合理的事实依据和正当的管理目的。若决策缺乏合理性，可能构成违法。

三、单位决策的程序合法性

1. 程序公正：单位在职级晋升决策中需遵循公正、公开、透明的原则，确保员工享有知情权、参与权和申诉权。若单位在决策过程中未履行这些程序，如未告知员工晋升标准、未听取员工意见等，可能构成违法。
2. 决策依据：单位决策需有明确的依据，如员工的工作表现、资历、考核结果等。若单位仅凭参加遴选这一单一因素拒绝晋升，且未提供其他合理依据，可能构成违法。

四、具体建议

1. 核查单位规定：首先，建议您核查单位关于职级晋升的具体规定，了解参加遴选是否被明确列为晋升的负面因素。
2. 收集证据：若您认为单位行为违法，可收集相关证据，如单位决策文件、同事证言、工作表现记录等，以证明单位决策缺乏合理性或程序不合法。
3. 咨询与申诉：您可以向我进一步咨询，详细描述情况，我会根据具体情况为您提供更具体的法律建议。同时，您也可以向单位内部申诉机构或上级主管部门提出申诉，要求重新审议职级晋升决策。

总结：单位是否因您参加过遴选而拒绝职级晋升违法，需结合多方面因素综合判断。若您认为单位行为违法，建议核查单位规定、收集证据并咨询专业律师，以维护自身合法权益。