当单位发现员工存在违法行为并希望解除劳动合同时，这一行为本身与“单位违法解除劳动合同”是不同的情况，但我会结合相关法律法规，为您详细阐述单位在合法前提下解除劳动合同的流程及注意事项。

一、确认员工违法行为的性质与证据

首先，单位需要明确员工的具体违法行为，并收集充分的证据来证明这一行为。证据可以包括但不限于：监控录像、书面记录、第三方证言、员工自认书等。这些证据将作为后续解除劳动合同的重要依据。

二、依据法律法规与内部规章制度

单位在解除劳动合同时，必须严格遵守《中华人民共和国劳动合同法》等相关法律法规，以及单位内部的规章制度。根据《劳动合同法》第三十九条，劳动者有下列情形之一的，用人单位可以解除劳动合同：

1. 在试用期间被证明不符合录用条件的；
2. 严重违反用人单位的规章制度的；
3. 严重失职，营私舞弊，给用人单位造成重大损害的；
4. 劳动者同时与其他用人单位建立劳动关系，对完成本单位的工作任务造成严重影响，或者经用人单位提出，拒不改正的；
5. 因本法第二十六条第一款第一项规定的情形致使劳动合同无效的（即以欺诈、胁迫的手段或者乘人之危，使对方在违背真实意思的情况下订立或者变更劳动合同的）；
6. 被依法追究刑事责任的。

若员工的违法行为符合上述情形之一，单位则有权依法解除劳动合同。

三、解除劳动合同的程序

1. 通知员工：单位应书面通知员工解除劳动合同的决定，并说明解除的理由和依据。通知应明确送达员工，并保留好送达证据。

2. 办理离职手续：单位应协助员工办理离职手续，包括工作交接、薪资结算、社保转移等。同时，单位应出具解除劳动合同的证明，并在十五日内为员工办理档案和社会保险关系转移手续。

3. 支付经济补偿（如适用）：若员工的违法行为并未达到严重违反规章制度或被依法追究刑事责任的程度，但单位仍希望解除劳动合同，且双方协商一致，单位可能需要支付经济补偿。但在此情况下，由于员工存在违法行为，单位通常无需支付经济补偿，除非双方另有约定或法律法规另有规定。

四、注意事项

1. 合法合规：单位在解除劳动合同时，必须确保所有行为均符合法律法规和内部规章制度的要求，避免违法解除劳动合同的风险。

2. 证据充分：单位应确保收集的证据充分、确凿，能够证明员工的违法行为及解除劳动合同的合法性。

3. 程序正当：单位应遵循正当的程序解除劳动合同，包括通知员工、办理离职手续等，确保程序的合法性和正当性。

4. 避免纠纷：在解除劳动合同过程中，单位应尽量与员工进行沟通协商，避免不必要的纠纷和法律风险。

综上所述，当单位发现员工存在违法行为并希望解除劳动合同时，应首先确认违法行为的性质与证据，然后依据法律法规和内部规章制度进行解除，并遵循正当的程序办理离职手续。在整个过程中，单位应确保合法合规、证据充分、程序正当，以避免不必要的法律风险。