公司内部存在严重违纪行为时，公司确实可以单方面解除劳动合同，但这一行为必须严格符合法律规定的条件和程序。以下是对这一问题的详细分析：

一、法律依据

根据《中华人民共和国劳动合同法》第三十九条的规定，劳动者有下列情形之一的，用人单位可以解除劳动合同：

• 严重违反用人单位的规章制度的；
• 严重失职，营私舞弊，给用人单位造成重大损害的；
• 劳动者同时与其他用人单位建立劳动关系，对完成本单位的工作任务造成严重影响，或者经用人单位提出，拒不改正的；
• 因本法第二十六条第一款第一项规定的情形致使劳动合同无效的（即以欺诈、胁迫的手段或者乘人之危，使对方在违背真实意思的情况下订立或者变更劳动合同的）；
• 被依法追究刑事责任的。

其中，“严重违反用人单位的规章制度”是公司可以单方面解除劳动合同的常见情形之一。

二、严重违纪行为的认定

1. 规章制度的有效性：首先，公司的规章制度必须合法有效，即规章制度的内容不违反法律、法规的规定，且制定程序合法（如经过职工代表大会或者全体职工讨论，与工会或者职工代表平等协商确定等）。

2. 违纪行为的严重性：其次，劳动者的违纪行为必须达到“严重”的程度。这通常需要根据规章制度的明确规定以及违纪行为的性质、情节、后果等因素进行综合判断。例如，多次迟到早退可能不构成严重违纪，但盗窃公司财物则很可能被认定为严重违纪。

3. 证据的充分性：公司还需要有充分的证据证明劳动者存在严重违纪行为。这些证据可以包括监控录像、证人证言、书面记录等。

三、解除合同的程序

即使劳动者存在严重违纪行为，公司在解除劳动合同时也必须遵循一定的程序：

1. 通知工会：根据《劳动合同法》第四十三条的规定，用人单位单方解除劳动合同，应当事先将理由通知工会。用人单位违反法律、行政法规规定或者劳动合同约定的，工会有权要求用人单位纠正。用人单位应当研究工会的意见，并将处理结果书面通知工会。

2. 出具解除劳动合同证明：公司在解除劳动合同时，应当向劳动者出具解除劳动合同的证明，并在十五日内为劳动者办理档案和社会保险关系转移手续。

3. 支付经济补偿（如适用）：在一般情况下，如果公司因劳动者严重违纪而解除劳动合同，是不需要支付经济补偿的。但是，如果公司的规章制度或劳动合同中有特别约定，或者存在其他特殊情况（如劳动者因违纪行为被追究刑事责任后，公司解除劳动合同的），则可能需要根据具体情况进行判断。

四、法律后果与风险防范

1. 法律后果：如果公司未经合法程序或没有充分证据就单方面解除劳动合同，可能构成违法解除，需要承担相应的法律责任，如支付赔偿金等。

2. 风险防范：为了防范法律风险，公司应当建立健全的规章制度，并确保规章制度的合法性和有效性；同时，在解除劳动合同时，应当严格遵守法律规定的程序和条件，确保解除行为的合法性和合理性。

总结来说，公司内部存在严重违纪行为时，公司可以单方面解除劳动合同，但必须确保规章制度的合法性、违纪行为的严重性以及解除程序的合法性。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。