结论：公司没有考勤管理却以迟到为由开除员工，这一行为可能涉嫌违法解除劳动合同，员工有权要求公司支付赔偿金或继续履行合同。以下是对此问题的详细分析：
一、公司考勤管理与解除劳动合同的合法性
考勤管理的重要性：
- 考勤管理是公司管理员工出勤情况的重要手段，它有助于确保员工按时到岗，维护公司的正常运营秩序。
- 若公司未建立考勤管理制度，则难以有效证明员工存在迟到等违纪行为。
解除劳动合同的合法性依据：
- 根据《劳动合同法》的相关规定，公司解除劳动合同必须基于合法、合理的理由，并遵循法定程序。
- 若公司以迟到为由解除劳动合同，但无法提供有效的考勤记录作为证据，则可能构成违法解除。
二、公司未建立考勤管理制度却以迟到为由开除员工的法律分析
证据不足的风险：
- 在没有考勤管理制度的情况下，公司难以提供员工迟到的确凿证据。
- 若公司仅凭口头陈述或主观判断就解除劳动合同，员工有权要求公司承担违法解除的法律责任。
违法解除的法律后果：
- 根据《劳动合同法》第八十七条，公司违法解除劳动合同的，应当依照经济补偿标准的二倍向员工支付赔偿金。
- 经济补偿标准通常根据员工在公司的工作年限和月工资水平来确定。具体计算公式为：赔偿金 = 经济补偿标准 × 2 = 工作年限 × 月工资 × 2（其中，工作年限满一年支付一个月工资，六个月以上不满一年的按一年计算，不满六个月的支付半个月工资）。
三、员工的应对策略
收集证据：
- 员工应尽可能收集与公司解除劳动合同相关的证据，如工作记录、同事证言、公司通知等。
- 若公司未提供考勤记录，员工可以要求公司提供或自行收集其他能够证明出勤情况的证据。
协商与调解：
- 在发生纠纷时，员工可以尝试与公司进行协商，寻求和解或调解解决。
- 协商过程中，员工可以明确表达自己的诉求和理由，并要求公司给出合理的解释和赔偿方案。
申请劳动仲裁或提起诉讼：
- 若协商无果，员工可以向当地劳动仲裁机构申请劳动仲裁，要求公司支付赔偿金或继续履行合同。
- 对劳动仲裁结果不服的，员工还可以向人民法院提起诉讼，维护自己的合法权益。
四、特殊情况下的考虑
若公司存在其他合法解除理由：
- 尽管公司未建立考勤管理制度，但若员工存在其他严重违反公司规章制度或法律法规的行为，公司仍有可能合法解除劳动合同。
- 在这种情况下，员工应认真审视自己的行为是否确实存在过错，并积极配合公司的调查和处理。
若员工存在过错但公司解除程序违法：
- 即使员工存在迟到等过错行为，但公司解除劳动合同的程序不合法（如未提前通知、未听取员工申辩等），员工仍有权要求公司承担违法解除的法律责任。
建议：若您遇到公司没有考勤管理却以迟到为由开除的情况，建议您先与公司进行协商，要求公司提供有效的考勤记录作为证据。若协商无果，您可以向当地劳动仲裁机构申请劳动仲裁或向人民法院提起诉讼，维护自己的合法权益。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。