结论：非法定代表人以公司名义担保，公司是否承担责任需视具体情况而定，可能承担责任，也可能不承担责任。以下从不同角度进行分析：
一、担保合同有效，公司承担担保责任
公司授权或追认：
- 若非法定代表人虽非公司法定代表人，但获得了公司的明确授权（如公司出具的授权委托书）以公司名义对外提供担保，或者公司事后对担保行为进行了追认，那么该担保合同对公司具有法律约束力。
- 法律依据：根据《中华人民共和国民法典》的相关规定，行为人没有代理权、超越代理权或者代理权终止后，仍然实施代理行为，相对人有理由相信行为人有代理权的，代理行为有效（表见代理）。但在此情况下，若公司明确授权或追认，则无需依赖表见代理制度。
- 法律后果：公司需按照担保合同的约定承担担保责任。
相对人善意且无过失：
- 若非法定代表人以公司名义提供担保时，相对人（债权人）有理由相信其有代理权，且相对人在此过程中无过失（如已尽到合理的审查义务），则可能构成表见代理。
- 法律依据：同样依据《中华人民共和国民法典》中关于表见代理的规定。
- 法律后果：公司仍需承担担保责任，但公司承担责任后，有权向非法定代表人追偿因越权行为给公司造成的损失。
二、担保合同无效，公司不承担担保责任或承担部分责任
未经公司合法程序决议：
- 若公司担保未经股东会或董事会等合法程序决议，且相对人知晓或应当知晓此事，则担保合同可能因违反公司内部管理规定而无效。
- 法律依据：根据《中华人民共和国公司法》及相关司法解释，公司为他人提供担保，需依照公司章程的规定，经董事会或者股东会、股东大会决议。若未经合法程序决议，且相对人非善意，则担保合同对公司不发生效力。
- 法律后果：公司不承担担保责任，但若公司有过错（如未妥善保管公司公章、未建立有效的内部管理制度等），则需根据过错程度承担相应的赔偿责任。
相对人非善意：
- 若相对人知晓或应当知晓非法定代表人无权以公司名义提供担保，或者未尽到合理的审查义务，则相对人非善意。
- 法律依据：依据《中华人民共和国民法典》中关于表见代理的例外规定，以及公司法中关于公司担保需经合法程序决议的规定。
- 法律后果：担保合同对公司不发生效力，由非法定代表人承担责任。若公司有过错，公司需根据过错承担相应赔偿责任。
三、特殊情形下的责任承担
- 非法定代表人个人行为：
- 若非法定代表人以公司名义提供担保，完全出于个人目的，且未获得公司授权或追认，相对人亦非善意，则该行为可能被视为非法定代表人的个人行为。
- 法律后果：公司不承担担保责任，由非法定代表人个人承担责任。
建议与提醒：
- 对于公司而言，应建立健全内部管理制度，明确担保决策程序，加强对公章、合同等重要文件的管理，防止非法定代表人越权担保。
- 对于相对人而言，在与公司签订担保合同时，应尽到合理的审查义务，核实担保人的身份和权限，避免因疏忽大意而遭受损失。
- 若发生非法定代表人以公司名义担保的纠纷，建议及时咨询专业律师，通过法律途径维护自身合法权益。
有问题可以直接向我咨询，我会结合具体情况，为你提供更详细的法律分析和建议。