结论：公司不提供证据且胡编乱造谣的行为，若构成对他人人格权的侵害，是违法的，可能面临民事赔偿、行政处罚甚至刑事责任。以下从不同角度详细分析：
一、民事侵权角度
人格权侵害：
- 根据《中华人民共和国民法典》的相关规定，人格权包括生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等。若公司胡编乱造谣，散布虚假信息，损害了他人的名誉权或隐私权等，即构成对他人人格权的侵害。
- 法律后果：被侵权人有权要求侵权人停止侵害、恢复名誉、消除影响、赔礼道歉，并可以要求赔偿损失。若公司不提供证据支持其言论，反而胡编乱造，将更难以摆脱侵权责任。
证据规则：
- 在民事诉讼中，当事人对自己提出的主张，有责任提供证据。若公司无法提供证据支持其言论，而其言论又构成对他人人格权的侵害，那么公司将承担举证不能的不利后果。
- 实践建议：公司应谨慎对待对外言论，确保言论有事实依据，避免胡编乱造。若涉及纠纷，应积极收集、保存证据，以支持自己的主张。
二、行政处罚角度
散布虚假信息：
- 若公司胡编乱造谣，散布虚假信息，扰乱社会秩序或损害公共利益，可能面临行政处罚。根据《中华人民共和国治安管理处罚法》等相关规定，散布谣言、谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，处五日以上十日以下拘留，可以并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款。
公司责任：
- 公司作为法人实体，若其员工或代表以公司名义散布虚假信息，公司可能因管理不善或未尽到合理注意义务而承担相应的行政责任。
三、刑事责任角度
诽谤罪：
- 若公司胡编乱造谣，捏造事实诽谤他人，情节严重的，可能构成诽谤罪。根据《中华人民共和国刑法》的相关规定，以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。
单位犯罪：
- 虽然诽谤罪通常针对个人，但若公司以单位名义实施诽谤行为，且情节严重，单位直接负责的主管人员和其他直接责任人员也可能面临刑事责任。不过，在司法实践中，单位构成诽谤罪的情况较为罕见，更多是以个人犯罪论处。
四、综合建议
- 谨慎言论：公司应谨慎对待对外言论，确保言论有事实依据，避免胡编乱造。在涉及他人人格权的问题上，更应保持高度谨慎。
- 积极举证：若公司涉及纠纷或诉讼，应积极收集、保存证据，以支持自己的主张。无法提供证据或证据不足的，将可能承担不利后果。
- 法律合规：公司应建立健全的法律合规制度，确保公司运营和对外行为符合法律法规的要求。对于可能涉及人格权侵害的行为，应提前进行法律风险评估和防范。
有问题可以直接向我咨询，我会结合你的具体情况，给出更详细的法律建议。