结论：试用期被辞退公司不给非自愿解除证明是否合法，关键在于辞退行为本身是否符合《中华人民共和国劳动合同法》及相关法律法规的规定。若辞退行为合法，则公司应出具非自愿解除证明；若辞退行为违法，则公司不出具或出具不实的非自愿解除证明均不合法。
一、合法的非自愿辞退情形
根据《中华人民共和国劳动合同法》第三十九条，用人单位在以下情形下可以单方面解除劳动合同，并应出具非自愿解除证明：
- 劳动者存在严重过错：
- 在试用期间被证明不符合录用条件的；
- 严重违反用人单位的规章制度的；
- 严重失职，营私舞弊，给用人单位造成重大损害的；
- 劳动者同时与其他用人单位建立劳动关系，对完成本单位的工作任务造成严重影响，或者经用人单位提出，拒不改正的；
- 因本法第二十六条第一款第一项规定的情形致使劳动合同无效的；
- 被依法追究刑事责任的。
在这些情况下，公司有权单方面解除劳动合同，并应出具非自愿解除证明，以证明辞退的合法性。
二、试用期辞退的特别要求
对于试用期内的辞退，公司还需满足以下特别要求，才能证明辞退的合法性：
- 录用条件合法、明确、具体、客观：公司应提前制定明确的录用条件，并确保这些条件合法、合理、可行，避免带有歧视性或违法性的内容。
- 录用条件已向员工送达、告知：公司应提前将试用期录用条件、考核的标准及考核方法等向员工明确告知，履行民主公示程序。
- 具备明确的考核流程及有效的考核结果：公司应建立试用期考核制度，明确考核流程，并将考核标准与录用条件有机结合，对员工是否符合录用条件做出客观、有效的判断。
- 有充分事实证据证明员工不符合录用条件：公司对员工试用期内不符合录用条件负有举证责任，应固定保留相关证据，如考核记录、沟通记录等。
- 解除决定在试用期届满前作出：公司应在员工试用期内作出解除劳动合同的决定，若试用期结束后以“不符合录用条件”为由解除劳动合同，则可能构成违法解除。
三、非法的非自愿辞退情形
若公司未按照上述法律规定执行，随意单方面辞退员工并出具非自愿解除证明，则可能构成违法辞退。常见违法辞退情形包括：
- 未经法定程序辞退员工；
- 未提前通知劳动者或未支付经济补偿金（在符合支付经济补偿金的情况下）；
- 辞退理由不充分、缺乏事实依据或法律依据；
- 存在歧视、报复等不当动机。
四、违法辞退的法律后果
若公司构成违法辞退，需承担相应法律后果，包括但不限于：
- 支付赔偿金：通常为经济补偿金的双倍。经济补偿金按劳动者在公司工作年限计算，每满一年支付一个月工资，六个月以上不满一年按一年计算，不满六个月支付半个月工资。
- 开具离职证明：无论辞退是否合法，公司均应为员工开具离职证明，并如实说明解除劳动关系的情况。若拒绝开具或故意隐瞒、歪曲事实，员工可向劳动行政部门投诉，公司将面临责令改正及赔偿损失等处罚。
五、建议与行动
- 核实辞退理由：若您被辞退，首先应核实公司的辞退理由是否合法、合理，并要求公司出具书面的辞退证明。
- 收集证据：收集与辞退相关的证据，如考核记录、沟通记录、劳动合同等，以备后续维权之需。
- 咨询专业律师：若您对辞退的合法性有疑问或认为公司存在违法辞退行为，建议及时咨询专业律师，了解您的权益和维权途径。
作为专注于劳动纠纷领域的律师，我建议您在面对此类情况时保持冷静，依法维护自己的合法权益。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。