结论：女员工犯错理应开除但怀孕的情况下，公司不能直接开除，否则可能面临违法解除劳动合同的法律后果，需支付赔偿金；若女员工存在严重违纪等符合法定解除情形，公司可依法解除劳动合同，无需额外支付除正常工资、福利外的特殊“代价”。以下为详细分析：
一、公司不能随意开除怀孕女员工的情况及后果
根据《中华人民共和国劳动合同法》第四十二条的规定，女职工在孕期、产期、哺乳期的，用人单位不得依照本法第四十条、第四十一条的规定解除劳动合同。这意味着，如果女员工仅仅是因为犯了一般性的错误，并不存在严重违反公司规章制度等法定解除劳动合同的情形，公司不能仅仅因为她怀孕了就开除她。
法律后果：如果公司违法解除与怀孕女员工的劳动合同，根据《中华人民共和国劳动合同法》第八十七条的规定，用人单位违反本法规定解除或者终止劳动合同的，应当依照本法第四十七条规定的经济补偿标准的二倍向劳动者支付赔偿金。经济补偿的标准是按劳动者在本单位工作的年限，每满一年支付一个月工资的标准向劳动者支付。六个月以上不满一年的，按一年计算；不满六个月的，向劳动者支付半个月工资的经济补偿。
举例：假设女员工在公司工作了3年，月工资为5000元，如果公司违法解除劳动合同，那么公司需要支付的赔偿金就是3个月工资的二倍，即30000元。
二、公司可以依法开除怀孕女员工的情况
虽然怀孕女员工受到法律的特殊保护，但并不意味着她们可以无视公司的规章制度。如果怀孕女员工存在《中华人民共和国劳动合同法》第三十九条规定的情形，如严重违反用人单位的规章制度的；严重失职，营私舞弊，给用人单位造成重大损害的；劳动者同时与其他用人单位建立劳动关系，对完成本单位的工作任务造成严重影响，或者经用人单位提出，拒不改正的；因本法第二十六条第一款第一项规定的情形致使劳动合同无效的；被依法追究刑事责任的等，公司可以依法解除劳动合同，且不需要支付赔偿金。
特殊说明：在这种情况下，公司解除与怀孕女员工的劳动合同，是基于她们自身的过错行为，与她们是否怀孕无关。因此，公司不需要因为女员工怀孕而额外支付特殊的“代价”，但应确保女员工在离职前享有正常的工资、福利等权益，并按照法律规定办理离职手续。
三、建议
如有任何疑问或需要进一步的法律帮助，请直接向我咨询。