结论前置：单位一般不可以随意辞退兼职的怀孕女员工，但若女员工存在严重过错或违法行为，且符合法定解除条件，单位可以依法解除劳动合同。
详细分析：
一、法律对怀孕女员工的保护原则
根据《中华人民共和国劳动法》《中华人民共和国劳动合同法》及《女职工劳动保护特别规定》等法律法规，女职工在孕期、产期、哺乳期享有特殊的法律保护。这些法律明确规定了用人单位不得因女职工怀孕、生育、哺乳而降低其工资、予以辞退或与其解除劳动（聘用）合同。这一原则同样适用于兼职的怀孕女员工，旨在保障她们在这一特殊时期的合法权益。
二、单位可以辞退怀孕女员工的特殊情形
尽管怀孕女员工受到法律的特殊保护，但并非绝对不能辞退。如果怀孕女员工存在以下情形之一，且单位能够提供充分证据证明，那么单位在遵循法定程序的前提下，是有权解除劳动合同的：
试用期间不符合录用条件：如果女员工在试用期被证明未能满足单位设定的合理录用标准，单位可以解除劳动合同。但需注意，考核标准必须明确且已告知员工。
严重违反规章制度：女员工的行为严重违反了单位的内部规章制度，且该制度已经过合法程序制定并公示，单位有权依据规定解除劳动合同。
严重失职或营私舞弊：女员工在工作中严重失职，或者利用职务之便进行营私舞弊，给单位造成了重大损害，单位可以解除劳动合同。
兼职影响本职工作：如果女员工未经允许从事第二职业，且该兼职行为严重影响到了本职工作，单位在提出后拒不改正的，可以解除劳动合同。但这一情形需要单位能够提供充分证据证明兼职行为对工作造成了严重影响。
被依法追究刑事责任：女员工因违法犯罪行为被依法追究刑事责任，单位可以依法终止劳动关系。
三、单位违法辞退的法律后果
如果单位违反法律规定，擅自辞退怀孕女员工，女员工有权采取以下措施维护自己的合法权益：
要求继续履行劳动合同：女员工可以要求单位继续履行原劳动合同，恢复其工作岗位和待遇。
主张经济赔偿：若女员工不要求继续履行劳动合同，或劳动合同已无法继续履行，单位应依照经济补偿标准的二倍向女员工支付赔偿金。经济补偿按劳动者在本单位工作的年限计算，每满一年支付一个月工资的标准，六个月以上不满一年的按一年计算，不满六个月的支付半个月工资的经济补偿。
投诉与仲裁：女员工还可以向劳动监察部门投诉或提起劳动仲裁，通过法律途径维护自己的权益。
四、建议与总结
对于单位而言，在处理与怀孕女员工相关的劳动关系时，应严格遵守相关法律法规，确保女员工的合法权益得到保护。同时，单位也应建立健全的规章制度，明确员工行为规范，以便在特殊情况下能够依法处理劳动关系。
对于怀孕女员工而言，应了解自己的权利，如遇不公正待遇，应及时寻求法律援助或向相关部门投诉。如果您有具体的法律问题或需要进一步的法律帮助，请直接向我咨询，我会根据您的具体情况提供详细的法律建议。