结论前置：一般情况下，单位不可以仅因女职工刚上班就怀孕而解聘，但在特定情形下单位可能合法解除劳动合同。以下为你详细分析：
一般情况下单位不得解聘
- 法律对孕期女职工的特殊保护
根据我国《劳动法》《劳动合同法》以及《女职工劳动保护特别规定》等相关法律法规，女职工在孕期、产期、哺乳期内，用人单位不得依据《劳动合同法》第四十条、第四十一条的规定解除劳动合同。这是为了保障女职工在特殊生理时期的合法权益，避免因怀孕、生育等原因遭受就业歧视和不公平对待。
例如，小李刚入职一家公司一个月就发现自己怀孕了，公司不能仅仅因为这一原因就以“不能胜任工作，经过培训或者调整工作岗位，仍不能胜任工作”等《劳动合同法》第四十条规定的理由解除与小李的劳动合同。
- 违法解聘的法律后果
如果用人单位违反规定，在女职工孕期解聘，女职工有权要求用人单位继续履行劳动合同；如果不要求继续履行劳动合同或者劳动合同已经不能继续履行的，用人单位应当依照经济补偿标准的二倍向劳动者支付赔偿金。经济补偿按劳动者在本单位工作的年限，每满一年支付一个月工资的标准向劳动者支付。六个月以上不满一年的，按一年计算；不满六个月的，向劳动者支付半个月工资的经济补偿。
特定情形下单位可能合法解除
- 试用期不符合录用条件
如果女职工处于试用期，且用人单位能够证明其不符合录用条件，那么用人单位可以解除劳动合同。但需要注意的是，用人单位必须要有明确、合法、合理的录用条件，并且在招聘时已经向劳动者明确告知，同时要有充分的证据证明劳动者不符合录用条件。
比如，某公司在招聘时明确要求员工需具备一定的外语能力，并在录用条件中明确说明，而新入职的女职工在试用期内经过多次外语测试均未达到要求，且该岗位确实需要一定的外语能力来开展工作，此时公司可以以不符合录用条件为由解除劳动合同。
- 严重违反用人单位规章制度
若女职工严重违反了用人单位的规章制度，用人单位也可以解除劳动合同。不过，用人单位的规章制度必须是通过民主程序制定，不违反国家法律、行政法规及政策规定，并且已经向劳动者公示。
例如，某公司规定员工不得在工作场所吸烟，否则视为严重违反规章制度，新入职的怀孕女职工在工作场所多次吸烟，经公司多次警告仍不改正，公司可以依据规章制度解除与她的劳动合同。
- 严重失职、营私舞弊，给用人单位造成重大损害
如果女职工在怀孕期间存在严重失职、营私舞弊的行为，并且给用人单位造成了重大损害，用人单位有权解除劳动合同。这里的“重大损害”需要用人单位在规章制度中进行明确界定，并且要有充分的证据证明女职工的行为与损害结果之间存在因果关系。
比如，某财务人员怀孕后，利用职务之便，将公司资金转移到自己账户，给公司造成了巨大的经济损失，公司可以解除与她的劳动合同。
- 被依法追究刑事责任
若女职工在孕期被依法追究刑事责任，用人单位可以解除劳动合同。例如，女职工因犯罪被判处刑罚，用人单位可以依据法律规定解除与她的劳动关系。
如果你有进一步的疑问，比如不清楚单位解除劳动合同是否合法，或者不知道如何维护自己的权益，都可以直接向我咨询。