怀孕期间单位是不能单方解除合同的。但是法律并不禁止双方协商及劳动者自愿辞职。合同已经解除之后要继续履行，从法律上没有依据。

劳动合同是指劳动者与用人单位之间确立劳动关系，明确双方权利和义务的协议。订立和变更劳动合同，应当遵循平等自愿、协商一致的原则，不得违反法律、行政法规的规定。劳动合同依法订立即具有法律约束力，当事人必须履行劳动合同规定的义务。

《劳动合同法》第四十二条【用人单位不得解除劳动合同的情形】劳动者有下列情形之一的，用人单位不得依照本法第四十条、第四十一条的规定解除劳动合同：

(一)从事接触职业病危害作业的劳动者未进行离岗前职业健康检查，或者疑似职业病病人在诊断或者医学观察期间的；

(二)在本单位患职业病或者因工负伤并被确认丧失或者部分丧失劳动能力的；

(三)患病或者非因工负伤，在规定的医疗期内的；

(四)女职工在孕期、产期、哺乳期的；

(五)在本单位连续工作满十五年，且距法定退休年龄不足五年的；

(六)法律、行政法规规定的其他情形。

第八十七条【违反解除或者终止劳动合同的法律责任】用人单位违反本法规定解除或者终止劳动合同的，应当依照本法第四十七条规定的经济补偿标准的二倍向劳动者支付赔偿金。