结论：是的，你应该和原单位说明情况，并尽快办理离职手续，同时与新单位确认报到事宜。以下从法律和实际操作两个角度为你详细分析：
法律角度
- 劳动关系唯一性原则：根据《中华人民共和国劳动合同法》的相关规定，劳动者在同一时间内只能与一个用人单位建立全日制劳动关系。你目前虽然持有原单位的离职证明，但实际上仍在原单位上班，这意味着你与原单位之间仍然存在事实劳动关系。如果你未与原单位正式解除劳动关系，就与新单位建立劳动关系，可能面临以下法律风险：
- 原单位追责：原单位可以依据《劳动合同法》的相关规定，要求你承担因未解除劳动关系而给其造成的损失，比如因你同时在新单位工作而无法完成原单位工作任务导致的损失。
- 新单位权益受损：新单位在不知情的情况下与你建立劳动关系，若后续发现你仍与原单位存在劳动关系，新单位可能会以你欺诈为由解除劳动合同，且无需支付经济补偿。同时，新单位还可能要求你赔偿因你双重劳动关系给其造成的损失。
- 离职手续的办理：离职证明只是证明你曾向原单位提出离职申请或原单位同意你离职的一种书面材料，但并不意味着劳动关系已经正式解除。你需要与原单位办理完整的离职手续，包括工作交接、工资结算、社保关系转移等，以确保劳动关系正式终止。
实际操作角度
- 与原单位沟通：
- 说明情况：向原单位说明你已收到新单位的报到通知，希望尽快办理离职手续，以便能够顺利到新单位工作。
- 协商离职时间：与原单位协商确定一个具体的离职日期，确保在到新单位报到前，与原单位的劳动关系已经正式解除。
- 办理离职手续：按照原单位的要求，办理工作交接、工资结算等离职手续，并要求原单位出具正式的解除劳动关系证明。
- 与新单位确认：
- 报到时间：与新单位确认具体的报到时间，确保你能够在与原单位解除劳动关系后按时到新单位报到。
- 所需材料：了解新单位报到所需的具体材料，如身份证、学历证书、离职证明等，并提前准备好，以免因材料不全而影响报到。
建议：为了避免不必要的法律风险和麻烦，建议你尽快与原单位沟通并办理离职手续，同时与新单位确认报到事宜。如果你在办理过程中遇到任何问题或需要进一步的法律帮助，可以直接向我咨询。