关于您提出的“第二份离职后可以要回上一份的离职证明吗”这一问题，首先我们需要明确的是，离职证明是劳动者与原用人单位劳动关系终结的重要凭证，且用人单位有法定义务在解除或终止劳动合同时为劳动者出具离职证明。
针对您的情况，即使您已经开始了第二份工作并随后离职，这并不影响您向第一份工作的原用人单位要求出具离职证明的权利。原用人单位不能因为您已经离职并开始了新的工作而拒绝或拖延出具离职证明。
具体来说，您可以采取以下步骤来要回上一份的离职证明：
友好沟通协商：
- 首先，您可以尝试与第一份工作的原用人单位进行友好沟通，明确告知他们开具离职证明是他们的法定义务，并要求他们限期出具规范的离职证明。
向劳动保障行政部门投诉：
- 如果协商无果，您可以携带与第一份工作相关的劳动关系证据（如劳动合同、工资单、工作证等），向当地劳动保障行政部门进行投诉。行政部门会依法责令用人单位限期改正，并可能对其进行相应的处罚。
申请劳动仲裁或提起民事诉讼：
- 如果因原用人单位未出具离职证明而给您造成了实际经济损失（如无法入职新公司产生的工资收入损失、择业机会损失等），您可以依法申请劳动仲裁。对仲裁结果不服的，还可以向人民法院提起民事诉讼，要求用人单位履行出具证明义务，并赔偿由此造成的全部经济损失。
此外，需要特别注意的是：
- 离职证明应当内容规范、要素齐全，包括劳动合同期限、解除或者终止劳动合同日期、工作岗位、在本单位的工作年限等法定必备信息。
- 用人单位不得在离职证明中虚构离职原因、添加负面评价、恶意备注限制性内容，或设置不合理附加条件变相阻碍劳动者重新就业。
综上所述，您完全有权向第一份工作的原用人单位要求出具离职证明，并可以通过友好沟通、向劳动保障行政部门投诉、申请劳动仲裁或提起民事诉讼等途径来维护自己的合法权益。希望这些解答能对您有所帮助。