针对您提出的问题“新单位入职没几天就离职，是否可以要求单位退回上一份离职证明”，我的解答如下：
首先，需要明确的是，您所提及的“退回上一份离职证明”这一表述可能存在一定的误解。实际上，当您从原单位离职时，原单位已经按照法律规定为您出具了离职证明，这份证明是您与原单位劳动关系已解除的官方凭证。当您进入新单位时，通常需要将这份离职证明提交给新单位，以证明您与前单位已不存在任何潜在的劳动纠纷或竞业限制等问题。
现在，假设您在新单位入职没几天就决定离职，您并不需要要求新单位“退回”上一份离职证明。因为那份离职证明是您与原单位之间的劳动关系证明，与新单位无关。新单位在您离职时，会按照法律规定为您出具新的离职证明（如果您需要的话），这份新证明将反映您与新单位之间的劳动关系状态。
重点来了：
原离职证明的归属：原离职证明是您与原单位劳动关系的官方凭证，应由您个人保管或根据需要提交给新单位，新单位无需也不应退回。
新单位的义务：根据《劳动合同法》第五十条的规定，无论您在新单位在职时间长短，新单位在解除或终止劳动合同时，都有责任和义务为您出具离职证明。
您的权益：如果您需要新单位出具离职证明，可以明确向新单位提出要求。如果新单位拒绝履行这一义务，您可以先尝试与新单位进行友好沟通，说明法律规定和您的需求。若沟通无果，您有权向当地的劳动监察部门投诉，或者选择申请劳动仲裁来维护自己的合法权益。
综上所述，您不需要要求新单位退回上一份离职证明。相反，如果您需要，您可以要求新单位为您出具新的离职证明，以反映您与新单位之间的劳动关系状态。希望这个解答能够帮助您更好地理解相关法律规定和您的权益。