关于离职证明是否会存在档案里的问题，这主要取决于具体的档案管理规定以及个人档案的管理情况。
首先，我们需要明确的是，离职证明是员工与原用人单位解除或终止劳动关系时，由用人单位出具的一份证明文件。它通常包含了员工的个人信息、在职时间、离职原因等关键内容，是员工后续求职、办理社保转移等手续时的重要依据。
在档案管理方面，一般来说，流动人员的人事档案会由户籍所在地或工作单位所在地的流动人员人事档案管理服务机构进行保管。这些机构包括县级以上（含县级）人民政府设立的公共就业和人才服务机构，以及经省级人力资源社会保障行政部门授权的单位。个人档案中通常会包含员工的学历、工作经历、奖惩记录等重要信息，但具体是否包含离职证明，则可能因档案管理机构的规定或个人档案的具体情况而有所不同。
有些情况下，离职证明可能会被放入个人档案中，特别是当员工离职后需要将档案转递至新的工作单位或档案管理机构时，原用人单位可能会将离职证明作为档案材料的一部分进行转递。然而，也有一些情况下，离职证明可能并不会被直接放入档案，而是由员工自行保管，或者在需要时向原用人单位申请开具。
针对您提到的具体情况，即新入职单位在查看档案时发现缺少第一家公司的离职证明，并要求提供原件，但第一家公司的离职证明在第二家的入职资料里，第二家公司拒绝提供原件的情况，我建议您采取以下措施：
与第二家公司沟通，说明情况并请求他们提供离职证明的复印件或加盖公章的证明文件，以证明您与第一家公司的劳动关系已经解除。
如果第二家公司无法提供，您可以尝试联系第一家公司，请求他们重新开具离职证明或提供相关的证明文件。
如果以上方法均无法解决问题，您可以向当地的流动人员人事档案管理服务机构咨询，了解他们对于离职证明的具体要求和处理方式，并寻求他们的帮助和支持。
总之，离职证明是否会存在档案里并没有一个固定的答案，它取决于多种因素。在遇到相关问题时，建议您根据具体情况采取相应的措施，并咨询相关的档案管理机构或专业人士以获取更准确的解答和帮助。