公司不开具离职证明造成损失的，劳动者可以向劳动行政部门投诉，由劳动行政部门责令公司改正并赔偿损失。以下是对此问题的详细分析：

一. 法律依据与责任部门

1. 法律依据：根据《中华人民共和国劳动合同法》第八十九条，用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明，由劳动行政部门责令改正；给劳动者造成损害的，应当承担赔偿责任。
2. 责任部门：因此，当公司不开具离职证明且给劳动者造成损失时，劳动者应首先向劳动行政部门投诉，请求其责令公司改正并出具证明，同时要求公司赔偿因未出具离职证明而造成的损失。

二. 索赔流程与劳动者权益

1. 索赔流程：劳动者在发现公司未出具离职证明且因此遭受损失后，应首先尝试与公司协商，要求出具离职证明并赔偿损失。若协商无果，可向劳动行政部门投诉，并依据其处理结果采取进一步行动，如申请劳动仲裁或提起诉讼。
2. 劳动者权益：劳动者在离职时有权要求公司出具离职证明，这是劳动者的合法权益。公司未出具离职证明且给劳动者造成损失的，劳动者有权要求公司承担赔偿责任，包括因错过就业机会、无法领取失业保险金等造成的经济损失。

三. 建议与总结

1. 建议：为避免此类纠纷，建议用人单位在解除或终止劳动合同时，及时、规范地出具离职证明并办理相关手续。同时，劳动者也应了解自己的权益，主动要求用人单位出具离职证明，并妥善保管好相关证据。
2. 总结：综上所述，公司不开具离职证明造成损失的，劳动者可以向劳动行政部门投诉，由劳动行政部门责令公司改正并赔偿损失。劳动者在维权过程中应了解自己的权益和索赔流程，积极维护自己的合法权益。