是的，在正常情况下，公司签订合同时，甲乙双方都应当各持有一份合同。这是基于合同的基本性质和签订流程所决定的，以下从不同角度为你详细分析：

合同的基本性质

合同是双方或多方当事人之间设立、变更、终止民事关系的协议。它要求各方当事人意思表示一致，并达成合意。因此，合同的内容对于双方来说都是至关重要的，它规定了双方的权利和义务。为了确保双方都能明确自己的权利和义务，以及合同的履行和争议解决，双方都应当持有一份合同原件。

合同的签订流程

在签订合同的过程中，通常会有以下步骤：

1. 协商：双方就合同的主要条款进行协商，达成一致意见。
2. 起草：根据协商结果，起草合同文本。
3. 签署：双方在合同文本上签字或盖章，表示同意合同内容。
4. 交换：签署完成后，双方交换合同文本，各自留存一份。

从这个流程中可以看出，双方交换合同文本是签订合同的重要环节，它确保了双方都能持有一份合同原件。

法律后果与风险防范

如果合同只有一方持有，而另一方没有，那么可能会带来以下法律后果和风险：

1. 权利义务不明确：没有合同原件的一方可能无法准确了解自己的权利和义务，导致在履行合同过程中产生争议。
2. 举证困难：在发生争议时，没有合同原件的一方可能难以提供证据证明自己的主张，从而处于不利地位。
3. 合同被篡改的风险：如果合同只有一份且由一方保管，那么该方有可能对合同内容进行篡改，损害另一方的利益。

为了防范这些风险，双方都应当持有一份合同原件，并妥善保管。

特殊情况说明

虽然正常情况下双方都应当持有一份合同，但也存在一些特殊情况。例如，在某些电子合同或线上签约的场景中，合同可能以电子形式存在，并且双方可以通过电子方式查看和保存合同。在这种情况下，虽然双方可能没有物理上的合同原件，但电子合同同样具有法律效力，且双方都可以通过电子方式获取和保存合同内容。不过，即使在这种情况下，也建议双方采取适当措施确保电子合同的安全性和可访问性。

总结与建议：

为了确保合同的合法性和有效性，以及防范潜在的法律风险，我建议你在签订合同时，务必要求双方都持有一份合同原件。如果是在线上签约或使用电子合同，也要确保双方都能通过安全、可靠的方式获取和保存合同内容。如果你在合同签订或履行过程中遇到任何问题，可以直接向我咨询，我会为你提供专业的法律建议。