曾经非法持有并不直接构成非法持有罪，具体是否构成犯罪，需要根据实际情况和法律条款来具体分析。
持有状态与犯罪构成：
- 持有型犯罪要求行为人对国家规定的管制物品有事实上的支配与控制。当枪支等管制物品的实际占有发生转移，行为人即失去了对这些物品的支配与控制，因此，曾经的持有状态并不等同于持续的非法持有。
- 非法持有枪支等管制物品侵犯的客体是公共安全。若枪支已经转移，行为人使用枪支危害公共安全的状态也随之消失，故不能简单地认定为非法持有罪。
法律条款与具体情形：
- 根据《中华人民共和国刑法》的相关规定，非法持有、私藏枪支、弹药罪是指违反枪支管理规定，非法持有、私藏枪支、弹药的行为。这里的“持有”应理解为持续的、事实上的支配与控制。
- 若行为人曾经非法持有枪支，但随后主动上交或枪支被收缴，且未造成危害后果，那么根据具体情况，可能不构成非法持有、私藏枪支、弹药罪。
综合判断与法律建议：
- 对于曾经非法持有的情况，需要综合考虑持有时间、持有目的、是否主动上交或配合调查等因素，以判断是否构成犯罪。
- 若你或他人面临此类问题，建议尽快咨询专业律师，以便根据具体情况进行法律分析和风险评估。
总之，曾经非法持有并不直接等同于构成非法持有罪。具体是否构成犯罪，需要根据实际情况和法律条款进行综合判断。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。