不可以不开发票。下面我详细解释一下：

1. 法律义务：根据《中华人民共和国发票管理办法》的规定，销售商品、提供服务以及从事其他经营活动的单位和个人，对外发生经营业务收取款项，收款方应当向付款方开具发票。这意味着，无论客户是否已经付款，只要商品已经发出，作为销售方，你都有义务开具发票。

2. 税务合规：开具发票是税务合规的重要一环。不开发票可能导致税务部门无法准确掌握你的销售收入，进而可能引发税务风险，包括税务稽查、补税、罚款等。

3. 客户权益：发票是客户购买商品的凭证，也是客户享受售后服务、维权等的重要依据。不开发票可能会损害客户的合法权益，影响你的商业信誉和口碑。

4. 商业实践：在商业实践中，通常会在交易双方确认交易后，即商品发出并收到款项后，再开具发票。但如果商品已发出而客户尚未付款，你仍然应该开具发票，并在发票上注明“未收款”等字样，以明确交易状态。

因此，即使客户尚未付款，你也不能不开发票。如果客户坚持不付款，你可以考虑通过法律途径来维护自己的权益，比如向法院提起诉讼或申请仲裁等。但无论如何，开具发票是你的法定义务，不能因客户未付款而免除。