结论：逾期中未结清的款项，一般可以要求开具利息、违约金、罚息的发票，但需结合具体合同约定、业务性质及税务规定综合判断。以下从不同角度展开分析：

1. 合同约定优先：看双方是否明确约定了发票开具义务

• 若借款合同、服务合同等主合同中明确约定“逾期产生的利息、违约金、罚息需开具发票”，则出借方/服务提供方有义务按约定开具。此时无论款项是否结清，只要产生相关费用，均可要求开具。
• 若合同未明确约定，需结合行业惯例和税务规定进一步判断。例如，金融借款利息通常需开具发票，而违约金是否开具可能存在争议。

2. 业务性质决定发票类型：利息、违约金、罚息的税务处理不同

• 利息：根据《营业税改征增值税试点实施办法》，贷款服务产生的利息属于增值税应税范围，需开具增值税发票（一般纳税人6%，小规模纳税人3%）。即使逾期未结清，利息仍需按实际发生额开具发票。
• 违约金：若违约金是因合同违约产生的补偿性费用（如逾期还款违约金），通常不属于增值税应税范围，无需开具发票，但需留存合同、付款记录等证明材料。若违约金与销售货物、提供服务直接相关（如销售方违约支付违约金），则可能需开具发票。
• 罚息：罚息本质是利息的延伸，若合同明确约定为“逾期罚息”，通常按利息处理，需开具发票；若罚息性质模糊（如“惩罚性费用”），需结合税务机关认定判断是否需开票。

3. 实务操作建议：分情况处理更稳妥

• 出借方/服务提供方：若需向对方收取利息、罚息，建议主动开具发票，避免税务风险；若收取违约金，可留存合同、违约证明等材料，无需强制开票。
• 借款方/服务接受方：若支付利息、罚息，可要求对方开具发票作为税前扣除凭证；若支付违约金，需确认是否属于增值税应税范围，再决定是否索要发票。
• 争议解决：若双方对发票开具产生争议，可先协商补充约定；协商不成，可依据合同条款、税务规定向法院起诉或向税务机关举报。

提示：税务问题具有地域性和行业特殊性，具体操作前建议结合当地税务机关的解释或案例进一步确认。若有进一步疑问，可直接向我咨询具体场景下的处理方案。