结论：是否需要向甲方开具罚款发票，需根据罚款性质及双方约定综合判断，具体分为以下两种情形：
若罚款属于行政处罚或司法罚金
根据《中华人民共和国发票管理办法》第三条，发票是销售商品、提供服务及从事其他经营活动的收付款凭证。行政机关或司法机关依法收取的罚款（如环保处罚、交通违章罚款等）属于非经营活动款项，无需开具发票，但需提供行政处罚决定书或法院判决书等法定凭证作为财务处理依据。
若罚款属于合同违约赔偿或民事惩罚性条款
若罚款系双方合同中约定的违约责任（如工期延误罚款、质量不达标罚款等），本质属于民事赔偿性质，则需分情况处理：
- 若罚款以“违约金”形式支付：根据《民法典》第五百八十五条，违约金属于合同价款外的补偿性款项，无需开具发票，但需在合同中明确约定违约金条款，并保留违约事实证据（如验收报告、沟通记录等）。
- 若罚款以“赔偿金”形式支付且涉及货物/服务价值：例如甲方因乙方违约额外支付了替代采购成本，此时赔偿金可能被认定为“价外费用”，需开具发票。具体需结合合同条款及实际交易性质判断。
实务建议：
- 合同签订阶段：明确约定罚款性质（违约金/赔偿金）、计算方式及凭证要求，避免歧义。
- 支付阶段：要求甲方提供罚款依据（如行政处罚决定书、合同违约证明等），并留存书面记录。
- 财务处理：根据款项性质分别计入“营业外支出”（行政罚款）或“管理费用/成本”（合同违约金），确保税务合规。
若涉及复杂交易结构或大额罚款，建议提供具体合同条款及交易背景，以便进一步分析。