被告方在诉讼费由对方承担的情况下，一般没有必要主动索取发票，但特定情形下建议留存相关凭证。以下从不同角度展开分析：

1. 诉讼费承担的常规流程
   根据《诉讼费用交纳办法》第二十九条，诉讼费用由败诉方负担，胜诉方自愿承担的除外。法院在判决或裁定中会明确诉讼费的承担主体，若判决被告无需承担诉讼费，则原告需自行向法院缴纳诉讼费并取得缴费凭证（如法院开具的《诉讼费专用票据》）。此时被告无需主动索取发票，因为诉讼费的缴纳主体是原告，被告并非交易相对方。

2. 被告方索取发票的潜在意义

   • 财务合规性：若被告因诉讼产生其他费用（如律师费、差旅费等），且合同或法律明确约定可由对方承担，被告需凭发票向对方主张权利。但诉讼费本身不属于此类费用，无需通过发票结算。
     
   • 执行阶段凭证：若原告未主动履行判决中的诉讼费承担义务，被告需申请强制执行。此时法院会依据生效裁判文书直接划扣原告财产，被告无需提供发票作为执行依据。
     
   • 税务处理：诉讼费属于法院收取的行政事业性收费，原告缴纳后取得的票据可用于企业所得税税前扣除（若符合条件），但与被告无关。

3. 需特别注意的情形

   • 调解或和解结案：若双方通过调解或和解达成协议，约定由被告承担部分诉讼费，则被告需要求原告提供法院出具的《诉讼费退费通知》或缴费凭证，以确认原告已实际缴纳费用，避免后续纠纷。
     
   • 涉外诉讼：在跨境诉讼中，若涉及外汇支付或税务申报，被告可能需留存相关凭证以符合境外监管要求，但此类情形较为特殊。

建议：

• 若被告仅涉及诉讼费承担问题，无需主动索取发票，但可要求法院在裁判文书中明确诉讼费金额及承担主体，作为后续执行或核对的依据。
  
• 若被告同时主张其他费用（如律师费），需在合同或法律明确约定的情况下，要求对方提供合法发票以支持主张。
  

如有其他复杂情形（如财产保全费、鉴定费等），可进一步向我咨询具体处理方式。