结论：在调解书约定由被告向原告支付诉讼费，但被告未支付的情况下，原告通常不能直接要求法院退费，而应通过申请强制执行等方式来维护自己的权益。
分析说明：
调解书的法律效力：
- 调解书是法院在诉讼过程中，经双方当事人自愿协商达成的协议，并经法院确认后制作的法律文书。它具有与判决书同等的法律效力，即一旦生效，就具有强制执行力。
- 在调解书中，如果明确约定了由被告向原告支付诉讼费，那么这一约定就构成了双方之间的债权债务关系。
被告未支付诉讼费的后果：
- 当被告未按照调解书的约定支付诉讼费时，这构成了对调解书的违反，原告有权要求被告履行支付义务。
- 原告不能直接要求法院退费，因为法院并不是调解书约定的支付义务方。法院的角色是确认调解书的效力，并在必要时提供执行支持。
原告应如何维护自己的权益：
- 申请强制执行：原告可以向法院申请强制执行，要求被告履行调解书中的支付义务。法院在受理申请后，会依法对被告的财产进行查封、扣押、冻结等措施，以强制其履行支付义务。
- 其他法律途径：如果被告确实无力支付或拒绝支付，原告还可以考虑通过其他法律途径来维护自己的权益，如提起诉讼要求被告承担违约责任等。但这种情况通常较为复杂，需要具体分析案情。
特殊情况说明：
- 如果调解书中存在错误或遗漏，或者双方当事人在调解后达成了新的协议，那么原告可能需要通过申请再审或另行起诉等方式来变更或撤销原调解书。但这并不属于直接要求法院退费的范畴。
行动建议：
- 鉴于您目前的情况，我建议您首先向法院申请强制执行，要求被告履行调解书中的支付义务。如果被告仍然拒绝支付，您可以考虑咨询专业律师，探讨其他可能的法律途径来维护自己的权益。
- 在整个过程中，请务必保留好所有相关的法律文书和证据材料，以便在需要时提供证明。
如果您有任何进一步的法律问题或需要进一步的法律帮助，请随时向我咨询。