在房屋买卖合同纠纷中，起诉退还定金的标的金额原则上按合同约定的定金数额确定，但需结合定金性质及实际履行情况综合判断。以下分情况具体说明：

1. 若合同明确约定定金性质且未超过法定限额
   根据《民法典》第586条，定金数额不得超过主合同标的额的20%，超过部分不产生定金效力。例如：房屋总价500万元，合同约定定金150万元（未超20%上限），则起诉标的金额为150万元；若约定200万元（超40万元），则仅100万元可作为定金主张，超出的100万元可能被认定为预付款，需按实际性质主张返还。

2. 若合同未明确约定定金性质，但实际交付了定金
   需结合交付凭证（如转账备注“定金”、收据载明“定金”等）及双方沟通记录判断。若证据充分，可按实际交付金额主张定金权利；若证据不足，可能被认定为普通预付款，按实际损失主张返还。

3. 若因卖方违约导致合同解除
   根据《民法典》第587条，买方有权要求“双倍返还定金”。此时起诉标的金额为定金数额的2倍（但需注意总金额不得超过主合同标的额的20%）。例如：合同约定定金100万元，卖方违约，则买方可主张200万元（100万元定金+100万元惩罚性赔偿）。

4. 若因买方违约导致合同解除
   卖方有权没收定金，此时起诉标的金额为买方已支付的定金数额（卖方作为原告时主张没收，买方作为原告时主张返还，但需承担违约责任）。

实务建议：

• 起诉前需固定证据：合同文本、定金交付凭证、双方沟通记录（如微信、邮件）、违约证明（如卖方拒绝过户、买方未按时付款等）；
  
• 若定金数额较高，建议同步主张实际损失赔偿（如房屋涨价差价、租房费用等），但需注意定金与赔偿金不能重复主张；
  
• 若合同涉及中介，需审查中介是否履行了定金性质告知义务，避免因格式条款争议影响标的金额认定。
  

如有具体合同条款或交易细节需要分析，可直接向我提供材料，我会进一步为您梳理法律风险。