当场退回行贿款项是否构成行贿罪，需分情况讨论：

1. 若行贿行为尚未被对方接受，即当场退回，一般不构成行贿罪

   • 法律背景：行贿罪的构成，通常要求行贿人实施了给予国家工作人员财物的行为，且该行为具有谋取不正当利益的目的。若在行贿行为尚未被对方接受，即财物尚未被对方实际控制或接受时，行贿人主动退回财物，这表明行贿人并未真正完成行贿行为，也未造成实际的贿赂后果。
   • 法律建议：在此情况下，由于行贿行为未遂，且行贿人主动退回财物，表明其并无行贿的故意或已放弃行贿意图，因此一般不构成行贿罪。但需注意，若行贿行为已被对方察觉或对方已表示接受，则情况可能有所不同。

2. 若行贿行为已被对方接受，但随后当场退回，可能构成行贿罪，但可视为犯罪中止或减轻情节

   • 法律背景：若行贿人已将财物给予国家工作人员，且对方已接受，此时行贿行为已构成既遂。但若行贿人在对方接受后，出于某种原因（如害怕被查处、良心发现等）当场退回财物，这表明行贿人已自动放弃犯罪或防止犯罪结果的发生。
   • 法律后果：根据《刑法》的相关规定，对于犯罪中止，没有造成损害的，应当免除处罚；造成损害的，应当减轻处罚。因此，在此情况下，行贿人虽可能构成行贿罪，但可因其自动放弃犯罪或防止犯罪结果发生的行为而获得从轻或减轻处罚的机会。
   • 法律建议：若行贿人已构成行贿罪既遂，但随后当场退回财物，建议行贿人主动向司法机关投案自首，并如实供述自己的行贿行为及退回财物的情况。这样有助于争取从轻或减轻处罚的机会。

综合分析：当场退回行贿款项是否构成行贿罪，需根据行贿行为是否已被对方接受以及行贿人的主观意图和客观行为来综合判断。若行贿行为尚未被对方接受或行贿人主动放弃行贿意图并退回财物，一般不构成行贿罪；若行贿行为已被对方接受但随后当场退回，则可能构成行贿罪，但可视为犯罪中止或减轻情节。

进一步思考：在实际操作中，行贿与受贿行为往往具有隐蔽性和复杂性。因此，在判断当场退回行贿款项是否构成行贿罪时，需充分考虑行贿人与受贿人之间的关系、行贿的动机和目的、行贿的方式和手段以及行贿后是否立即退回等因素。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。