结论：您因嫖娼被抓并罚款五千，但未收到收据，想要通过起诉警察来退回罚款，这一诉求在法律上并不直接支持罚款的退回，但您有权对罚款的合法性及程序正当性提出质疑，并通过合法途径维护自己的权益。以下是对此问题的详细分析：
一、罚款的合法性与程序正当性
罚款的合法性：
- 根据《中华人民共和国治安管理处罚法》的相关规定，嫖娼是违法行为，公安机关有权对违法行为人进行处罚，包括罚款。因此，从实体法角度看，罚款本身可能是合法的。
程序正当性：
- 罚款作为行政处罚，必须遵循法定程序。这包括告知违法行为人处罚的事实、理由及依据，听取其陈述和申辩，以及出具正式的处罚决定书和罚款收据等。
- 在您的情况下，未收到罚款收据可能意味着罚款程序存在瑕疵。这并不直接导致罚款的无效，但可能成为您质疑罚款程序正当性的理由。
二、起诉警察与罚款退回
起诉警察的可行性：
- 您不能直接起诉警察个人要求退回罚款，因为罚款是公安机关的行政行为，而非警察个人的行为。
- 如果您认为罚款程序违法或不当，可以通过行政复议或行政诉讼等途径对公安机关的行政行为提出质疑。
罚款退回的可能性：
- 即使您通过行政复议或行政诉讼成功质疑了罚款的合法性或程序正当性，这并不意味着罚款会自动退回。
- 通常情况下，如果罚款被撤销或确认违法，公安机关可能会根据具体情况决定是否退还罚款。但这并不是必然的，因为罚款可能已经上缴国库，退还程序可能复杂且耗时。
三、建议与行动步骤
收集证据：
- 尽可能收集与罚款相关的所有证据，包括罚款通知、现场笔录、证人证言等。这些证据将有助于您后续提出质疑或申诉。
提出质疑或申诉：
- 您可以向作出罚款决定的公安机关提出书面质疑或申诉，要求其解释罚款的合法性和程序正当性，并要求出具正式的罚款收据。
- 如果公安机关未给予满意答复，您可以考虑向其上级机关或同级人民政府提出行政复议申请。
考虑行政诉讼：
- 如果行政复议未能解决问题，您还可以考虑向人民法院提起行政诉讼，要求法院审查罚款的合法性和程序正当性。
咨询专业律师：
- 在整个过程中，建议您咨询专业律师以获取更具体的法律建议和指导。律师可以根据您的具体情况和证据，为您制定更合适的维权策略。
最后，虽然您不能直接通过起诉警察来退回罚款，但您有权对罚款的合法性及程序正当性提出质疑，并通过合法途径维护自己的权益。如果您在此过程中遇到任何困难或疑问，可以直接向我咨询，我会尽我所能为您提供帮助。