结论：被告在公安机关报案虚假诉讼而公安机关未立案的情况下，是否可以起诉原告赔偿，需根据具体情况判断。若原告确实存在虚假诉讼行为且给被告造成损失，被告有权起诉要求赔偿；若无法证明原告存在虚假诉讼或未造成实际损失，则起诉可能难以得到支持。
分析说明：
虚假诉讼的认定：
- 虚假诉讼是指当事人为了非法目的，虚构事实、伪造证据，提起民事诉讼，企图通过诉讼手段获取不正当利益的行为。
- 若被告认为原告存在虚假诉讼行为，首先需要收集充分证据证明原告在诉讼过程中存在虚构事实、伪造证据等行为。
公安机关未立案的影响：
- 公安机关未立案并不意味着原告的行为不构成虚假诉讼。公安机关的立案决定可能受到多种因素影响，如证据不足、案件性质等。
- 被告仍可以通过民事诉讼途径，向法院提起诉讼，要求确认原告的虚假诉讼行为，并请求赔偿因此造成的损失。
起诉原告赔偿的条件：
- 证据充分：被告需要提供充分证据证明原告存在虚假诉讼行为，如伪造的证据、虚构的事实等。
- 损失实际发生：被告需要证明因原告的虚假诉讼行为而遭受了实际损失，如诉讼费用、律师费、名誉损失等。
- 因果关系明确：被告需要证明其损失与原告的虚假诉讼行为之间存在明确的因果关系。
可能的法律后果：
- 若法院认定原告存在虚假诉讼行为，并给被告造成了损失，法院可能会判决原告承担赔偿责任，包括赔偿被告因此遭受的直接损失和合理费用。
- 若法院认定原告不存在虚假诉讼行为，或被告无法证明其损失与原告的虚假诉讼行为之间存在因果关系，则被告的诉讼请求可能被驳回。
行动建议：
- 收集证据：被告应积极收集与原告虚假诉讼行为相关的证据，包括但不限于伪造的证据、虚构的事实、证人证言等。
- 咨询律师：在提起诉讼前，被告应咨询专业律师，评估案件的可行性和胜诉几率，以及可能获得的赔偿金额。
- 提起诉讼：在证据充分、条件成熟的情况下，被告可以向法院提起诉讼，要求确认原告的虚假诉讼行为，并请求赔偿因此造成的损失。
特殊场景提醒：
- 若被告在诉讼过程中发现原告存在虚假诉讼行为，但尚未造成实际损失，被告仍可以向法院提出异议，要求法院对原告的虚假诉讼行为进行审查，并可能因此获得法院的支持，如驳回原告的诉讼请求或对原告进行处罚。
后续思考依据：
- 在处理此类案件时，法院会综合考虑双方提供的证据、案件事实以及相关法律法规，作出公正判决。因此，被告在提起诉讼前应充分准备证据，确保自己的诉讼请求有充分的事实和法律依据。
如有更多疑问或需要进一步的法律帮助，请直接向我咨询。