结论：施工合同履约保证金在公安未立案且经法院调解后，是否能认定为非法暂扣，需根据具体情况分析，不能一概而论。以下从不同角度进行详细阐述：
一、履约保证金的性质与目的
履约保证金是施工合同中常见的一种担保方式，旨在确保承包人能够按照合同约定履行其义务，如按时完成工程、保证工程质量等。若承包人违约，发包人有权依据合同约定扣除部分或全部履约保证金作为赔偿。因此，履约保证金本身并非非法暂扣，而是合同双方约定的合法担保手段。
二、公安未立案的影响
公安未立案通常意味着该纠纷未涉及刑事犯罪，或者虽涉及但未达到刑事立案的标准。在民事纠纷中，公安的介入通常限于维护现场秩序、防止事态扩大等，而不直接处理合同纠纷本身。因此，公安未立案并不直接影响履约保证金的合法性判断。
三、法院调解的作用与结果
法院调解是民事纠纷解决的一种重要方式，通过双方当事人的协商，在法院的主持下达成调解协议。调解协议具有法律效力，双方当事人应当履行。若调解协议中涉及履约保证金的退还问题，且双方均同意并签署了调解协议，则该协议对双方具有约束力，应按协议执行。
四、非法暂扣的认定
非法暂扣通常指的是无合法依据或违反法定程序对他人财物进行扣留的行为。在施工合同纠纷中，若发包人无正当理由拒绝退还履约保证金，或退还金额不符合合同约定及调解协议，则可能构成非法暂扣。但是否构成非法暂扣，需根据具体事实、合同约定及调解协议内容综合判断。
五、建议与措施
审查合同与调解协议：首先，应仔细审查施工合同及法院调解协议中关于履约保证金的条款，明确双方的权利义务及退还条件。
沟通协商：若发包人拒绝退还履约保证金，可先尝试与发包人进行沟通协商，了解其拒绝退还的原因，并寻求解决方案。
法律途径：若沟通协商无果，可依据合同约定及调解协议向法院提起诉讼或申请强制执行，要求发包人退还履约保证金及可能产生的利息、违约金等。
证据收集：在整个过程中，应注意收集并保存相关证据，如合同文本、调解协议、付款凭证、沟通记录等，以备不时之需。
总结来说，施工合同履约保证金在公安未立案且经法院调解后，是否能认定为非法暂扣，需根据合同约定、调解协议内容及具体事实综合判断。若发包人无正当理由拒绝退还或退还金额不符合约定，则可能构成非法暂扣，此时可通过法律途径维护自身权益。如有任何疑问或需要进一步的法律帮助，请直接向我咨询。