结论：在对方不承认的情况下，转账暧昧备注和男方自认在一定程度上能证明不正当关系，但能否据此要求返还财产，需结合具体情况分析，主要看转账的性质以及是否符合法定返还情形。

一、转账暧昧备注和男方自认的证明力

转账暧昧备注和男方自认可以作为证明双方存在不正当关系的间接证据。在法律上，证据的证明力取决于其真实性、关联性和合法性。转账暧昧备注，如果内容明确、时间节点与双方关系发展相吻合，且能够与其他证据相互印证，那么其证明力会相对较强。男方自认，如果是在正式的法律程序中，如诉讼中的陈述或书面自认，那么其证明力也会较高。然而，如果男方在事后反悔或否认，那么自认的证明力就会受到质疑。

二、能否要求返还财产的分析

1. 转账性质为赠与：

   • 如果转账被认定为赠与，且赠与行为是基于不正当关系而发生的，那么根据《民法典》的相关规定，受赠人可能构成不当得利。然而，要证明赠与行为与不正当关系之间的直接因果关系，以及赠与行为违反了公序良俗，可能需要更多的证据支持。
   • 特殊情形：如果赠与的财产涉及夫妻共同财产，且未经另一方同意，那么赠与行为可能因侵犯夫妻共同财产权而无效。在这种情况下，即使对方不承认不正当关系，也可以基于侵犯夫妻共同财产权要求返还。

2. 转账性质为借款或其他法律关系：

   • 如果转账被认定为借款或其他法律关系，那么返还财产的问题将依据相应的法律关系进行处理。例如，如果是借款，那么借款人应当按照约定返还借款；如果是其他法律关系，如买卖、租赁等，则按照相应的法律规定处理。

3. 法定返还情形：

   • 根据《民法典》的相关规定，如果转账行为存在欺诈、胁迫、乘人之危等情形，导致对方在违背真实意思的情况下接受了财产，那么受损害方有权请求人民法院或者仲裁机构予以撤销，并要求返还财产。
   • 如果转账行为违反了法律、行政法规的强制性规定，或者违背了公序良俗，那么该行为可能被认定为无效，受损害方同样有权要求返还财产。

三、建议与注意事项

1. 收集证据：在要求返还财产前，应尽可能收集转账记录、暧昧备注、男方自认等相关证据，以证明双方存在不正当关系以及转账的性质。
2. 咨询专业律师：由于法律问题的复杂性和专业性，建议在处理此类纠纷时咨询专业律师。律师可以根据具体情况提供法律意见，并帮助制定合适的诉讼策略。
3. 注意诉讼时效：如果决定通过法律途径解决纠纷，应注意诉讼时效的问题。根据《民法典》的规定，向人民法院请求保护民事权利的诉讼时效期间为三年。自权利人知道或者应当知道权利受到损害以及义务人之日起计算。

在处理此类家庭财产纠纷时，应综合考虑转账的性质、双方的关系以及相关法律法规的规定。如果有任何疑问或需要进一步的法律帮助，请直接向我咨询。