结论：仅凭老公的电话录音和短信聊天，不一定能直接构成起诉“小三”的充分证据，但可以作为证明存在不正当关系的辅助证据。具体能否起诉以及起诉的依据和效果，需结合证据的具体内容、收集方式以及法律规定来综合判断。
分析说明：
证据的充分性：
- 在法律上，要起诉“小三”并主张相关权益（如返还财产、赔偿精神损失等），通常需要证明“小三”与您的配偶之间存在不正当关系，并且这种关系导致了您的合法权益受到侵害。
- 电话录音和短信聊天可以作为证明存在不正当关系的初步证据，但它们的充分性取决于内容的具体性、明确性以及是否能够直接证明不正当关系的存在。例如，如果录音和短信中明确提到了不正当的性关系、经济往来等，那么这些证据就具有较强的证明力。
- 如果证据内容模糊、不明确，或者无法直接证明不正当关系的存在，那么这些证据可能不足以支持起诉。
证据的合法性：
- 收集证据的方式必须合法，否则证据可能被法院排除。例如，如果电话录音是在未经对方同意的情况下秘密录制的，且录音内容涉及对方隐私，那么这种录音可能被视为非法证据。
- 短信聊天作为电子数据证据，也需要确保其真实性和完整性。如果短信被篡改或删除，那么其证明力将受到影响。
起诉的法律依据：
- 如果您想以“小三”为被告提起诉讼，通常需要依据《民法典》中关于婚姻家庭、侵权责任等的相关规定。例如，如果“小三”与您的配偶同居或重婚，您可以依据《民法典》中关于重婚、同居的规定来主张权益。
- 如果“小三”与您的配偶之间存在经济往来，且这种往来损害了您的合法权益（如共同财产被转移），您可以依据《民法典》中关于夫妻共同财产、侵权责任等的相关规定来主张返还财产或赔偿损失。
行动建议：
收集更多证据：
- 除了电话录音和短信聊天外，还可以尝试收集其他证据，如照片、视频、证人证言等，以形成完整的证据链。
- 确保所有证据的收集方式合法，避免侵犯他人隐私或违反其他法律规定。
咨询专业律师：
- 在起诉前，建议咨询专业律师，对证据的充分性、合法性以及起诉的法律依据进行全面评估。
- 律师可以根据您的具体情况，为您提供针对性的法律建议和诉讼策略。
考虑和解或调解：
- 在某些情况下，通过和解或调解来解决纠纷可能更为高效和低成本。您可以考虑与“小三”或您的配偶进行协商，寻求达成和解或调解协议。
后续思考：
- 在处理此类纠纷时，除了法律手段外，还可以考虑心理辅导、家庭咨询等非法律手段来帮助您和家人应对情感困扰和家庭危机。
- 无论选择何种方式解决纠纷，都应保持冷静和理性，避免情绪化决策导致更严重的后果。
如果您有进一步的法律问题或需要更具体的法律建议，请直接向我咨询。