私下签署的还款协议，在满足一定条件下是具有法律效力的，但您描述的情况中存在可能影响协议效力的因素。以下从不同角度为您详细分析：
协议有效的条件
- 内容合法：协议内容不能与法律法规的强制性规定相冲突。例如，不能约定以违法犯罪的手段来获取资金用于还钱。在您的情况中，如果协议内容本身不违反法律强制性规定，这是协议有效的一个基础。
- 真实意思表示：协议得是双方真实意思的体现。签订协议时，双方都应清楚知晓协议的内容和后果，不存在一方被误导或者欺骗的情况。然而，您提到实际未还款但谅解书上写了已还清，这可能暗示存在一方对协议内容有误解或者被误导的情况，这会影响协议的真实性。
- 具备民事行为能力：双方必须具备相应的民事行为能力。未成年人、精神病人等缺乏完全民事行为能力的主体，签订的协议可能不具有法律效力。如果双方都是具有完全民事行为能力的成年人，这一点通常不会成为问题。
可能影响协议效力的因素
- 欺诈、胁迫或重大误解：
- 欺诈：如果一方通过欺骗手段让另一方签订了还钱协议，比如故意隐瞒实际未还款的事实，在谅解书上写已还清，当真相被揭露后，受欺骗方有权申请撤销该协议。
- 胁迫：若一方以威胁、强迫等手段使另一方签订协议，该协议也可能被撤销。不过从您描述的情况看，胁迫的可能性相对较小，但不能完全排除。
- 重大误解：如果一方对协议的关键内容，如还款情况存在重大误解，也可能导致协议被撤销。您提到的实际未还款但谅解书上写已还清，就可能构成重大误解。
- 特殊类型债务：虽然民间借贷一般不属于涉及人身关系的特殊债务，但如果该债务与其他特殊法律关系有关联，可能需要特定的形式或者经过特定程序才有效。不过在您的情况中，这一点影响相对较小。
实际建议
- 协商解决：如果双方对协议的效力存在争议，首先可以尝试通过协商的方式解决。双方可以重新梳理还款情况，明确各自的权利和义务，看是否能够达成新的共识。
- 法律途径：如果协商无果，受影响的一方可以通过法律途径解决。比如，受欺骗方可以向法院提起诉讼，请求撤销该协议，并要求对方按照实际情况履行还款义务。在诉讼过程中，需要提供充分的证据证明协议存在欺诈、重大误解等情况。
举例说明：假设甲向乙借款，到期未还。乙找到甲，甲在未实际还款的情况下，欺骗乙说已经通过某种方式还款，并让乙在谅解书上签字写已还清。后来乙发现甲并未还款，此时乙就可以以甲存在欺诈行为为由，向法院申请撤销该谅解书及相关的还款协议，并要求甲按照实际借款金额还款。
总之，私下签署的还款协议是否有效需要具体问题具体分析。如果您遇到此类问题，可以进一步向我咨询，我会根据具体情况为您提供更详细的法律建议。