人民调解协议书可以私下签补充协议。不过，在签署补充协议时，需要注意以下几点：

1. 双方自愿：补充协议应当是双方自愿达成的，不能有任何欺诈、胁迫等违法情形。

2. 内容合法：补充协议的内容应当合法，不能违反法律法规的强制性规定，也不能损害国家、集体或者第三人的合法权益。

3. 明确约定：补充协议中应当明确约定需要补充或修改的事项，以及具体的补充或修改内容。内容应当清晰、明确，避免产生新的纠纷。

4. 与原协议关系：补充协议是对原人民调解协议书的补充或修改，因此应当与原协议保持一致性。如果补充协议与原协议存在冲突，应当以补充协议为准，但应当确保这种冲突不会损害其他合法权益。

5. 形式要求：虽然私下签署补充协议是允许的，但为了确保其法律效力，建议采用书面形式，并由双方签字或盖章确认。

在签署补充协议前，双方应当充分沟通、协商，并确保协议内容的真实性和合法性。如果补充协议涉及重大事项或复杂法律问题，建议咨询专业律师以确保协议的有效性和合法性。如果你在这方面有任何疑问或需要进一步的法律帮助，可以直接向我咨询。