老公公留下的遗产老公私自给了他姐姐，且您不知情，这一行为是否合法，需要分情况讨论：
若遗产属于老公公与配偶（如有）的共同财产：
- 在老公公去世后，应首先分割出属于配偶的部分，剩余部分才作为遗产进行分配。
- 如果老公未经您（假设为老公公的配偶或法定继承人之一）同意，私自将属于遗产的部分给予他姐姐，这可能侵犯了您的合法权益，因为您作为法定继承人之一，有权参与遗产的分配。
- 在此情况下，您可以依据《中华人民共和国民法典》中关于继承的规定，主张自己的继承权，并要求老公返还或补偿您应得的遗产份额。
若遗产属于老公公的个人财产：
- 老公公有权通过遗嘱或法定继承的方式处分自己的财产。
- 如果老公公生前立有遗嘱，明确指定其姐姐为继承人，且遗嘱符合法律规定的形式要件（如自书遗嘱需亲笔书写、签名并注明年月日；代书遗嘱需有两个以上无利害关系的见证人在场等），则老公按照遗嘱将遗产给予他姐姐是合法的。
- 但如果老公公未立遗嘱，则遗产应按照法定继承顺序分配。在此情况下，老公作为法定继承人之一，无权单独决定将遗产全部给予他姐姐，而应与其他法定继承人（如您、老公公的其他子女等）共同协商分配。如果老公私自将遗产给予他姐姐，可能侵犯了其他法定继承人的权益，其他法定继承人可以依法主张自己的继承权。
针对您的情况，我给出以下建议：
- 收集证据：首先，您需要收集相关证据，如老公公的遗嘱（如有）、遗产清单、老公与姐姐之间的转账记录或财产交接证明等，以证明老公私自处分遗产的事实。
- 协商解决：在收集到足够证据后，您可以尝试与老公进行协商，要求他返还或补偿您应得的遗产份额。如果协商无果，您可以考虑通过法律途径解决。
- 法律途径：如果协商不成，您可以向人民法院提起诉讼，要求确认老公的处分行为无效，并主张自己的继承权。在诉讼过程中，您需要提供充分的证据来支持自己的主张。
最后，我需要强调的是，遗产分配是一个复杂且敏感的问题，涉及到家庭成员之间的情感和利益纠葛。因此，在处理此类问题时，建议您保持冷静和理性，尽量通过协商和法律途径来解决争议。如果您有任何疑问或需要进一步的法律帮助，请随时向我咨询。