结论前置：爷爷不可以私下取走父亲的存款，该行为涉嫌违法。

1. 从继承权角度分析：

   • 根据我国《民法典》继承编的规定，继承从被继承人死亡时开始。在父亲去世的情况下，其遗产（包括存款）应由法定继承人继承。法定继承人通常包括配偶、子女、父母等。因此，爷爷奶奶和您作为父亲的法定继承人，对父亲的存款享有平等的继承权。
   • 爷爷作为继承人之一，无权单独处分父亲的存款。他私下取走存款的行为，侵犯了其他继承人（包括您）的合法权益，构成对遗产的不当处分。

2. 从财产权角度分析：

   • 父亲的存款属于其个人财产，在其去世后，这些财产转化为遗产。遗产的管理和处分应遵循法定程序，即由所有继承人共同协商或通过法律途径解决。
   • 爷爷私下取走存款，实际上是对父亲财产权的侵犯，也是对其他继承人财产权的侵害。这种行为不仅违反了法律规定，也违背了道德原则。

3. 法律后果与建议：

   • 如果爷爷已经私下取走了父亲的存款，其他继承人有权要求其返还。若爷爷拒绝返还，其他继承人可以通过法律途径解决，如向法院提起诉讼，要求分割遗产并确认各自份额。
   • 在此过程中，建议保留好相关证据，如存款凭证、银行流水记录、继承关系证明等，以便在需要时提供给法院。

总结与建议：爷爷不可以私下取走父亲的存款，该行为涉嫌违法并侵犯了其他继承人的合法权益。如果发生此类情况，建议及时与其他继承人沟通并寻求法律帮助，以维护自身权益。如果您还有其他法律问题或需要进一步的法律建议，请随时向我咨询。