结论：对于老人去世后留下的5万元定期存款单，是否需要继承公证取决于银行的具体要求、继承人之间的协商情况以及遗产分配的复杂性。以下从不同角度为您详细分析：
一、不需要公证的情况
小额取款简化程序：
- 根据中国银保监会和中国人民银行的相关规定，对于已故存款人的小额存款（通常不超过1万元，但部分银行可能有所调整），继承人可以通过简化的取款程序办理，无需公证。
- 您需要准备的材料包括：老人的死亡证明、您与老人的亲属关系证明（如户口本、出生证明等）以及您本人的有效身份证件。
银行自行判断并认可：
- 对于超过小额标准但在5万元以下的遗产存款，如果银行通过内部审核流程能够确认您的继承人身份及继承的合法性，也可能允许您直接支取或过户，无需公证。
- 这通常需要您提供居委会或村委会出具的亲属关系证明、死亡证明等必要材料。
二、可能需要公证的情况
银行特定要求：
- 部分银行出于风险防控、合规管理等考虑，可能会要求无论金额大小，继承人都需要办理公证后才能支取或过户遗产存款。
- 在这种情况下，您需要按照银行的要求，前往公证处办理继承权公证，并提交相关证明材料。
存在争议或复杂情况：
- 如果继承人之间对遗产分配存在争议，或者存款涉及复杂的法律关系（如共有财产、遗嘱继承等），银行为了确保操作的合法性和安全性，可能会要求您提供公证文书。
- 公证文书的出具可以明确各继承人的权利和义务，避免潜在的纠纷和风险。
三、建议与注意事项
提前咨询银行要求：
- 在办理遗产继承手续前，建议您先咨询银行的具体要求，了解是否需要公证以及所需提供的证明材料。
准备必要证明材料：
- 无论是否需要公证，您都应准备好老人的死亡证明、亲属关系证明等一系列必要的证明材料，以便顺利办理继承手续。
协商解决争议：
- 如果继承人之间存在争议，应尽量通过协商的方式解决，以避免不必要的法律程序和费用支出。如果协商无果，可以考虑通过法律途径解决争议。
举例说明：假设您是老人的唯一子女，且银行对小额存款的简化取款程序上限为1万元，而您的存款为5万元。在这种情况下，如果银行认可您的继承人身份且没有其他特殊要求，您可能只需要提供死亡证明和亲属关系证明即可支取存款。但如果银行要求所有继承人都必须办理公证，或者继承人之间存在争议，那么您就需要按照银行或法律的要求办理继承权公证。
后续行动建议：如果您对是否需要公证仍有疑问，或者需要进一步的法律帮助，请直接向我咨询。我会根据您的具体情况，为您提供专业的法律建议和帮助。