结论：对于低于5万元的存款且没有第一顺序继承人的情况，是否需要公证并非一概而论，而是取决于银行的具体要求、继承人之间的协商情况以及遗产分配的复杂性。不过，在多数情况下，如果符合小额存款简化提取的条件，是可以不需要公证的。
一、不需要公证的情况
小额存款简化提取：
- 根据《关于简化提取已故存款人小额存款相关事宜的通知》，自2021年3月1日起实施，已故存款人的第一顺序继承人（配偶、子女、父母）或公证遗嘱指定的继承人/受遗赠人，在账户余额合计不超过5万元（部分银行可能上调至更高限额，如10万元）的情况下，无需公证即可申请提取。
- 所需材料：通常包括死亡证明、亲属关系证明（如户口簿、结婚证、出生证明等）、承诺书（承诺为唯一继承人或已获其他继承人同意）以及本人有效身份证件。
无争议继承的直接办理：
- 若继承人之间对存款继承无争议，且能提供完整的证明材料（包括死亡证明、身份证明、亲属关系证明等），可直接向银行申请办理继承手续，无需公证。
二、可能需要公证的情况
银行特定要求：
- 部分银行出于风险防控、合规管理等考虑，可能会要求无论金额大小，继承人都需要办理公证后才能支取或过户遗产存款。在这种情况下，继承人应遵守银行的规定，办理相应的公证手续。
存在争议或复杂情况：
- 如果继承人之间对遗产分配存在争议，或者存款涉及复杂的法律关系（如共有财产、存在其他未明确的继承人等），银行为了确保操作的合法性和安全性，可能会要求提供公证文书。公证文书的出具可以明确各继承人的权利和义务，避免潜在的纠纷和风险。
三、建议与注意事项
提前咨询银行要求：
- 在办理遗产继承手续前，建议继承人先咨询银行的具体要求，了解是否需要公证以及所需提供的证明材料。不同银行可能有不同的规定和限额标准。
准备必要证明材料：
- 无论是否需要公证，继承人都应准备好被继承人的死亡证明、亲属关系证明等一系列必要的证明材料。这些材料是办理继承手续的基础。
协商解决争议：
- 如果继承人之间存在争议，应尽量通过协商的方式解决。协商不成时，可以考虑通过人民调解委员会调解或向法院提起诉讼来明确继承权。
考虑公证的稳妥性：
- 尽管在某些情况下可能不需要公证，但公证具有较高的法律效力，能够增强继承关系的公信力并减少后续纠纷的风险。如果继承人之间对遗产分配存在疑虑或担心未来可能出现纠纷，选择公证可能是一个更为稳妥的选择。
示例说明：假设张先生的父亲去世，留下了一笔4万元的银行存款，且张先生是唯一的第一顺序继承人。在这种情况下，如果张先生能够提供完整的证明材料（如死亡证明、户口簿等证明亲属关系的材料），并且银行没有特定要求需要公证，那么张先生可以直接向银行申请提取这笔存款而无需公证。但如果银行要求必须公证或者张先生与其他潜在继承人（如张先生的叔叔、姑姑等）之间存在争议，那么张先生就需要考虑办理公证手续或通过其他法律途径来解决继承问题。
后续思考依据：在处理类似问题时，继承人应充分考虑银行的具体要求、继承人之间的协商情况以及遗产分配的复杂性等因素。如果情况复杂或存在争议，建议咨询专业律师以获取更具体的法律建议和指导。作为林晏生律师，我擅长处理婚姻家庭、遗产继承领域的法律问题，如果你有任何疑问或需要进一步的帮助，请随时向我咨询。