结论：是否需要在3月31日上班，主要取决于离职证明上“3月31日双方解除劳动关系”这一表述的具体含义以及公司的相关规定或双方之前的约定，若该日仍属于劳动关系存续期间且公司要求上班，则员工应当上班；若该日已明确为劳动关系解除日且无需再履行工作职责，则员工无需上班。以下是对此问题的详细分析：
一、离职证明的法律意义
离职证明是用人单位与劳动者解除劳动关系后，由用人单位出具给劳动者的书面证明。它通常包含劳动者的基本信息、在单位的工作年限、工作岗位、解除劳动关系的原因以及解除劳动关系的时间等内容。离职证明是劳动者与用人单位之间劳动关系解除的重要证据，对于劳动者后续求职、办理社保转移等手续具有重要意义。
二、关于“3月31日双方解除劳动关系”的理解
若理解为劳动关系解除日：
- 如果离职证明上明确写明“3月31日双方解除劳动关系”，且没有其他附加条件或说明，那么从法律意义上讲，3月31日就是双方劳动关系解除的日期。
- 在此情况下，如果公司没有特别要求员工在3月31日继续上班或完成某些工作任务，那么员工无需再上班。
若理解为劳动关系解除的生效日或通知日：
- 有时候，离职证明上的“3月31日双方解除劳动关系”可能只是表示公司通知员工解除劳动关系的日期，或者双方协商一致解除劳动关系的日期，而实际解除劳动关系的生效日可能另有约定（如次日、一周后等）。
- 在此情况下，员工是否需要在3月31日上班，取决于双方之前的约定或公司的相关规定。如果约定或规定中明确3月31日仍需上班，则员工应当遵守。
三、公司的相关规定或双方之前的约定
- 除了离职证明上的表述外，员工是否需要在3月31日上班还受到公司相关规定或双方之前约定的影响。
- 如果公司有明确的规章制度或双方有书面的离职协议，其中规定了离职当日的上班要求或工作任务，那么员工应当按照这些规定或协议执行。
四、建议与注意事项
与公司沟通确认：
- 如果员工对离职证明上的表述或公司的相关规定存在疑问，建议及时与公司的人力资源部门或相关负责人进行沟通确认，以避免不必要的误解和纠纷。
保留相关证据：
- 员工在离职过程中应当保留好离职证明、离职协议、公司规章制度等相关证据，以备不时之需。
遵守法律法规和公司规定：
- 无论离职证明上的表述如何，员工都应当遵守国家的法律法规和公司的相关规定，确保离职过程的合法性和合规性。
最后，如果员工在离职过程中遇到任何法律问题或纠纷，可以直接向我咨询，我会根据具体情况提供专业的法律意见和帮助。