结论：您原本在单位上班工作4年后被判刑，回来后原来工作的4年是否算工龄，需分情况讨论，一般情况下，若未被开除，则算工龄；若被开除，则不算工龄。以下为详细分析：
一、未被开除的情况
法律依据与解释：
- 根据《劳动部办公厅对“关于除名职工重新参加工作后工龄计算有关问题的请示”的复函》（劳办发[1995]179号）的规定，对于因违法违纪行为被判处刑罚的职工，如果未被开除公职，其服刑期间不计算连续工龄，但服刑前后的工龄可以合并计算。这意味着，如果您在服刑期间未被原单位开除，那么您服刑前在单位工作的4年工龄是有效的，可以与服刑后的工龄合并计算。
实际操作建议：
- 在这种情况下，您应尽快与原单位联系，确认您的劳动关系状态。如果原单位未对您进行开除处理，您可以要求原单位出具相关证明，以便在后续的工作或社保办理中证明您的工龄。
二、被开除的情况
法律依据与解释：
- 同样根据上述复函的规定，如果职工因违法违纪行为被判处刑罚并被开除公职，那么其服刑前后的工龄将不能合并计算。这意味着，如果您在服刑期间被原单位开除，那么您服刑前在单位工作的4年工龄将不被认可。
实际操作建议：
- 如果您被原单位开除，那么您需要重新开始计算工龄。在这种情况下，您可能需要寻找新的工作单位，并在新单位重新建立劳动关系。同时，您也可以考虑通过社保部门了解您的社保缴纳情况，以便在需要时提供证明。
三、特殊情况与注意事项
特殊情况：
- 如果您在服刑期间表现良好，获得了减刑或假释等优惠待遇，并且原单位愿意重新接纳您，那么您可能有机会恢复与原单位的劳动关系。在这种情况下，您需要与原单位协商并达成一致意见，以便重新计算工龄。
注意事项：
- 无论您是否被开除，都需要妥善保管好与原单位的相关证明文件，如劳动合同、工资单、社保缴纳记录等。这些文件将在您后续的工作或社保办理中发挥重要作用。
- 如果您对原单位的处理决定有异议，可以通过法律途径维护自己的合法权益。例如，您可以向劳动争议仲裁委员会申请仲裁或向人民法院提起诉讼。
最后，工龄的计算是一个复杂而重要的问题，它关系到您的社保待遇、工资福利等多个方面。因此，我建议您在处理此类问题时务必谨慎对待，并咨询专业人士的意见。如果您有任何疑问或需要进一步的法律帮助，请直接向我咨询。