结论：工作两年后参军退役，新单位不给算以前的两年工龄，这一做法通常是不合法的，但具体还需根据实际情况和相关规定来判断。以下从多个角度进行分析：
一、法律法规依据
《中华人民共和国兵役法》：该法规定，义务兵和士官服现役期间，入伍前是机关、团体、企业事业单位工作人员或者职工的，服役期间保留人事关系或者劳动关系；退出现役后可以选择复职复工。这意味着，参军前的工龄应当得到保留，并在退役后继续计算。
《退役士兵安置条例》：该条例也明确规定，退役士兵服现役年限计算为工龄，与所在单位工作年限累计计算，享受国家和所在单位规定的与工龄有关的相应待遇。这进一步确认了参军前的工龄应当在新单位得到认可。
二、可能的情况分析
新单位不了解或误解相关政策：有些单位可能对兵役法和退役士兵安置条例的相关规定不了解，或者存在误解，导致错误地认为参军前的工龄不应计算。在这种情况下，你可以向新单位提供相关法律法规的依据，要求其纠正错误做法。
新单位存在故意刁难或违规操作：虽然这种情况较为少见，但也不能完全排除。如果新单位明知相关政策却故意不执行，或者以其他理由拒绝计算参军前的工龄，你可以向当地劳动监察部门投诉，或者通过法律途径维护自己的合法权益。
三、建议措施
与新单位沟通协商：首先，你可以尝试与新单位的人力资源部门或相关负责人进行沟通协商，明确表达你的诉求和依据，要求其按照法律法规的规定计算你的工龄。
收集证据材料：为了支持你的诉求，你可以收集参军前的劳动合同、工资单、社保缴纳记录等证据材料，以及退役后的相关证明文件，如退役证、安置介绍信等。
寻求法律援助或投诉：如果沟通协商无果，你可以向当地劳动监察部门投诉，或者咨询专业律师（当然，你可以直接向我咨询），通过法律途径维护自己的合法权益。在投诉或起诉时，你需要提供充分的证据材料来支持你的诉求。
四、法律后果
如果新单位违反相关法律法规的规定，拒绝计算参军前的工龄，可能会面临劳动监察部门的处罚，如罚款、责令改正等。同时，你也可能因此遭受经济损失，如工龄工资减少、社保缴纳年限不足等。在这种情况下，你有权要求新单位进行赔偿。
总结与建议：工作两年后参军退役，新单位不给算以前的两年工龄，这一做法通常是不合法的。你可以先与新单位沟通协商，明确表达你的诉求和依据；如果沟通无果，可以收集证据材料并向当地劳动监察部门投诉或咨询专业律师（直接向我提问即可）。在维护自己合法权益的同时，也要注意保留好相关证据材料以备不时之需。