退伍军人在公益岗位上也可以与其他单位形成劳动关系。不过，具体的情况需要根据实际的工作安排、合同内容以及相关法律法规来确定。

1. 公益岗位的性质：公益岗位通常是由政府或相关机构为了促进就业、服务社区而设立的，具有一定的公益性质。退伍军人参与公益岗位，并不意味着他们就不能与其他单位建立劳动关系。

2. 劳动关系的判断标准：劳动关系的建立并不完全取决于岗位的性质，而是更多地依赖于双方的实际工作内容、管理方式、报酬支付等因素。如果退伍军人在公益岗位之外，还与其他单位存在明确的工作职责、接受该单位的管理、并从该单位获取报酬，那么就很可能构成劳动关系。

3. 法律法规的支持：根据《中华人民共和国劳动合同法》等相关法律法规，劳动者有权与多个用人单位建立劳动关系，只要这种劳动关系不违反法律、法规的强制性规定，且不损害各方当事人的合法权益。

4. 特殊情况的处理：当然，如果退伍军人在公益岗位上的工作性质、时间等与其他单位的工作存在冲突，或者违反了相关法律法规、政策规定，那么这种劳动关系可能会受到一定的限制或禁止。

综上所述，退伍军人在公益岗位上确实有可能与其他单位形成劳动关系，但具体是否构成劳动关系，还需要根据实际情况进行综合判断。如果你在这方面有具体的疑问或需要进一步的法律帮助，请随时向我咨询。