单位不上公积金是违法的。单位不办理住房公积金缴存登记的，或者不为本单位职工办理住房公积金账户设立手续的，由住房公积金管理中心责令限期办理；逾期不办理的，处1万元以上5万元以下的罚款。如果单位逾期不缴或者少缴职工的住房公积金的，由住房公积金管理中心责令限期缴存；逾期仍不缴存的，可以申请人民法院强制执行。具体法律依据如下：

1. 《住房公积金管理条例》第十四条：新设立的单位应当自设立之日起30日内向住房公积金管理中心办理住房公积金缴存登记，并自登记之日起20日内，为本单位职工办理住房公积金账户设立手续。单位合并、分立、撤销、解散或者破产的，应当自发生上述情况之日起30日内由原单位或者清算组织向住房公积金管理中心办理变更登记或者注销登记，并自办妥变更登记或者注销登记之日起20日内，为本单位职工办理住房公积金账户转移或者封存手续。
2. 《住房公积金管理条例》第三十七条：违反本条例的规定，单位不办理住房公积金缴存登记或者不为本单位职工办理住房公积金账户设立手续的，由住房公积金管理中心责令限期办理；逾期不办理的，处1万元以上5万元以下的罚款。
3. 《住房公积金管理条例》第三十八条：违反本条例的规定，单位逾期不缴或者少缴住房公积金的，由住房公积金管理中心责令限期缴存；逾期仍不缴存的，可以申请人民法院强制执行。

因此，单位应当依法为职工缴纳住房公积金，这是单位的法定义务。如果单位未履行这一义务，职工可以通过向住房公积金管理中心投诉等方式来维护自己的合法权益。如有进一步需要，您可以继续咨询我。