不正规的公司确实可以去劳动局投诉。具体来说，如果公司存在不签书面合同、随意变更或解除合同且程序不合法、克扣或拖欠工资、不支付加班费、低于最低工资标准发工资、不缴纳社保、不支付工伤等待遇、强迫加班且超过法定时长、不安排年假也不支付报酬、存在劳动安全隐患，或者对女职工和未成年工保护违法等情况，劳动者都可以带上合同、工资条等证据，到人社局（劳动局）进行投诉，以维护自己的合法权益。

不过需要注意的是，劳动局是行政部门，并非司法机关，所以不能直接“起诉”公司。如果遇到劳动纠纷，除了向劳动监察部门投诉外，还可以向劳动争议仲裁委员会申请仲裁，这是解决劳动纠纷的必经程序。如果不服仲裁结果，还可以在收到裁决书后的一定期限内向法院提起诉讼。