警察不向受害人出具行政处罚决定书是违法的。

在行政执法过程中，警察对违法行为人作出行政处罚决定后，应当及时向受害人或相关当事人出具行政处罚决定书。这是行政执法程序的重要组成部分，也是保障当事人合法权益的重要环节。行政处罚决定书是行政处罚的正式文书，具有法律效力，它载明了违法事实、处罚依据、处罚种类和幅度、处罚执行方式和期限、当事人享有的权利等内容。

如果警察未向受害人出具行政处罚决定书，就剥夺了当事人对行政处罚的知情权、申辩权和救济权等合法权益。当事人可以依法向上级公安机关或者有关部门投诉、举报，要求纠正违法行为，并追究相关责任人员的法律责任。

因此，警察在作出行政处罚决定后，必须依法向受害人或相关当事人出具行政处罚决定书，以确保行政执法的公正性和合法性。如果你遇到了警察未出具行政处罚决定书的情况，可以及时向相关部门反映，维护自己的合法权益。