给钱不给发票或收据是违法的。以下是对此问题的详细解答：

一、法律依据

1. 《中华人民共和国发票管理办法》第十九条明确规定，销售商品、提供服务以及从事其他经营活动的单位和个人，在对外发生经营业务收取款项时，收款方有义务向付款方开具发票。

2. 《中华人民共和国发票管理办法》第三十五条进一步规定，如果应当开具而未开具发票，或者未按照规定的时限、顺序、栏目，全部联次一次性开具发票，或者未加盖发票专用章，税务机关将责令改正，并可处以1万元以下的罚款；有违法所得的还将予以没收。

3. 《中华人民共和国税收征收管理法》第二十一条也强调，单位、个人在购销商品、提供或者接受经营服务以及从事其他经营活动中，应当按照规定开具、使用、取得发票。

4. 《中华人民共和国消费者权益保护法》第二十二条则规定，经营者提供商品或者服务时，应当按照国家有关规定或者商业惯例向消费者出具发票等购货凭证或者服务单据。消费者索要这些凭证时，经营者必须出具。

二、不开发票的法律后果

1. 对商家的处罚：如果商家拒绝开具发票，将面临税务机关的处罚，包括责令改正、罚款以及没收违法所得等。这不仅会影响商家的声誉，还可能对其经营造成实质性的经济损失。

2. 对消费者的权益保护：发票是消费者维权的重要证据之一。没有发票，消费者在维权时将面临举证困难的问题。同时，没有发票也可能影响消费者享受相关的售后服务或保修权益。因此，消费者有权要求商家开具发票，以保障自己的合法权益。

三、应对建议

在实际生活中，如果遇到商家拒绝开具发票的情况，消费者可以采取以下措施来维护自己的合法权益：

1. 当场提出要求：在付款时，应主动向商家提出开具发票的要求，并明确告知商家如果不开发票将采取进一步的维权措施。

2. 保留相关证据：如果商家拒绝开具发票，消费者应保留好相关的交易凭证（如收据、小票、转账记录等），以便后续维权时使用。

3. 向税务部门或消费者协会投诉：如果商家坚持不开发票，消费者可以向当地的税务部门或消费者协会投诉举报，让相关部门介入处理。这样不仅可以维护自己的权益，还能对商家的违法行为进行打击和制裁。

综上所述，给钱不给发票或收据是违法的。消费者有权要求商家开具发票，并应采取相应措施来维护自己的合法权益。