结论：不开票让对方退款是否违法需分情况讨论，可能涉及行政违法或刑事犯罪，具体取决于行为性质和金额大小。以下从不同角度展开分析：

1. 行政违法角度
   根据《中华人民共和国发票管理办法》第十九条，销售商品、提供服务或从事其他经营活动的单位和个人，对外发生经营业务收取款项时，收款方应当向付款方开具发票。若收款方未履行开票义务，税务机关可依据《发票管理办法》第三十五条责令改正，并处1万元以下罚款；若存在偷税行为（如隐匿收入未申报），税务机关将追缴税款、加收滞纳金，并处不缴或少缴税款50%至5倍的罚款。
   关键点：未开票本身不直接导致退款违法，但若以“不开票”为条件要求退款，可能被认定为逃避纳税义务，面临行政处罚。

2. 刑事犯罪角度
   若收款方通过“不开票”手段隐匿收入，且达到刑事立案标准（如逃税数额占应纳税额10%以上且超过10万元），可能构成《刑法》第二百零一条的逃税罪。此时，即使对方同意退款，若税务机关已掌握逃税证据，仍可能追究刑事责任。
   例外情形：若双方因合同纠纷（如服务质量不达标）协商退款，且与开票无关，则不涉及刑事风险。

3. 民事合同角度
   从民事法律关系看，开票是收款方的附随义务，但退款需基于合同解除、违约等法定或约定事由。若对方以“不开票”为由拒绝付款，但合同未明确约定开票与付款的先后顺序，收款方有权要求对方继续履行付款义务；若合同明确约定“先开票后付款”，则对方有权暂缓支付直至开票完成。
   实务建议：双方应优先通过协商解决争议，若协商不成，可依据合同条款或《民法典》第五百七十七条（违约责任）向法院起诉。

总结：

• 若“不开票”是退款的条件或目的，且涉及偷逃税款，可能面临行政处罚或刑事责任；
  
• 若退款与开票无关（如合同履行瑕疵），则属于民事纠纷，需按合同约定或法律规定处理。
  建议根据具体情形评估风险，必要时可提供合同、交易记录等材料进一步分析。