老师私底下开辅导班，在多数情况下是违法的，尤其是针对在职中小学教师。这一行为违反了相关法律法规和师德师风，并可能破坏教育公平。以下是对此问题的详细分析：
在职中小学教师的情况：
- 轻微违规情形：在职中小学教师若仅利用业余时间为学生提供个别辅导，未收取费用或仅收取少量成本费，且未对正常教学秩序造成干扰，虽未构成违法，但违反了《中小学教师职业道德规范》及地方教育部门规定，可能面临学校或教育主管部门的批评教育、诫勉谈话等处理。
- 严重违规乃至违法情形：若在职教师以盈利为目的，大规模招收学生，收取高额学费，形成商业化办学模式；或将大量精力投入辅导班，导致学校教学质量下降；或利用学校资源为辅导班服务，则违反了《中华人民共和国教育法》、《中华人民共和国教师法》、《教师资格条例》等法律法规。教育行政部门可根据情节轻重，给予警告、罚款、撤销教师资格等处罚；构成犯罪的，依法追究刑事责任。
非在职教师或其他教育工作者的情况：
- 合法办学情形：非在职教师或教育工作者，在具备办学资质（如办学许可证、教师资格证）、办学场所符合安全卫生标准、教学内容合法合规的前提下，办理辅导班是合法的。但需向教育、工商等部门申请登记，办理审批手续，依法纳税，并遵守教育教学规范。
- 非法办学情形：若无合法办学资质，或存在虚假宣传、违规收费、教学质量不达标等问题，相关部门可责令停止办学、退还学费、罚款；给学生造成损失的，还需承担赔偿责任。
综上所述，老师私底下开辅导班的行为需谨慎对待。在职中小学教师应严格遵守相关法律法规和职业道德准则，避免私自举办辅导班带来的不良后果。退休教师或非在职教师在满足一定条件下可以合法开办辅导班，但也需确保符合相关法律法规的要求。如有任何疑问或需要进一步的法律咨询，请直接向我提问。