在农村公路边开小卖部是否违法，不能一概而论，需要分情况讨论：

1. 土地性质与规划合规性
   根据《土地管理法》及《城乡规划法》，农村土地分为农用地、建设用地和未利用地。若小卖部占用的是农用地（如耕地、林地），则属于违法行为，因为农用地未经批准不得擅自改变用途用于非农建设。若占用的是宅基地或集体建设用地，且符合当地土地利用总体规划和村庄规划，则可能合法。
   建议：开店前需向当地自然资源部门（原国土局）确认土地性质，并办理用地审批手续。

2. 经营许可与证照齐全
   即使土地性质合规，开小卖部还需办理营业执照、食品经营许可证（如销售食品）等证照。根据《无证无照经营查处办法》，未取得证照擅自经营可能面临罚款、没收违法所得等处罚。
   建议：向当地市场监管部门咨询具体证照要求，确保合法经营。

3. 公路用地与安全距离
   若小卖部紧邻公路，需注意是否占用公路用地（如公路两侧控制区）。根据《公路安全保护条例》，在公路建筑控制区内（一般为公路用地外缘起向外一定距离，具体由省级政府规定）禁止修建建筑物或地面构筑物。若占用公路用地或违反安全距离规定，可能被要求拆除。
   建议：向当地交通部门确认公路用地范围及安全距离要求。

4. 环保与消防要求
   小卖部可能产生垃圾、噪音等，需符合环保要求。同时，根据《消防法》，人员密集场所需配备消防设施并符合消防安全标准。若未达标，可能面临整改或处罚。
   建议：开店前向当地环保和消防部门咨询具体要求。

总结与建议：

• 先确认土地性质是否合规，办理用地审批；
  
• 依法办理营业执照、食品经营许可证等证照；
  
• 确保不占用公路用地或违反安全距离规定；
  
• 符合环保和消防要求。
  

若已开店但存在上述问题，建议尽快整改或咨询相关部门，避免法律风险。如有进一步疑问，可直接向我咨询。