偷越国边境行政案件主要由公安机关负责办理。

具体来说，根据《中华人民共和国刑事诉讼法》的相关规定，刑事案件的侦查由公安机关进行，法律另有规定的除外。偷越国边境行为，若触犯刑事法律法规，构成偷越国边境罪，则由公安机关负责立案侦查。公安机关调查清楚以后，审查起诉权在人民检察院，最终由管辖法院根据案情和行为人的实际情况依法做出判决处理。

因此，对于偷越国边境行政案件，公安机关是主要的办案部门。如果您或他人涉及此类案件，建议及时向当地公安机关咨询或配合其调查处理。