不办营业证试营业三年是违法的。

根据《中华人民共和国市场主体登记管理条例》及相关法规，任何单位或个人在从事经营活动时，都必须依法取得营业执照。对于“无照经营”，即经营者依法应当取得营业执照而未取得，擅自从事经营活动的行为，是明确违反法律法规的。

在您所描述的情况下，如果某商家试营业三年而未办理营业执照，那么该行为就构成了无照经营。根据《无证无照经营查处办法》及相关法律规定，此类行为将由履行工商行政管理职责的部门进行查处，并可能面临一系列的法律责任，包括但不限于责令停止违法行为、没收违法所得，以及处以罚款等。

此外，值得注意的是，即使商家在试营业期间并未实际获得利润，或者只是以小规模、非正式的方式进行经营，这并不能成为免除其办理营业执照义务的理由。只要从事了经营活动，就必须依法办理相关证照，否则就将面临法律制裁。

因此，建议所有商家在从事经营活动前，务必了解并遵守相关法律法规，及时办理营业执照等必要证照，以确保自身经营的合法性和稳定性。