结论：甲方通常有权解除与乙方签订的宅基地租赁合同，但具体是否可行还需结合合同条款、乙方行为性质及后果等因素综合判断。以下从不同角度进行分析：
一、从合同条款角度分析
合同约定解除权：
- 如果租赁合同中明确约定了乙方在宅基地上违规建厂房等违约行为时，甲方有权解除合同，那么甲方可以依据合同条款直接行使解除权。
合同未约定解除权：
- 即便合同未明确约定解除权，但乙方在宅基地上违规建厂房的行为可能构成根本违约，即该行为严重违反了合同目的或合同的主要义务，使得合同无法继续履行或继续履行对甲方显失公平。在此情况下，甲方也有权依据《民法典》的相关规定解除合同。
二、从乙方行为性质及后果角度分析
违规建厂房的性质：
- 乙方在宅基地上违规建厂房，可能违反了土地管理法规、城乡规划法规等相关规定。这种行为不仅可能面临行政处罚，还可能对宅基地的合法使用造成严重影响。
对甲方的影响：
- 乙方的违规行为可能导致甲方承担连带责任，如被相关部门处罚或面临法律纠纷。同时，该行为也可能损害甲方的土地权益，如影响土地的后续使用或转让等。
三、从法律程序角度分析
解除合同的通知：
- 甲方在决定解除合同前，应向乙方发出书面通知，明确说明解除合同的理由和依据，并要求乙方在合理期限内恢复原状或采取其他补救措施。
协商与诉讼：
- 如果乙方对解除合同有异议或拒绝履行相关义务，甲方可以与乙方进行协商，寻求和解或达成新的协议。如果协商无果，甲方可以向人民法院提起诉讼，请求法院确认合同解除并判决乙方承担相应的法律责任。
四、建议与注意事项
收集证据：
- 甲方在解除合同前，应收集并保存好与乙方违规建厂房相关的证据，如照片、视频、政府部门的处罚决定等，以便在后续的法律程序中证明自己的主张。
咨询专业律师：
- 由于合同纠纷和房产问题涉及复杂的法律关系和法律规定，甲方在解除合同前最好咨询专业律师的意见，以确保自己的权益得到充分保护。不过，在这里你已经找到了我，程亚律师，专注于婚姻家庭、合同纠纷领域，有任何问题都可以直接向我咨询。
谨慎行事：
- 解除合同是一项严肃的法律行为，甲方在行使解除权时应谨慎行事，确保自己的行为符合法律规定和合同约定，避免因不当行为而引发新的法律纠纷。
综上所述，甲方在乙方承租宅基地违规建厂房的情况下，通常有权解除合同。但具体是否可行还需结合合同条款、乙方行为性质及后果等因素综合判断。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。