对方的行为可能涉及违反合同约定及违反相关税务管理规定，具体分析如下：
违反合同约定：
- 根据《中华人民共和国民法典》的相关规定，合同是双方意思表示一致的协议，具有法律约束力。合同中明确约定了付款金额为4200元，但对方实际只支付了2200元，这明显违反了合同中的付款条款。
- 违约方应当承担继续履行、采取补救措施或者赔偿损失等违约责任。在此情况下，您有权要求对方按照合同约定支付剩余的款项，并可能要求对方承担因违约造成的其他损失。
违反税务管理规定：
- 发票的开具应当与实际交易金额相符。对方在实际付款2200元的情况下，也只开具了2200元的发票，虽然发票金额与实际付款金额一致，但这一行为背后可能隐藏着逃避税收监管的意图（如果合同金额4200元为含税价，而实际只按2200元申报纳税，则构成偷税行为）。特别是如果合同金额4200元是双方约定的真实交易金额，而对方通过少付款、少开票的方式试图减少应纳税额，那么这种行为就违反了税务管理规定。
- 根据《中华人民共和国税收征收管理法》的相关规定，纳税人必须依照法律、行政法规规定或者税务机关依照法律、行政法规的规定确定的申报期限、申报内容如实办理纳税申报。如果对方存在偷税行为，税务机关将依法进行处罚，包括追缴税款、加收滞纳金、处以罚款等。
建议措施：
- 首先，与对方进行沟通，明确指出其违反合同约定和可能存在的税务问题，要求对方按照合同约定支付剩余款项，并补开相应金额的发票（如果确实存在少开票的情况）。
- 如果沟通无果，您可以考虑通过法律途径解决合同纠纷，如向法院提起诉讼或申请仲裁，要求对方承担违约责任。
- 同时，如果您怀疑对方存在偷税行为，可以向当地税务机关举报，由税务机关依法进行调查处理。