结论：公司对于劳动仲裁裁决结果不服的，在符合法定条件的情况下，是可以向法院提起诉讼的。但能否最终改变裁决结果，需视具体情况而定。

详细分析：

1. 公司上诉的权利：

   • 根据《中华人民共和国劳动争议调解仲裁法》的相关规定，劳动仲裁裁决并非终局裁决，对于非一裁终局的案件，如果公司对仲裁裁决结果不服，可以在收到裁决书之日起十五日内向人民法院提起诉讼。这意味着，公司确实拥有对仲裁裁决结果提出异议并寻求司法救济的权利。

2. 上诉的条件与限制：

   • 公司提起诉讼必须满足一定的条件，如必须在法定期限内提出、必须针对仲裁裁决中的具体事项提出异议等。如果公司未能在规定期限内提起诉讼，或者提出的异议不属于法院受理范围，那么其诉讼请求可能会被法院驳回。
   • 此外，如果仲裁裁决属于一裁终局的情形（如涉及追索劳动报酬、工伤医疗费、经济补偿或赔偿金等，且数额不超过当地月最低工资标准十二个月金额的争议），公司则不能向法院提起诉讼，而只能向中级人民法院申请撤销裁决。但根据您描述的情况，仲裁请求金额为2万多，通常不属于一裁终局的范畴，因此公司有权提起诉讼。

3. 诉讼的可能结果：

   • 公司提起诉讼后，法院将依法对案件进行审理，并根据事实和法律作出判决。如果法院认为仲裁裁决存在错误或不当之处，可能会撤销或变更裁决结果；如果法院认为仲裁裁决正确无误，则可能会维持原裁决。
   • 因此，公司能否最终改变仲裁裁决结果，取决于其提出的异议是否成立以及法院对案件的审理和判断。

4. 建议与注意事项：

   • 对于公司而言，在决定是否提起诉讼前，应仔细评估仲裁裁决的合理性以及自身提起诉讼的胜诉可能性。如果认为仲裁裁决存在明显错误或不当之处，且自身有充分的证据和理由支持其异议，那么可以考虑提起诉讼。
   • 同时，公司也应注意遵守法定期限和程序要求，确保提起诉讼的合法性和有效性。如果错过法定期限或违反程序要求，可能会导致其诉讼请求被法院驳回。

后续行动建议：

• 如果您作为公司方，对仲裁裁决结果不服并考虑提起诉讼，建议尽快咨询专业律师（如我），以便对案件进行全面评估和准备。
• 在提起诉讼前，应仔细收集、整理相关证据材料，并明确提出异议的具体事项和理由。
• 在诉讼过程中，应积极配合法院的审理工作，遵守法庭纪律和程序要求，以确保诉讼的顺利进行。

如有任何疑问或需要进一步的法律帮助，请随时向我咨询。