结论前置：您使用同事的手机对公司电话辞退进行录音，在满足合法性、真实性和关联性的条件下，该录音可以作为证据使用，但通常需要与其他证据结合形成完整的证据链。
详细分析：
合法性：
- 录音的取得方式必须合法，不得通过严重侵害他人合法权益、违反法律禁止性规定或严重违背公序良俗的方法获取。在您的情况下，如果是通过同事的手机在公开场合或您有权进入的场所进行录音，且未侵犯他人隐私，那么该录音是合法的。但需注意，如果录音是在未经对方同意的情况下，在私密空间（如对方办公室）进行的，可能因侵犯隐私权而被视为非法证据。
- 合法录音的场景通常包括：在公开场合、您自己的办公场所，或在对方知情并同意的情况下进行的录音。例如，在接听公司电话时，明确告知对方正在录音，并征得对方同意（尽管实际操作中可能难以实现），这样的录音一般被认为是合法的。但更实际的做法是，在录音前尽量确保录音环境的公开性或自己有权录音。
真实性：
- 录音内容必须真实、完整，未经过剪辑、拼接、篡改等伪造行为。您应妥善保存原始录音文件，避免任何形式的修改，以证明录音的原始性和完整性。
- 如果对方当事人对录音的真实性提出质疑，可能需要通过司法鉴定等程序来进一步验证。因此，保留好原始录音载体至关重要。
关联性：
- 录音内容必须与辞退相关的争议事项具有直接关联，能够对案件事实起到证明作用。例如，录音中应包含公司辞退您的具体理由、沟通过程等关键信息。
- 如果录音内容与辞退争议无直接关联，即使录音是合法且真实的，也不能作为该案件的有效证据。
录音证据的证明力及应用：
- 录音证据属于间接证据，其证明力相对较弱。因此，在使用录音作为证据时，往往需要与其他证据（如书面辞退通知、聊天记录、工资发放记录、工作证、考勤记录等）相结合，形成完整的证据链，以增强其证明效果。
- 在实际劳动仲裁或诉讼过程中，仲裁员或法官将综合考虑录音的合法性、真实性和关联性，以及与其他证据的相互印证情况，来判断录音证据的证明力和可采性。
建议：
- 除了录音外，您还应尽量收集其他与辞退相关的证据，如书面辞退通知、聊天记录、工资发放记录等，以形成完整的证据链。
- 如果可能的话，在录音前尽量与对方沟通并告知录音事宜，以减少后续关于录音合法性的争议。
- 在使用录音作为证据时，务必确保其真实性和完整性，避免任何形式的修改或剪辑。
可能的法律后果：
- 如果录音证据被认定为合法、真实且与案件相关，那么它将在劳动仲裁或诉讼过程中发挥重要作用，有助于您维护自己的合法权益。
- 如果录音证据被认定为非法或存在瑕疵，那么它可能无法作为有效证据使用，甚至可能对您的案件产生不利影响。
综上所述，您使用同事的手机对公司电话辞退进行录音，在满足一定条件下可以作为证据使用。但请务必确保其合法性、真实性和关联性，并尽量与其他证据相结合使用，以确保您的主张得到有力支持。如果您有任何进一步的法律问题或需要更具体的法律建议，请随时向我咨询。