结论：在协商离职时，员工有权索要未休年假的工资补偿和加班工资，用人单位应当依法支付。以下是对这一问题的详细分析：
一、未休年假的工资补偿
法律依据：
- 根据《职工带薪年休假条例》第五条：“单位确因工作需要不能安排职工休年休假的，经职工本人同意，可以不安排职工休年休假。对职工应休未休的年休假天数，单位应当按照该职工日工资收入的300%支付年休假工资报酬，其中包含用人单位支付职工正常工作期间的工资收入。”
计算方式：
- 未休年假工资的计算基数通常是员工本人的日工资收入。
- 计算公式为：未休年假工资 = 日工资收入 × 300% × 未休年假天数（其中，日工资收入已包含正常工作期间的工资，因此实际额外支付的是200%的日工资）。
- 例如，若员工日工资为200元，未休年假天数为5天，则未休年假工资为200元 × 200% × 5天 = 2000元（额外支付部分）。
注意事项：
- 用人单位与员工协商离职时，应就未休年假的工资补偿进行明确约定，并确保支付。
- 若用人单位未依法支付未休年假工资，员工有权向劳动监察部门投诉或提起劳动仲裁。
二、加班工资
法律依据：
- 根据《劳动法》第四十四条：“有下列情形之一的，用人单位应当按照下列标准支付高于劳动者正常工作时间工资的工资报酬：（一）安排劳动者延长工作时间的，支付不低于工资的百分之一百五十的工资报酬；（二）休息日安排劳动者工作又不能安排补休的，支付不低于工资的百分之二百的工资报酬；（三）法定休假日安排劳动者工作的，支付不低于工资的百分之三百的工资报酬。”
计算方式：
- 加班工资的计算基数通常是员工本人的小时工资或日工资收入。
- 延长工作时间的加班工资 = 小时工资 × 150% × 加班小时数。
- 休息日加班且不能安排补休的加班工资 = 日工资 × 200% × 加班天数。
- 法定休假日加班的加班工资 = 日工资 × 300% × 加班天数。
注意事项：
- 用人单位与员工协商离职时，应就加班工资进行明确核算，并确保支付。
- 员工应保留好加班的证据，如加班通知、考勤记录等，以便在协商或仲裁时证明自己的加班事实。
- 若用人单位未依法支付加班工资，员工同样有权向劳动监察部门投诉或提起劳动仲裁。
三、综合建议
协商离职时：
- 双方应就未休年假的工资补偿和加班工资进行明确约定，并写入离职协议中。
- 确保离职协议的内容合法、有效，并双方签字确认。
若发生争议：
- 员工应首先与用人单位进行协商，尝试通过友好方式解决争议。
- 若协商无果，员工可以向当地的劳动监察部门投诉或提起劳动仲裁，以维护自己的合法权益。
作为黄祖军律师，我专注于婚姻家庭、劳动纠纷领域，如果你在协商离职过程中遇到任何法律问题或需要进一步的法律帮助，请直接向我咨询。