结论：老板的行为是不合法的，你有权要求老板按照法律规定支付你应得的工资，并且对于未签合同的情况，你还可以主张相应的权益。
详细分析：
关于离职申请与批准：
- 根据《劳动合同法》的相关规定，劳动者有权提前通知用人单位解除劳动合同。虽然未签订书面劳动合同，但口头约定或实际用工行为也构成劳动关系。你提出离职，老板应当予以批准，或者与你协商确定离职时间，而不能单方面强制你留下或扣工资。
关于扣工资：
- 老板以不批准离职或扣工资作为威胁，这是违法的。根据《劳动法》和《工资支付暂行规定》，用人单位不得克扣或者无故拖欠劳动者的工资。因此，老板扣你900元工资的行为是违法的，你有权要求老板全额支付。
关于未签合同：
- 根据《劳动合同法》的规定，用人单位自用工之日起超过一个月不满一年未与劳动者订立书面劳动合同的，应当向劳动者每月支付二倍的工资。因此，如果你在餐厅工作已经超过一个月且未签订书面劳动合同，你还有权要求老板支付未签合同期间的双倍工资差额。
建议行动：
与老板协商：
- 首先，你可以尝试与老板进行友好协商，明确表达你的离职意愿和要求支付应得工资的立场。同时，也可以提及未签合同可能带来的法律后果，以促使老板重视并解决问题。
收集证据：
- 如果协商无果，你需要开始收集相关证据，如工作证、工资条、考勤记录、同事证言等，以证明你与餐厅之间存在劳动关系以及你的工作情况和工资水平。
向劳动监察部门投诉或申请劳动仲裁：
- 你可以向当地的劳动监察部门投诉老板的违法行为，或者向劳动仲裁委员会申请劳动仲裁，要求老板支付应得工资和未签合同期间的双倍工资差额。在申请劳动仲裁时，你需要提交相关证据和仲裁申请书。
可能后果：
- 如果老板继续坚持违法行为，不支付你应得工资或拒绝与你签订书面劳动合同，他可能会面临劳动监察部门的处罚或劳动仲裁委员会的裁决，需要支付你应得工资、双倍工资差额以及可能的赔偿金。
额外提醒：
- 在处理此类劳动纠纷时，保持冷静和理性非常重要。尽量通过合法途径解决问题，避免采取过激行为或言语冲突。如果你对法律程序不熟悉或感到困惑，可以随时向我咨询，我会为你提供专业的法律建议和帮助。