超市的行为是违法的，以下从不同角度为你详细分析：
超市私自扣人的行为
法律定性：超市在未获得合法授权（如司法机关的拘留决定）的情况下，私自扣留顾客，限制其人身自由，这一行为涉嫌非法拘禁。根据《中华人民共和国刑法》的相关规定，非法拘禁他人或者以其他方法非法剥夺他人人身自由的，构成非法拘禁罪。虽然超市可能声称是为了调查或等待警方到来，但这并不能成为其非法拘禁的合法理由。
法律后果：如果超市的扣留行为情节严重，比如扣留时间较长、对顾客造成身体或心理伤害等，超市及其相关责任人员可能会面临刑事指控，承担刑事责任。即使情节较轻，不构成犯罪，超市也可能因违反《中华人民共和国治安管理处罚法》的相关规定，受到行政处罚，如罚款、拘留等。
超市向家人要钱的行为
法律定性：超市在未经顾客或其家人同意的情况下，以“偷东西”为由向家人索要钱财，这一行为涉嫌敲诈勒索。敲诈勒索是指以非法占有为目的，对被害人使用实施恐吓、威胁或要挟的方法，非法占用被害人公私财物，从而构成犯罪。超市的行为明显符合敲诈勒索的构成要件。
法律后果：如果超市的索要钱财行为情节严重，比如索要金额较大、对家人造成严重心理压力等，超市及其相关责任人员可能会面临刑事指控，承担敲诈勒索罪的刑事责任。即使情节较轻，不构成犯罪，超市也可能因违反《中华人民共和国治安管理处罚法》的相关规定，受到行政处罚。
顾客及家人的应对措施
保持冷静：在遇到此类情况时，顾客及家人应保持冷静，不要与超市发生直接冲突，以免激化矛盾。
及时报警：顾客或家人应立即向当地公安机关报案，说明情况，并请求警方介入调查。警方会依法对超市的行为进行调查处理，保护顾客的合法权益。
收集证据：在报警的同时，顾客及家人应尽可能收集相关证据，如超市的监控录像、目击者证言、与超市的沟通记录等，以便在后续的法律程序中证明超市的违法行为。
寻求法律帮助：如果顾客或家人认为自己的权益受到了侵害，可以寻求专业律师的帮助，通过法律途径维护自己的合法权益。
总结来说，超市在未经合法授权的情况下私自扣留顾客并向其家人索要钱财的行为是违法的。顾客及家人在遇到此类情况时，应保持冷静、及时报警、收集证据并寻求法律帮助。如果你或你的家人遇到了类似的问题，可以直接向我咨询，我会为你提供专业的法律建议和帮助。