关于受害人起诉被告人家属签署诈骗案担保协议的效力问题，需分情况讨论：
若担保协议系被告人家属自愿签署，且内容合法：
- 协议有效：根据《民法典》的相关规定，民事主体从事民事活动，应当遵循自愿原则，且不得违反法律、行政法规的强制性规定，不得违背公序良俗。若被告人家属在签署担保协议时，系出于自愿，且协议内容未违反法律法规的强制性规定，也未违背公序良俗，那么该担保协议在法律上是有效的。这意味着，在被告人无法履行债务或承担法律责任时，受害人有权要求被告人家属按照担保协议的约定承担相应的担保责任。
若担保协议存在欺诈、胁迫等情形：
- 协议可撤销：根据《民法典》的规定，一方以欺诈、胁迫的手段，使对方在违背真实意思的情况下实施的民事法律行为，受欺诈方或受胁迫方有权请求人民法院或者仲裁机构予以撤销。若被告人家属在签署担保协议时，受到了欺诈或胁迫，导致其在违背真实意思的情况下签署了协议，那么该协议在法律上是可以被撤销的。一旦协议被撤销，受害人便无法再要求被告人家属承担担保责任。
若担保协议内容违法或违背公序良俗：
- 协议无效：根据《民法典》的规定，违反法律、行政法规的强制性规定的民事法律行为无效，但是，该强制性规定不导致该民事法律行为无效的除外。违背公序良俗的民事法律行为同样无效。若担保协议的内容违反了法律法规的强制性规定，或者违背了公序良俗，那么该协议在法律上是无效的。无效的协议自始没有法律约束力，受害人无法依据该协议要求被告人家属承担担保责任。
若被告人家属并非担保协议的适格主体：
- 协议可能无效：在某些情况下，被告人家属可能并非担保协议的适格主体。例如，若被告人家属为未成年人或无民事行为能力人，那么其签署的担保协议在法律上可能是无效的。因为未成年人或无民事行为能力人缺乏相应的民事行为能力，无法独立承担民事责任。
法律建议：
- 对于受害人而言，在起诉前应仔细审查担保协议的内容及其签署过程，确保协议的有效性。若发现协议存在欺诈、胁迫等情形，或者内容违法、违背公序良俗，应及时向法院提出撤销或确认无效的申请。
- 对于被告人家属而言，在签署担保协议前应充分了解协议的内容及其法律后果，确保自己的签署行为是自愿且合法的。若发现自己是在受到欺诈或胁迫的情况下签署的协议，应及时向法院提出撤销申请。
可能后果：
- 若担保协议有效，被告人家属可能需要按照协议的约定承担相应的担保责任。
- 若担保协议被撤销或确认无效，被告人家属则无需承担担保责任。但需注意，若因被告人家属的过错导致协议被撤销或确认无效，其可能需承担相应的过错责任。
如有任何疑问或需要进一步的法律帮助，请随时向我咨询。