当行政机关出现违法行为并造成损失时，这是一个涉及法律权益保障和行政责任追究的重要问题。以下是我为您提供的详细解答：
一、确认行政机关行为是否违法
首先，需要明确的是，要确认行政机关的行为是否确实违法。这通常需要对行政行为的事实认定、法律适用以及程序合法性等方面进行全面审查。如果确认行政机关的行为违法，那么接下来就可以依据相关法律法规来处理。
二、处理方式及法律依据
行政复议与行政诉讼
行政复议：如果您认为行政机关的具体行政行为侵犯了您的合法权益，可以向上一级行政机关或同级人民政府申请行政复议。行政复议的申请期限一般为自知道具体行政行为之日起60日内（特殊规定除外）。通过行政复议，您可以要求行政机关重新审查其决定，并可能获得撤销或变更原决定的结果。
行政诉讼：如果您对行政复议的结果不满意，或者认为行政机关的行为严重侵犯了您的权益，您可以依法向人民法院提起行政诉讼。行政诉讼的起诉期限为自知道或应当知道行政行为之日起六个月内（法律另有规定的除外）。在行政诉讼中，法院将审理行政行为的合法性，并作出相应的判决。
行政赔偿
根据《中华人民共和国国家赔偿法》的规定，如果行政机关及其工作人员在行使行政职权时侵犯了您的合法权益并造成损害，您有权获得赔偿。赔偿范围包括直接损失和间接损失（在法律规定的范围内），如财产损失、人身伤害赔偿等。
赔偿程序通常包括：您应先向赔偿义务机关（即违法的行政机关）提出赔偿请求，也可以在申请行政复议或提起行政诉讼时一并提出。赔偿义务机关在收到赔偿请求后，应在规定期限内作出赔偿决定。如果您对赔偿决定不满意，还可以依法提起诉讼。
追究行政机关工作人员的责任
纠正错误与公开道歉
行政机关应及时纠正其违法行为，并采取措施防止类似事件再次发生。例如，撤销违法的行政决定、恢复受害人的合法权益等。
在某些情况下，行政机关可能需要向您或公众公开道歉，并承诺采取措施进行整改。这有助于增强行政机关的透明度和公信力。
三、监督与改正机制
除了上述处理方式外，还有上级行政机关与监察机关的监督机制来确保行政机关依法履行职责。上级行政机关对下级行政机关的行政管理活动进行监督，确保行政行为的合法性与合理性；监察机关则对所有行使公权力的公职人员进行监察，调查职务违法和职务犯罪。
四、建议与行动
如果您认为行政机关的行为违法并造成了损失，我建议您首先收集相关证据，如行政决定书、损失证明等。
然后，您可以根据具体情况选择申请行政复议或提起行政诉讼来维护自己的权益。
同时，您也可以向监察机关或上级行政机关举报违法行政行为，要求他们进行调查和处理。
总之，当行政机关违法行使职权并造成损失时，您有权依据相关法律法规来维护自己的合法权益。希望以上解答能对您有所帮助。如果您还有其他问题或需要进一步的帮助，请随时告诉我。