非法居留的外国人确实有权进行申诉或复议，但具体能否成功以及后续的处理方式，需根据具体情况和相关法律规定来综合判断。以下是从不同角度对此问题的详细分析：

1. 申诉与复议的权利基础：

   • 根据我国相关法律规定，对于行政机关作出的具体行政行为，如非法居留的处罚决定，当事人（包括外国人）通常有权提出申诉或申请行政复议。这是当事人维护自身合法权益的一种重要途径。

2. 申诉与复议的适用情形：

   • 申诉：通常指向作出处罚决定的行政机关或其上级机关提出，要求重新审查处罚决定的合法性、合理性。申诉的期限和程序可能因具体规定而异，但一般要求当事人在知道处罚决定后的一定期限内提出。
   • 复议：则是指向有管辖权的行政复议机关（如上级公安机关出入境管理机构）提出，要求复议机关对原处罚决定进行全面审查，并作出复议决定。复议决定具有法律效力，当事人必须履行，除非依法提起行政诉讼。

3. 非法居留的具体处理：

   • 对于非法居留的外国人，公安机关出入境管理机构有权依法作出处罚决定，如警告、罚款、拘留或限期出境等。若外国人认为处罚决定不当或违法，可以在规定期限内提出申诉或申请复议。
   • 在申诉或复议过程中，外国人需要提供相关证据和理由，以支持其主张。复议机关将依法对原处罚决定进行审查，并根据审查结果作出复议决定。

4. 可能的法律后果：

   • 如果复议机关认为原处罚决定合法、适当，将维持原处罚决定。此时，外国人必须履行处罚决定，否则可能面临更严重的法律后果，如强制出境等。
   • 如果复议机关认为原处罚决定违法或不当，将撤销或变更原处罚决定。此时，外国人可能免于或减轻处罚，并有权要求赔偿因非法处罚造成的损失（如果适用）。

5. 实际操作建议：

   • 对于非法居留的外国人来说，如果面临处罚决定并希望提出申诉或复议，建议尽快咨询专业律师（如我，刘锐律师，专注于涉外法律、合资合作领域），以了解具体程序和要求。
   • 在提出申诉或复议时，外国人应准备充分的证据和理由，以支持其主张。同时，应遵守相关法律法规和程序要求，确保申诉或复议的合法性和有效性。

总结来说，非法居留的外国人确实有权进行申诉或复议，但具体能否成功以及后续的处理方式需根据具体情况和相关法律规定来综合判断。如果你或你身边的人面临此类问题，欢迎直接向我咨询，我将提供专业的法律意见和帮助。