普通老百姓确实可以起诉政府部门，这主要基于行政诉讼的相关法律规定。以下从多个角度为你详细分析：
一、法律依据
根据《中华人民共和国行政诉讼法》的相关规定，公民、法人或者其他组织认为行政机关和行政机关工作人员的行政行为侵犯其合法权益，有权依照本法向人民法院提起诉讼。这意味着，如果政府部门的具体行政行为（如行政处罚、行政许可、行政强制等）侵犯了你的合法权益，你完全有权向人民法院提起行政诉讼，要求法院对行政行为的合法性进行审查，并作出相应的判决。
二、起诉条件
要起诉政府部门，你需要满足以下条件：
- 原告资格：你必须是认为行政行为侵犯其合法权益的公民、法人或其他组织。
- 被告明确：你需要明确指出是哪个政府部门（或其工作人员）的行政行为侵犯了你的权益。
- 有具体的诉讼请求和事实根据：你需要明确提出你的诉讼请求（如撤销行政行为、赔偿损失等），并提供相应的事实根据来支持你的诉求。
- 属于人民法院受案范围和受诉人民法院管辖：你的起诉必须属于人民法院行政诉讼的受案范围，并且应向有管辖权的人民法院提起。
三、起诉流程
起诉政府部门的流程一般包括以下步骤：
- 准备起诉材料：包括起诉状、证据材料等。起诉状应载明原告和被告的基本信息、诉讼请求、事实和理由等内容。
- 向人民法院提交起诉材料：你可以直接向有管辖权的人民法院提交起诉材料，也可以通过邮寄、在线提交等方式进行。
- 人民法院审查：人民法院会对你的起诉材料进行审查，如果符合起诉条件，会予以立案；如果不符合起诉条件，会裁定不予受理。
- 开庭审理：如果立案成功，人民法院会安排开庭审理，双方当事人可以在法庭上陈述自己的意见和提供证据。
- 判决：人民法院会根据审理情况作出判决，判决结果可能包括撤销行政行为、确认行政行为违法、责令政府部门履行法定职责、赔偿损失等。
四、注意事项
在起诉政府部门时，你需要注意以下几点：
- 确保起诉材料的真实性和完整性：起诉材料是你向人民法院主张权利的重要依据，必须确保其真实性和完整性。
- 遵守法律程序和规定：在起诉过程中，你需要遵守法律程序和规定，如按时提交起诉材料、参加开庭审理等。
- 寻求专业法律帮助：由于行政诉讼涉及复杂的法律问题和程序，建议你寻求专业律师的帮助，以提高起诉的成功率和效率。
五、实际案例
在实际生活中，已经有许多普通老百姓成功起诉政府部门的案例。例如，某市民因认为政府部门的拆迁行为违法，向人民法院提起了行政诉讼。经过审理，人民法院认为政府部门的拆迁行为确实存在违法之处，于是判决撤销了该拆迁行为，并责令政府部门对市民进行相应的赔偿。
总结来说，普通老百姓在认为政府部门的行政行为侵犯其合法权益时，完全有权向人民法院提起行政诉讼。如果你在这方面遇到问题或有任何疑问，可以直接向我咨询，我会为你提供专业的法律帮助。