公职人员利用职务之便窃取他人财物5000元，构成贪污罪或职务侵占罪，应依法追究其刑事责任。具体来说：

1. 法律定性：

   • 根据《中华人民共和国刑法》的相关规定，公职人员利用职务上的便利，侵吞、窃取、骗取或者以其他手段非法占有公共财物的，构成贪污罪。若该公职人员窃取的是非公共财物，但利用其职务之便，则可能构成职务侵占罪。
   • 在此案例中，公职人员利用职务之便窃取他人财物5000元，无论该财物是公共财物还是非公共财物，其行为均触犯了刑法，应依法追究其刑事责任。

2. 法律责任：

   • 若构成贪污罪，根据贪污数额和情节，公职人员可能面临有期徒刑、拘役、罚金或者没收财产的刑罚。具体刑罚由法院根据案件具体情况判决。
   • 若构成职务侵占罪，同样根据侵占数额和情节，公职人员也可能面临相应的有期徒刑、拘役等刑罚。

3. 处理程序：

   • 该案件应由检察机关或监察机关立案调查，收集证据，确认事实。
   • 调查结束后，若证据确凿，检察机关将提起公诉，由法院依法审理并判决。
   • 在整个处理过程中，公职人员的合法权益也应得到保障，确保其享有申辩和辩护的权利。

综上所述，公职人员利用职务之便窃取他人财物5000元，应依法追究其刑事责任，并根据具体情节和数额判处相应的刑罚。如有进一步的法律问题或需要更详细的解释，请直接向我咨询。