行政机关对举报人购买的物品不可以随意扣押。下面我将从法律角度详细解释这一结论：

1. 法律依据：

   • 根据《中华人民共和国行政强制法》的相关规定，行政机关实施行政强制措施应当遵循法定原则，即必须有法律、法规的明确授权，并严格依照法律、法规规定的程序进行。
   • 扣押作为一种行政强制措施，其适用必须严格限于法律、法规规定的情形，并且需要遵循严格的程序要求。

2. 扣押的适用条件：

   • 扣押通常适用于涉嫌违法、违规的物品，且这些物品可能与案件的调查、处理有直接关系。
   • 在没有充分证据表明物品涉嫌违法、违规，或者物品与案件无直接关联的情况下，行政机关不得随意扣押。

3. 举报人的权利保护：

   • 举报人作为公民，其合法权益受法律保护。行政机关在处理举报事项时，应当尊重举报人的权利，不得无故侵犯其财产权。
   • 如果行政机关认为举报人购买的物品涉嫌违法、违规，需要扣押的，应当依法履行相关程序，并向举报人说明扣押的理由、依据以及扣押期限等。

4. 实践中的注意事项：

   • 在实际操作中，行政机关应当谨慎行使扣押权，确保扣押行为的合法性、合理性和必要性。
   • 如果行政机关违法扣押了举报人的物品，举报人有权依法申请行政复议或者提起行政诉讼，维护自己的合法权益。

综上所述，行政机关对举报人购买的物品不可以随意扣押，而应当严格依法行事，确保行政行为的合法性和正当性。如果你在这方面遇到了问题，可以直接向我咨询，我会为你提供专业的法律帮助。