是的，通常情况下，在甲方购买乙方东西并付款后，是由乙方开具发票给甲方。这是基于我国税收管理和发票管理的基本规定，以下从不同角度为你详细分析：

一、法律规定角度

根据《中华人民共和国发票管理办法》的相关规定，销售商品、提供服务以及从事其他经营活动的单位和个人，对外发生经营业务收取款项，收款方应当向付款方开具发票。这意味着，在甲方购买乙方商品并付款的交易中，乙方作为收款方，有义务向甲方开具发票。

二、交易习惯角度

在商业交易中，开具发票是交易双方确认交易完成、履行纳税义务的重要环节。甲方付款后，乙方开具发票不仅是对交易行为的正式确认，也是甲方进行财务核算、税务申报的依据。因此，从交易习惯的角度来看，乙方开具发票给甲方也是符合商业惯例的。

三、特殊情况说明

虽然通常情况下是由乙方开具发票给甲方，但也存在一些特殊情况。例如，如果双方在合同中明确约定了由甲方自行开具发票（这种情况较为少见，且通常涉及特定的税务筹划或交易安排），或者乙方因特殊原因无法开具发票（如乙方为小规模纳税人且未达到起征点，但这种情况也需根据具体税务规定处理），则可能不遵循这一常规做法。然而，在大多数情况下，这些特殊情况并不改变乙方开具发票给甲方的基本原则。

四、法律建议

1. 明确合同条款：为了避免因发票开具问题产生的纠纷，建议在合同中明确约定发票的开具时间、种类、金额等具体事项。
2. 保留交易证据：甲方在付款后，应妥善保留付款凭证、交易合同等证据，以便在需要时证明交易的真实性和合法性。
3. 及时沟通协商：如果乙方未按时开具发票或开具的发票不符合规定，甲方应及时与乙方沟通协商，要求乙方补开或重开发票。

总结来说，在甲方购买乙方东西并付款后，通常情况下是由乙方开具发票给甲方。这是基于法律规定和交易习惯的基本要求。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。