公司购买4万块钱的东西，不可以不签合同。下面我来详细解释一下：

首先，从法律的角度来看，签订合同是保障双方权益的重要手段。无论交易金额大小，都建议签订书面合同。对于公司而言，4万块钱的采购并非小额交易，更应当通过合同来明确双方的权利和义务，以避免后续可能出现的纠纷。

其次，不签合同可能会带来一系列的风险。比如，如果供应商未能按时交付货物或者货物质量存在问题，公司可能难以维权；同样，如果公司未能按时支付货款，供应商也可能通过法律途径来追讨。而这些风险，都可以通过签订详细的合同来规避。

再者，签订合同也是公司规范管理和财务审计的需要。公司需要依据合同来记录交易、进行账务处理，并作为后续审计的依据。没有合同，这些工作都将难以进行。

综上所述，即使交易金额为4万块钱，公司也应当与供应商签订书面合同，以明确双方的权利和义务，降低交易风险，并满足公司规范管理和财务审计的需要。如果你在这方面有任何疑问或需要进一步的法律建议，可以直接向我咨询。