针对您提出的“书面履职申请是否必须书面答复”的问题，这实际上涉及到了行政机关在处理公民、法人或其他组织履职申请时的程序和要求。

首先，从法律和行政程序的角度来看，当公民、法人或其他组织向行政机关提出书面履职申请时，行政机关有义务对该申请进行审查，并根据审查结果作出相应的处理。这种处理可能包括履行职责、拒绝履行职责或者要求申请人补充材料等。

关于是否必须书面答复，这并没有一个绝对的、适用于所有情况的法律规定。然而，在实际操作中，为了保障申请人的知情权和监督权，以及确保行政机关的决策过程透明、可追溯，行政机关通常会以书面形式对履职申请进行答复。书面答复可以明确行政机关的处理意见、依据和理由，为申请人提供清晰的反馈，并作为后续可能出现的行政复议或行政诉讼的证据。

以您提供的案例为例，在左某请求义马市住房和城乡建设局对履职信作出书面答复的行政复议案件中，虽然最初左某没有收到书面答复，但行政复议机关在查明事实后，确认了被申请人（义马市住房和城乡建设局）已经进行了书面回复。这一案例表明，在实际操作中，行政机关对于履职申请的答复通常是以书面形式进行的，以确保答复的正式性和可追溯性。

当然，也存在一些特殊情况，比如紧急情况下行政机关可能先以口头形式进行答复，后续再补发书面答复。但这种情况并不常见，且口头答复通常需要后续以书面形式进行确认或补充。

综上所述，虽然法律没有明确规定书面履职申请必须以书面形式答复，但在实际操作中，为了保障申请人的权益和确保行政程序的透明度，行政机关通常会以书面形式对履职申请进行答复。如果您对行政机关的答复不满意或认为其未履行职责，您可以依法申请行政复议或提起行政诉讼来维护自己的权益。