劳动监察执法人员确实需要行政执法证。具体来说，他们在执行公务时，必须出示《中华人民共和国劳动保障监察证》或其他相关执法证件。这是根据《劳动监察员管理办法》以及实际执法公示信息所得出的结论。

首先，从华容县劳动保障监察大队的执法主体及执法人员信息公示中，我们可以明确看到，其执法人员是持《中华人民共和国劳动保障监察证》进行执法的。这表明，在实际执法过程中，劳动监察执法人员需要持有相应的执法证件以证明其执法身份和权限。

其次，根据《劳动监察员管理办法》的相关规定，劳动监察员是县级以上各级人民政府劳动行政部门执行劳动监督检查公务的人员。他们在执行公务时，有权进入用人单位了解遵守劳动法律、法规的情况，查阅必要的资料，并对劳动场所进行检查。而为了证明其执法身份和确保执法的合法性，劳动监察人员执行公务时必须出示相关的劳动监察证件，即行政执法证。

综上所述，劳动监察执法人员在执行公务时，确实需要持有行政执法证，以证明其执法身份和权限，并确保执法的合法性和有效性。