根据《中华人民共和国宪法》和相关法律法规，就职时需要进行宪法宣誓的国家工作人员主要包括以下几类：
一、各级人民代表大会及县级以上各级人民代表大会常务委员会选举或决定任命的国家工作人员
这包括在全国人民代表大会及县级以上地方各级人民代表大会中，通过选举或决定任命产生的各级领导人员。具体来说：
国家级领导人员：如中华人民共和国主席、副主席，中央军事委员会主席，国家监察委员会主任，最高人民法院院长，最高人民检察院检察长，以及全国人民代表大会常务委员会委员长、副委员长、秘书长、委员等。
国务院组成人员：如总理、副总理、国务委员、各部部长、各委员会主任、中国人民银行行长、审计长、秘书长，以及中央军事委员会副主席、委员等，这些人员由全国人民代表大会决定任命。
地方级领导人员：包括县级以上地方各级人民代表大会选举或决定任命的本级人大常委会主任、副主任、秘书长、委员，地方各级人民政府省长、副省长（自治区主席、副主席，市长、副市长，州长、副州长，县长、副县长，区长、副区长），地方各级监察委员会主任，地方各级人民法院院长和人民检察院检察长等。
基层领导人员：在乡、民族乡、镇的人民代表大会中选举产生的基层领导，如乡、民族乡、镇的人民代表大会主席、副主席，乡长、副乡长，镇长、副镇长等，也需要进行宪法宣誓。
二、各级人民政府、监察委员会、人民法院、人民检察院任命的国家工作人员
这涵盖了这些机关内部通过任命程序产生的各个层级、各个岗位的工作人员。无论其职位高低，只要是由这些机关任命的，都需要在就职时进行宪法宣誓。这体现了对宪法权威的尊重和维护，也强化了国家工作人员的宪法意识和职责使命。
三、其他特定职务人员
除了上述两类人员外，还有一些特定职务人员也需要在就职时进行宪法宣誓，如各级人民代表大会代表在依照法定程序产生后，也需要进行宪法宣誓，表明其将依法履行职责，维护人民权益。此外，如公安机关、国家安全机关、司法行政机关等任命的人员，在就职时同样需进行宪法宣誓。
综上所述，就职时需要进行宪法宣誓的国家工作人员范围广泛，涵盖了从国家级领导到基层工作人员等多个层级和岗位。这一制度的实施，对于维护宪法权威、增强国家工作人员的宪法意识、促进依法治国具有深远意义。