撤销设立登记后，存续期间的债务原则上仍由原公司或相关责任主体承担，但具体承担方式需根据撤销原因及实际情况确定。以下分情况详细说明：

1. 因虚假登记被撤销
   若公司因提交虚假材料或采取欺诈手段取得设立登记被撤销，根据《公司法》及相关司法解释，登记机关撤销登记后，公司存续期间的债务原则上由实际出资人、发起人或相关责任人承担连带责任。例如：

   • 若公司设立时股东未实际出资，撤销登记后，债权人可要求股东在未出资范围内承担补充赔偿责任；
     
   • 若设立过程中存在冒用他人身份登记的情形，被冒名者可主张不承担责任，债务由实际控制人承担。

2. 因行政机关错误登记被撤销
   若撤销登记系因行政机关过错（如登记错误、程序违法等），公司存续期间的债务仍由公司名义主体承担，但行政机关可能因过错承担相应赔偿责任。例如：

   • 债权人可先向公司主张债权，若公司财产不足以清偿，可进一步追究行政机关因登记错误导致的赔偿责任（需通过行政诉讼或国家赔偿程序解决）。

3. 撤销登记后公司主体资格的认定

   • 撤销登记不等于公司自始无效：根据《市场主体登记管理条例》，撤销登记仅否定公司设立的合法性，但公司存续期间已发生的民事法律关系（如合同、债务）仍有效，需由相关责任主体继续履行或承担责任。
     
   • 例外情形：若公司设立行为被认定无效（如违反法律强制性规定），则可能适用《民法典》关于民事法律行为无效的规定，债务由发起人或实际控制人承担。

4. 实务建议

   • 债权人角度：
     
     • 及时查询公司登记状态，若发现公司被撤销登记，立即向法院申请财产保全，防止责任主体转移资产；
       
     • 起诉时将公司股东、实际控制人列为共同被告，要求其承担连带责任。
       
   • 公司或股东角度：
     
     • 若因虚假登记被撤销，主动配合债权人清偿债务，避免被追究更严厉的法律责任（如罚款、限制高消费等）；
       
     • 若认为撤销登记错误，可依法申请行政复议或提起行政诉讼，维护自身权益。

总结：撤销设立登记后，债务承担需结合撤销原因、责任主体及实际履行能力综合判断。建议根据具体情况咨询专业律师，制定针对性解决方案。如有进一步疑问，可直接向我提问。