在竞争性谈判中，响应文件被拒绝后，保证金是否退还，需根据具体情况来判断。以下是从不同角度进行的详细分析：
一、保证金退还的一般原则
在竞争性谈判等采购活动中，保证金（通常包括投标保证金或谈判保证金）的主要目的是确保供应商或承包商能够认真参与谈判，并遵守谈判过程中的各项规定。一般情况下，如果供应商或承包商没有违反谈判文件的规定，且其响应文件未被接受并非因其自身原因（如文件格式错误、内容缺失等可归责于供应商的原因），那么保证金应当予以退还。
二、保证金可能不予退还的情形
违反谈判文件规定：如果供应商或承包商在响应文件中提供了虚假信息、隐瞒了重要事实，或者违反了谈判文件中的其他明确规定，那么采购方有权根据谈判文件的约定，不予退还保证金。
响应文件被拒绝的特定原因：如果响应文件被拒绝是因为供应商或承包商自身的原因，如文件未按时提交、文件内容不符合谈判文件要求等，且这些原因在谈判文件中明确规定了不予退还保证金的情形，那么保证金可能不予退还。
谈判文件中的特别约定：有些谈判文件可能会特别约定，在某些特定情况下（如供应商或承包商在谈判过程中退出、未按照谈判文件要求进行澄清或修改等），保证金将不予退还。这种情况下，需要仔细审查谈判文件中的相关条款。
三、保证金退还的法律依据
虽然具体的保证金退还规定可能因谈判文件、采购方的内部规定或地方性法规而有所不同，但一般应遵循《中华人民共和国民法典》中关于合同履行和违约责任的相关规定。如果采购方无正当理由拒绝退还保证金，供应商或承包商有权通过法律途径维护自己的合法权益。
四、建议与措施
仔细审查谈判文件：在参与竞争性谈判前，务必仔细审查谈判文件，特别是关于保证金退还的条款，确保自己了解并同意其中的规定。
保留相关证据：在谈判过程中，保留好所有与保证金相关的证据，如缴纳保证金的凭证、谈判文件的复印件等，以便在需要时证明自己的权益。
及时沟通与协商：如果响应文件被拒绝且保证金未予退还，首先尝试与采购方进行沟通与协商，了解拒绝的具体原因和保证金未退还的依据。
寻求法律帮助：如果沟通与协商无果，且认为采购方的行为违反了相关法律法规或谈判文件的规定，可以寻求法律帮助，通过法律途径维护自己的合法权益。
如果您在竞争性谈判中遇到了保证金退还的问题，或者有任何其他与公司法务、股权转让相关的疑问，欢迎直接向我咨询。我将以专业的知识和丰富的经验，为您提供全面、准确的法律解答。