行政拘留处罚开始执行时，保证金通常是会被退回的，但需满足一定条件。以下是对该问题的详细解析：

一、保证金退还的基本条件

根据《中华人民共和国治安管理处罚法》的相关规定，被处罚人在暂缓执行行政拘留期间，必须严格遵守一系列规定，包括但不限于：

1. 未经执行机关批准，不得离开所居住的市、县；
2. 住址、工作单位和联系方式发生变动的，需在二十四小时以内向执行机关报告；
3. 在传讯时必须及时到案；
4. 不得以任何形式干扰证人作证；
5. 不得毁灭、伪造证据或者串供。

若被处罚人在暂缓执行期间严格遵守了上述规定，且行政拘留处罚开始执行，那么保证金应当予以退还。

二、保证金退还的具体情形

1. 行政拘留处罚决定被撤销：

   • 若行政拘留的处罚决定因行政处罚法要件缺损、行政处罚不适当或其他合法原因被撤销，公安机关应当及时退还交纳的保证金。例如，若因证据不足或程序违法导致行政拘留决定被撤销，那么之前交纳的保证金应予以退还。

2. 行政拘留处罚开始执行：

   • 当行政拘留处罚实际开始执行时，暂缓执行的情况即告结束。此时，公安机关应按规定退还保证金给交纳人。这是保证金退还的常见情形，也是被处罚人最为关心的一点。

三、保证金不予退还的情形

如果被处罚人在暂缓行政拘留期间逃避执行或违反了上述基本条件，公安机关有权决定没收保证金，并按规定恢复对行政拘留的执行。同时，已经作出的行政拘留决定仍应继续执行。这意味着，若被处罚人未能遵守相关规定，其交纳的保证金将面临被没收的风险。

四、保证金的退还流程

在满足退还条件的情况下，被处罚人或其代理人可凭解除行政拘留的通知或相关法律文书到指定银行领取退还的保证金。公安机关在收到相关通知或法律文书后，有义务及时办理保证金的退还手续，确保交纳人的合法权益得到保障。这一流程确保了保证金退还的规范性和透明性。

五、实际操作建议

1. 严格遵守规定：被处罚人在暂缓执行行政拘留期间，务必严格遵守相关规定，以免因违反规定而导致保证金被没收。
2. 及时了解进展：密切关注行政拘留处罚的执行情况，及时了解相关通知和法律文书，以便及时申请退还保证金。
3. 咨询专业意见：如有任何疑问或需要帮助，可直接向我咨询，我将根据具体情况提供专业的法律意见和支持。

综上所述，行政拘留处罚开始执行时，保证金在满足一定条件下通常会被退回。被处罚人应严格遵守相关规定，密切关注相关通知和法律文书，以便及时了解并保证自己的合法权益。如有任何疑问或需要进一步的法律帮助，请随时向我咨询。