行政单位在收款时，确实必须开具收据。这一要求不仅基于法律法规的明确规定，也是保障缴费人权益、确保收费行为合法性和规范性的重要举措。

法律依据

1. 《中华人民共和国税收征收管理法》：该法规定，税务机关在征收税款时，必须给纳税人开具完税凭证。这一原则同样适用于行政单位的其他收费行为，即收费时应当提供相应的缴费凭证。

2. 《中华人民共和国行政事业性收费管理条例（草案）》（征求意见稿）：该条例明确规定，收费单位在实施收费时，应向缴费人开具由财政部门或省级以上人民政府财政、价格主管部门统一监制的收费票据。这进一步强调了行政单位在收费时开具收据的法定责任。

3. 《中华人民共和国发票管理办法》：虽然该办法主要针对发票管理，但其中关于开具凭证的原则同样适用于行政单位的收费行为。即，安装税控装置的单位和个人应按规定使用税控装置开具发票（或类似凭证），并按期报送数据。

风险分析

1. 缺乏缴费凭证的风险：如果没有合法有效的收据，缴费人将难以证明自己已经履行了缴费义务。这可能导致在后续的审计、检查或纠纷中，缴费人面临重复缴费的风险。

2. 资金用途不明的风险：收据是监督收费行为的重要手段。如果没有收据，就无法有效约束行政单位的收费行为，所收费用去向和用途可能不明确，存在被挪用、滥用的风险。

3. 法律风险增加：未出具收据的收费行为违反了相关法律法规。一旦发生纠纷，将难以证明交易的真实性和具体细节，给双方带来不必要的法律风险。

应对措施

1. 要求开具收据：作为缴费人，您有权要求行政单位按规定开具合法有效的收据。如果行政单位拒绝，您应明确提出这一要求，并说明开具收据是其法定职责和您的合法权益。

2. 向上级部门反映：如果行政单位坚持拒绝开具收据，您可以向该单位的上级主管部门投诉，要求其督促下级单位依法开具收据，并对拒绝行为进行调查和处理。

3. 寻求法律途径维权：如果通过上述途径仍无法解决问题，您可以考虑通过法律途径维护自己的权益。例如，向人民法院提起行政诉讼，要求确认行政单位拒绝开具收据的行为违法，并要求其开具收据。同时，您也可以考虑通过行政复议来维权。

综上所述，行政单位在收款时必须开具收据，这是其法定职责，也是保障缴费人权益、确保收费行为合法性和规范性的重要举措。如果行政单位拒绝开具收据，您有权拒绝交费，并通过多种途径维护自己的合法权益。