结论：在五岁小孩被十一岁孩子打了且当事人不接受调解的情况下，可以考虑通过法律途径来维护权益，具体包括向公安机关报案、提起民事诉讼要求赔偿以及申请行为能力鉴定（如涉及严重后果）等。

分析说明：

1. 向公安机关报案：

   • 法律依据：根据《中华人民共和国治安管理处罚法》的相关规定，虽然十一岁的孩子因未达到法定责任年龄（通常为十四周岁）而不受治安管理处罚法的直接约束，但公安机关仍可以介入调查，了解事件经过，对双方进行教育，并可能根据情况对监护人进行训诫或建议其加强监管。
   • 实际操作：家长可以携带相关证据（如现场照片、视频、证人证言等）向当地公安机关报案，说明情况，要求公安机关进行调查处理。

2. 提起民事诉讼要求赔偿：

   • 法律依据：根据《中华人民共和国民法典》中关于侵权责任的规定，无民事行为能力人（如五岁小孩）或限制民事行为能力人（如十一岁小孩，在特定情况下）造成他人损害的，由其监护人承担侵权责任。因此，如果五岁小孩因被打而遭受了身体伤害或财产损失，其家长可以代表孩子向法院提起民事诉讼，要求十一岁孩子的监护人承担赔偿责任。
   • 实际操作：家长需要准备相关证据（如医疗记录、费用清单、损失证明等），撰写起诉状，并向有管辖权的法院提起诉讼。法院将依法审理案件，并根据事实和法律规定作出判决。

3. 申请行为能力鉴定（如涉及严重后果）：

   • 特殊情况：如果十一岁孩子的行为造成了特别严重的后果（如重伤、死亡等），或者其行为明显超出了其年龄应有的认知和行为能力范围，那么可能需要考虑对其行为能力进行鉴定。然而，这种情况相对罕见，且通常涉及刑事责任问题，而十一岁孩子因未达到刑事责任年龄（通常为十二周岁或十四周岁，具体根据犯罪类型和法律规定而定）而不受刑事处罚。但鉴定结果仍可能对民事赔偿责任的认定产生影响。
   • 实际操作：如果家长认为有必要进行行为能力鉴定，可以向法院提出申请，并由法院指定或委托有资质的鉴定机构进行鉴定。

行动建议：

• 收集证据：无论选择哪种途径，家长都应首先收集并保存好相关证据，如现场照片、视频、证人证言、医疗记录等，以便在需要时提供证明。
• 咨询专业律师：在处理此类纠纷时，建议家长咨询专业律师的意见，以便更好地了解法律程序和自身权益，制定合适的维权策略。
• 保持冷静和理性：在处理纠纷过程中，家长应保持冷静和理性，避免采取过激行为或言语攻击对方，以免加剧矛盾或影响自身权益的维护。