CLTR呼吁建立人工智能事件报告系统
admin长期复原力中心（CLTR）呼吁建立全面的事件报告系统，以紧急解决人工智能监管计划中的关键漏洞。
据 CLTR 称，人工智能经常以意想不到的方式发生故障，自 2014 年以来，新闻媒体记录了部署的人工智能系统中超过 10,000 起安全事故。随着人工智能越来越融入社会，这些事故发生的频率和影响可能会增加。
该智库认为，完善的事故报告制度对于有效监管人工智能至关重要，这与航空和医药等安全至关重要的行业类似。这一观点得到了专家以及美国、中国政府和欧盟的广泛支持。
该报告概述了实施事件报告系统的三个主要好处：
- 监测现实世界的人工智能安全风险，为监管调整提供参考
- 协调对重大事件的快速响应并调查根本原因
- 识别未来潜在大规模危害的早期预警
目前，英国的人工智能法规缺乏有效的事件报告框架。这一差距导致科学、创新和技术部 (DSIT) 无法了解各种重大事件，包括：
- 高性能基础模型的问题
- 英国政府在公共服务中使用人工智能的事件
- 滥用人工智能系统进行恶意用途
- 人工智能伴侣、导师和治疗师造成的伤害
CLTR 警告称，如果没有适当的事件报告系统，DSIT 可能会通过新闻媒体而不是既定的报告流程了解到新的危害。
为了弥补这一差距，该智库建议英国政府立即采取三项措施：
- 政府事件报告系统：建立一套系统，报告公共服务中使用的人工智能事件。这可以是算法透明度记录标准(ATRS) 的直接扩展，以包括公共部门人工智能事件，将其输入政府机构，并可能与公众共享，以提高透明度。
- 聘请监管机构和专家：委托监管机构并咨询专家，找出最令人担忧的差距，确保有效覆盖优先事件，并了解利益相关者对功能性制度的需求。
- 构建 DSIT 能力：通过试点 AI 事件数据库，开发 DSIT 监控、调查和应对事件的能力。这将成为 DSIT 核心功能的一部分，最初侧重于最紧迫的差距，但最终扩展到包括英国监管机构的所有报告。
这些建议旨在增强政府负责任地改善公共服务的能力，确保有效报道优先事件，并开发收集和响应人工智能事件报告的必要基础设施。
Saidot首席商务官兼合伙人 Veera Siivonen评论道：
“长期复原力中心的这份报告来得正是时候。随着英国大选临近，下一届政府的人工智能政策将成为经济增长的基石。然而，这需要精确地把握监管与创新之间的平衡，提供护栏而不缩小该行业的实验潜力。虽然实施针对人工智能滥用和故障的集中事件报告系统是值得称赞的第一步，但还有许多步骤需要攀登。
新一届英国政府应为具有明确治理要求的企业提供确定性和理解，同时监控和缓解最可能的风险。通过将各种人工智能治理策略与集中事件报告相结合，英国可以充分利用人工智能的经济潜力，确保其造福社会，同时保护民主进程和公众信任。”
随着人工智能不断发展并渗透到社会的各个方面，建立强大的事件报告系统对于降低风险和确保人工智能技术的安全开发和部署至关重要。
