韩国任命80名AI安全监督员,收集错误与风险案例
图片:大韩民国政策简报

【DiaryPoint(记者金正勋)】韩国科学技术信息通信部与人工智能安全研究所于11月12日任命了80名公众监督员,组成“AI安全守护员”小组。在8月至9月公开招募的138名申请者中入选的成员,将持续至2027年8月,寻找并报告AI错误和风险案例。

成员年龄从高中生到60多岁及以上,职业包括公司职员、家务劳动者、自由职业者和学生等。此次活动由公开招募并经选拔的成员承担。普通用户如要参与,也需要通过另行发布的招募公告报名并接受选拔。

检查内容分为四类:AI生成错误事实或数字、对特定群体存在偏见、安全漏洞,以及不作答或重复相同内容等缺陷。

收到的报告将根据准确性、风险程度、可复现性和实际用途进行有效性核验。经确认的案例将作为AI安全评估和风险研究的基础资料。科学技术信息通信部和研究所还计划与相关企业共享案例。

持续监测机制的先行案例之一,是2025年12月启动的“杜绝信息错误的真AI挑战”活动。约30天内收到的625件报告中,有464件被确认是有效的错误案例。

在启动仪式上,科学技术信息通信部人工智能政策室室长严烈表示:“AI已经成为男女老少日常都会使用的事物,因此,营造让所有人都能安全使用AI的环境,需要我们共同努力。”仪式结束后,受任命的监督员接受了关于错误案例发现方法和报告标准的培训。