
【DiaryPoint=記者金正勳】韓國科學技術資訊通信部與人工智慧安全研究所於11月12日任命80名民眾監督員,組成「AI安全守護員」小組。在8月至9月公開招募的138名申請者中獲選的成員,將持續至2027年8月,尋找並通報AI錯誤與風險案例。
成員年齡從高中生到60多歲以上,職業包括公司職員、家務工作者、自由工作者與學生等。這項工作由公開招募並經選拔的成員負責。一般使用者若想參與,也須依另行發布的招募公告報名並接受選拔。
檢查內容分為四類:AI生成錯誤事實或數字、對特定群體抱持偏見、安全漏洞,以及不回答或重複相同內容等缺陷。
收到的通報將依準確性、風險程度、可重現性與實際用途進行有效性查核。確認屬實的案例會作為AI安全評估及風險研究的基礎資料。科學技術資訊通信部與研究所也計畫和相關企業分享案例。
持續監測機制的先例之一,是2025年12月啟動的「杜絕資訊錯誤的真AI挑戰」活動。約30天內收到的625件通報中,有464件確認為有效錯誤案例。
在啟動儀式上,科學技術資訊通信部人工智慧政策室室長嚴烈表示:「AI已成為男女老少日常都會使用的事物,因此,打造讓所有人都能安心使用AI的環境,需要大家一起努力。」儀式結束後,獲任命的守護員接受了錯誤案例發掘方式與通報標準的培訓。
