《國際人工智能安全報告》發布首份關鍵更新

蒙特利爾2025年10月17日 /美通社/ -- 《國際人工智能安全報告》首次關鍵更新已發布，就先進人工智能的能力與風險提供了最新信息。

該報告由圖靈獎得主、計算機科學家Yoshua Bengio總體負責，匯集了100多位國際專家，并得到30多個國家以及包括歐盟、經合組織和聯合國在內的國際組織的支持。

鑒于人工智能領域發展過于迅速，單一年度報告難以全面覆蓋，因此推出了《關鍵更新》，以提供篇幅更短、重點更突出的關鍵發展動態報告。 這將確保決策者能夠及時獲取最新文獻綜述，為基于證據的政策制定提供依據。

首個《關鍵更新》涵蓋能力提升和風險影響：

• 人工智能模型在復雜問題解決能力上持續提升：例如，領先的系統現已能完成一組現實世界軟件工程問題中超60%的任務。 到2025年初，他們只能解決約40%的相關問題，而在2024年初他們尚無法解決任何問題。 （事實上，自《關鍵更新》文本最終確定以來，性能已提高到70％以上。）
• 行業參與者已經采取了新的預防性保障措施：多家主要人工智能開發商在無法完全排除其新模型可能被用于協助開發化學、生物、放射和核風險的情況下，主動為最新模型增加了額外安全措施后發布。
• 人工智能模型在評估過程中日益表現出策略性行為，給監管帶來挑戰：人工智能模型越來越可能意識到自己正在接受評估，并據此調整輸出結果，這對開發人員和測試人員在部署新模型之前準確評估新模型能力的能力提出了重大質疑。

該報告主席、蒙特利爾大學全職教授、LawZero科學總監兼Mila - Quebec AI Institute科學顧問Yoshua Bengio表示：

“自九個月前發布第一份《國際人工智能安全報告》以來，人工智能能力保持著快速而穩定的發展勢頭。 我們對人工智能風險和安全措施的集體認知必須與時俱進，這一點至關重要。 本次《關鍵更新》為全球決策者提供了基于證據的最新信息概覽，助其掌握最前沿的科學資訊，從而確保治理工作具有前瞻性和科學性。 它還發揮了銜接作用，為將于2026年初在印度舉辦的人工智能影響力峰會前發布的綜合報告做好準備。”

關于

《國際人工智能安全報告》綜合了關于先進人工智能系統能力與風險的各類證據。 它旨在通過為決策者提供證據基礎，支持全球知情決策。 該報告由100多名獨立專家組成的多元化小組撰寫，由來自30多個國家以及包括歐盟、經合組織和聯合國在內的國際組織的提名代表組成的專家咨詢小組提供支持。 在承認人工智能具有巨大潛在效益的同時，該報告的重點是識別風險并評估緩解策略，以確保人工智能得到安全開發和使用，從而造福全人類。 該報告由英國政府委托編寫，秘書處設在英國人工智能安全研究所。

聯系人：Mila Medias，medias@mila.quebec；DSIT 媒體問訊，press@dsit.gov.uk