美通社消息：包括SpaceX、特斯拉和推特的首席執行官伊隆·馬斯克(Elon Musk)、蘋果聯合創始人史蒂夫·沃茲尼亞克(Steve Wozniak)、Mila - Quebec AI Institute創始人兼科學總監Yoshua Bengio在內的數千名人工智能和技術領域的關鍵參與者共同簽署了一封由Future of Life Institute發起的公開信，要求人工智能實驗室立即停止對比GPT-4更強大的人工智能系統的培訓，為期至少六個月。
在信中，簽名者明確指出，AI系統的智能可以與人類相媲美，可能對社會和人類構成嚴重威脅。因此，應實施為期六個月的暫停期，期間將開發和實施一套協議，使這些強大的人工智能系統更加準確、透明和值得信賴。
以下是一些主要的共同簽署方：
Yuval Noah Harari，作家兼教授，Hebrew University of Jerusalem
Stuart Russell，伯克利，計算機科學教授，the Center for Intelligent Systems主任，標準教科書《Artificial Intelligence: a Modern Approach》的合著者
Elon Musk，SpaceX、Tesla & Twitter首席執行官
Steve Wozniak，Apple聯合創始人
Evan Sharp，Pinterest聯合創始人
Rachel Bronson，Bulletin of the Atomic Scientists主席
附：公開信全文翻譯
暫停巨型 AI 實驗：一封公開信
大量研究表明并得到頂級 AI 實驗室的認可，具有人類競爭智能的 AI 系統可能對社會和人類構成深遠的風險。正如被廣泛認可的Asilomar AI 原則中所描述的那樣，高級 AI 可能代表地球生命史上的深刻變化，應以相應的關懷和資源進行規劃和管理。不幸的是，這種級別的規劃和管理并沒有發生，盡管最近幾個月人工智能實驗室陷入了一場失控的競賽，以開發和部署更強大的數字思維，沒有人——甚至他們的創造者——都無法理解、預測、或可靠地控制。
當代人工智能系統現在在一般任務上變得與人類具有競爭力，我們必須捫心自問：我們是否應該讓機器用宣傳和謊言充斥我們的信息渠道？我們應該自動化所有的工作，包括令人滿意的工作嗎？我們是否應該發展最終可能超過我們、超越我們、過時并取代我們的非人類思維？我們應該冒險失去對我們文明的控制嗎？我們不可以將此類決定委托給未經選舉產生的技術領導者。只有當我們確信它們的影響是積極的并且它們的風險是可控的時候，才應該開發強大的人工智能系統。這種信心必須有充分的理由，并隨著系統潛在影響的大小而增加。OpenAI最近關于通用人工智能的聲明指出，“在某個時候，在開始訓練未來系統之前進行獨立審查可能很重要，并且對于最先進的工作來說，人們應該在合適的時間點限制用于創建新系統的計算增長率。” 我們同意，而當下就是這一時候。
因此，我們呼吁所有 AI 實驗室立即暫停至少 6 個月的比 GPT-4 更強大的 AI 系統訓練。這種暫停應該是公開的和可驗證的，并且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應介入并暫停。
人工智能實驗室和獨立專家應該利用這次暫停，共同開發和實施一套用于高級人工智能設計和開發的共享安全協議，并由獨立的外部專家進行嚴格審計和監督。這些協議應確保遵守它們的系統是安全的，無可置疑。這并不意味著總體上暫停 AI 開發，只是從危險的競賽中倒退到具有緊急功能的更大的不可預測的黑盒模型。
人工智能研究和開發應該重新聚焦于使當今強大的、最先進的系統，更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。
與此同時，AI 開發人員必須與政策制定者合作，以加快開發強大的 AI 治理系統。涵蓋內容至少應包括：專門負責 AI 的新的和有能力的監管機構；監督和跟蹤高性能人工智能系統和大量計算能力；出處和水印系統，以幫助區分真實與合成并跟蹤模型泄漏；強大的審計和認證生態系統；人工智能造成的傷害的責任；為技術人工智能安全研究提供強大的公共資金；以及資源充足的機構來應對人工智能將造成的巨大的經濟和政治破壞。
人類可以享受人工智能帶來的繁榮未來。成功創建強大的 AI 系統后，我們現在已經可以享受人工智能之夏，去收獲回報，去設計這些系統以造福所有人，并為社會提供更長的適應機會和時間。過去我們已經暫停過其他可能對社會造成災難性影響的技術。我們現在也可以這樣這樣做。讓我們享受一個漫長的 AI 夏天，而不是毫無準備地跑入秋天。
