Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產品”，全球合作刻不容緩

本文作者： AI科技評論

2024-09-18 10:44

導語：推動全球人工智能治理合作，促進中西AI專家對話，應對AI風險，造福人類。

AI安全國際對話發(fā)起人，從左到右依次是Stuart Russell，姚期智，Yoshua Bengio，張亞勤

雷峰網消息，九月五日至八日，全球頂尖的人工智能（AI）科學家匯聚威尼斯，共同呼吁各國政府和研究人員聯手應對AI可能帶來的災難性風險。圖靈獎得主Yoshua Bengio、姚期智教授，清華大學講席教授張亞勤、加州大學伯克利分校教授Stuart Russell等多位計算機科學領域的領軍人物，一道出席了由AI安全國際論壇（Safe AI Forum）和博古睿研究院共同舉辦的第三屆國際AI安全對話（International Dialogues on AI Safety）。

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產品”，全球合作刻不容緩

圖靈獎得主Yoshua Bengio

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產品”，全球合作刻不容緩

圖靈獎得主姚期智

在為期三天的會議中，與會科學家們共同達成了一份具有重要意義的共識聲明，其核心觀點強調了AI安全作為“全球公共產品”的重要性，建議各國應將AI安全納入學術與技術合作的核心領域。

共識指出，人工智能系統(tǒng)的濫用或失控可能給全人類帶來災難性后果。然而，我們尚未開發(fā)出必要的科學手段來管控和保障對高級智能的使用。由于人工智能帶來的風險具有全球性，我們必須將人工智能安全視為全球公共產品，并為實現這些風險的全球治理而努力。我們必須未雨綢繆，齊心防范任何隨時可能出現的災難性風險。國際社會的初步積極舉措表明，即使在緊張的地緣政治局勢下，在人工智能安全和治理方面開展合作也是可以實現的。然而，各國需要在現有的努力上邁出更大步伐。

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產品”，全球合作刻不容緩

清華大學講席教授張亞勤

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產品”，全球合作刻不容緩

北京智源人工智能研究院創(chuàng)始主席張宏江，與即任約翰·霍普金斯大學教授Gillian Hadfield

共識認為，作為第一步，各國應設立有能力在其境內監(jiān)測和應對人工智能事故與災難性風險的部門。各國監(jiān)管部門應協(xié)同合作，制定應對重大人工智能事故與災難性風險的全球應急計劃。長遠來看，各國應建立國際監(jiān)管機制，以防止出現可能帶來全球災難性風險的模型。

為了應對可能到來的由高級人工智能系統(tǒng)引發(fā)的災難性風險，科學家呼吁，國際社會應考慮啟動以下三項工作程序：

應急準備協(xié)議與制度

通過這一機制，各國的安全監(jiān)管部門可召集會議，合作制定并承諾實施模型注冊和披露制度、事故報告機制、預警觸發(fā)點及應急預案。

安全保障體系

當模型的能力超過特定閾值時，要求開發(fā)者為模型的安全性提供高度可信的論證。對于高性能的人工智能系統(tǒng)，隨著它們的廣泛應用，部署后的監(jiān)控也將成為保障體系的關鍵組成部分。這些安全保障措施應接受獨立審計。

全球人工智能安全和驗證的獨立研究

應通過技術開發(fā)，使各國能夠確認開發(fā)者以及其他國家提出的與人工智能安全相關的聲明是真實有效的。為了確保研究的獨立性，這項研究應在全球范圍內進行，并由多個國家的政府和慈善機構共同資助。

清華大學國際安全與戰(zhàn)略中心主任傅瑩，清華大學人工智能國際治理研究院院長薛瀾, 中國科學院自動化研究所類腦智能研究中心副主任曾毅遠程參與了討論。

在會議的第二天，科學家們與政策制定者、前國家元首及其他領域的專家進行了深入討論，參會者包括前愛爾蘭總統(tǒng)Mary Robinson，卡內基國際和平基金會主席Mariano-Florentino (Tino) Cuéllar，歐盟人工智能標準CEN-CENELEC JTC 21主席Sebastian Hallensleben。面對人工智能技術的快速發(fā)展，專家們一致認為，盡快實施這些提案至關重要。此次聲明將呈交給多國政策制定者，并在會議中探討了國際社會應如何協(xié)同合作，實現這一目標的戰(zhàn)略路徑。

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產品”，全球合作刻不容緩