首屆人工智能安全峰會開得怎么樣

新華社英國布萊奇利園11月3日電  新聞分析：首屆人工智能安全峰會開得怎么樣

新華社記者郭爽 許鳳

首屆人工智能安全峰會2日在二戰(zhàn)期間英國的密碼破譯中心——布萊奇利園落下帷幕。在為期兩天的會議中，近30個國家和地區(qū)的代表、多家國際組織和研究機構(gòu)代表、人工智能領(lǐng)域知名專家和業(yè)界領(lǐng)袖討論了哪些議題？收獲哪些成果？

2023年11月2日，在英國布萊奇利園，一名參會者經(jīng)過首屆人工智能安全峰會的宣傳展板。新華社記者李穎攝

兩類人工智能 5大目標(biāo)

會議期間，美國、英國、歐盟、中國、印度等多方代表就人工智能技術(shù)快速發(fā)展帶來的風(fēng)險與機遇展開討論。來自全球的約150名代表重點關(guān)注前沿人工智能的潛在風(fēng)險，同時也考慮狹義人工智能的風(fēng)險。前沿人工智能是指處于當(dāng)前能力前沿的通用人工智能模型，可能帶來技術(shù)濫用、失去控制等風(fēng)險；狹義人工智能是指能力限于特定領(lǐng)域的人工智能模型，它們也具有潛在風(fēng)險，例如生物工程領(lǐng)域人工智能模型可能被用于開發(fā)生物武器等。

會議主要圍繞5個目標(biāo)展開討論：第一，對前沿人工智能帶來的風(fēng)險和采取行動的必要性達成共識；第二，推進前沿人工智能安全國際合作，包括如何最好地支持國家框架和國際框架等；第三，推動各相關(guān)組織采取適當(dāng)措施，以加強前沿人工智能安全；第四，尋求人工智能安全研究的潛在合作領(lǐng)域，包括評估模型能力和制定用于支持治理的新標(biāo)準(zhǔn)；第五，探討如何確保人工智能安全發(fā)展，使人工智能在全球范圍內(nèi)被妥善運用。

2023年11月2日在英國布萊奇利園拍攝的首屆人工智能安全峰會現(xiàn)場。新華社發(fā)

根據(jù)議程安排，各方代表在峰會開幕當(dāng)天主要就前沿人工智能帶來的風(fēng)險類型、不同參與方在應(yīng)對這些風(fēng)險中的作用、人工智能在不同領(lǐng)域面臨的重大發(fā)展機遇等展開跨學(xué)科對話和討論。在會議第二天，各方代表主要討論了人工智能的影響、如何有效合作以及如何進一步實現(xiàn)確保全球人工智能安全的使命。

以國際合作應(yīng)對風(fēng)險

峰會發(fā)布的《布萊奇利宣言》（下稱《宣言》）強調(diào)了加強國際合作對于應(yīng)對人工智能潛在風(fēng)險的重要性。《宣言》指出，人工智能的許多風(fēng)險本質(zhì)上是國際性的，因此“最好通過國際合作來解決”。與會國家和地區(qū)同意協(xié)力打造一個“具有國際包容性”的前沿人工智能安全科學(xué)研究網(wǎng)絡(luò)，以對尚未被完全了解的人工智能風(fēng)險和能力加深理解。

英國政府發(fā)表聲明稱，這是世界首個多個國家和地區(qū)達成的人工智能安全領(lǐng)域宣言，參會代表就前沿人工智能技術(shù)發(fā)展面臨的機遇、風(fēng)險和采取國際行動的必要性取得共識。

本次峰會及其成果引發(fā)媒體、學(xué)界、業(yè)界專家的高度關(guān)注和積極評價。“《宣言》是在管理風(fēng)險和實現(xiàn)前沿人工智能系統(tǒng)的好處方面邁出的重要一步?！庇鴦虼髮W(xué)“人工智能：未來和責(zé)任”項目負責(zé)人肖恩·奧黑蓋爾塔格表示，《宣言》強調(diào)了開發(fā)前沿人工智能的參與者所肩負的“特別重大的責(zé)任”，包括擁有充足資源的科技公司以及它們所在國家的政府等。

但也有觀點認為，峰會雖然達成了指導(dǎo)國際合作的原則性宣言，但并未商定國際合作路線圖，也沒有就各國如何在應(yīng)對人工智能風(fēng)險問題上開展合作提出具體措施，未來需要采取更積極主動的國際合作行動。

根據(jù)英國政府發(fā)布的聲明，下屆人工智能安全峰會將于一年后在法國舉辦，韓國將在未來6個月內(nèi)聯(lián)合主辦一次小型虛擬峰會。

全球?qū)υ?中國不可或缺

本屆峰會上，中國代表團的出席引人關(guān)注。多位專家強調(diào)，中國作為在人工智能研發(fā)領(lǐng)域領(lǐng)先的國家之一，在應(yīng)對人工智能風(fēng)險和機遇的全球討論中不可或缺。

世界知識產(chǎn)權(quán)組織數(shù)據(jù)顯示，僅2022年一年，中國機構(gòu)人工智能專利申請數(shù)量就多達29853項，占當(dāng)年全球人工智能專利申請總量的40%以上。

美國外交政策智庫卡內(nèi)基國際和平研究院院長蒂諾·奎利亞爾對媒體表示，只有中國參會，才能證明這是一次真正的全球?qū)υ挕?/p>

美國硅谷企業(yè)家埃隆·馬斯克在峰會閉幕后表示，“如果中國不是（峰會）參與者，那就毫無意義。”他認為，美國、英國和中國等各方在人工智能安全方面取得共識有利于應(yīng)對相關(guān)問題。

中國科技部副部長吳朝暉率團參加本屆峰會，并在1日舉行的開幕式全體會議上發(fā)言。與會期間，中方代表團參與人工智能安全等問題討論，積極宣介中方提出的《全球人工智能治理倡議》，并與相關(guān)國家開展雙邊會談。

中方表示，愿與各方一道就人工智能安全治理加強溝通交流，為推動形成普遍參與的國際機制和具有廣泛共識的治理框架積極貢獻智慧，切實落實全球發(fā)展倡議、全球安全倡議和全球文明倡議，促進人工智能技術(shù)更好造福人類，共同構(gòu)建人類命運共同體。