全球首個(gè)！英美就人工智能安全達成雙邊協(xié)議

當地時(shí)間4月1日，美國和英國簽署了一項具有里程碑意義的人工智能協(xié)議備忘錄，宣布達成“人工智能安全科學(xué)合作伙伴關(guān)系”，對英美兩國政府將如何匯集有關(guān)人工智能安全的技術(shù)知識、信息和人才作出規劃。英美也成為首個(gè)就如何測試和評估新興人工智能模型風(fēng)險開(kāi)展正式合作的兩個(gè)國家。該協(xié)議是世界上首個(gè)關(guān)于人工智能安全的雙邊安排，也是在各國政府紛紛推動(dòng)加強對新技術(shù)帶來(lái)的生存風(fēng)險的監管之際達成的。

此前，聯(lián)合國大會(huì )在3月21日通過(guò)了首個(gè)關(guān)于人工智能的全球決議，呼吁推動(dòng)開(kāi)發(fā)“安全、可靠和值得信賴(lài)的”人工智能系統，以促進(jìn)可持續發(fā)展。歐洲議會(huì )也在3月通過(guò)了《人工智能法案》。

清華大學(xué)計算機系長(cháng)聘教授，清華大學(xué)人工智能研究院視覺(jué)智能研究中心主任鄧志東告訴第一財經(jīng)記者，要加大AI領(lǐng)域重大方向性的全球安全監管力度，特別是對AGI的安全風(fēng)險進(jìn)行分級管控。

趕在下一代模型問(wèn)世之前合作

去年11月，英國新成立了人工智能安全研究所（AISI），美國也在同期表示要設立同類(lèi)機構，以評估前沿人工智能模型的風(fēng)險，目前美國已經(jīng)表示要同200家公司和實(shí)體合作。

此次英美的人工智能合作協(xié)議將使英美在未來(lái)可以相互借調研究人員交流專(zhuān)業(yè)知識。兩家機構還將共同研究如何獨立評估由OpenAI和谷歌等公司建立的私人人工智能模型。據悉雙方的合作關(guān)系是以英國情報機構英國政府通信總部（GCHQ）和美國國家安全局在情報和安全相關(guān)事務(wù)上的合作為藍本的。

英國科學(xué)、創(chuàng )新與技術(shù)內閣大臣唐蘭（Michelle Donelan）和美國商務(wù)部長(cháng)雷蒙多（GinaRaimondo）在華盛頓共同簽署了上述協(xié)議。唐蘭表示："美國作為人工智能強國，與英國簽署這項協(xié)議，充分說(shuō)明了我們在人工智能安全方面的領(lǐng)先地位?！彼a充道，由于許多最先進(jìn)的人工智能公司目前都在美國，美國政府的專(zhuān)業(yè)知識對于了解人工智能的風(fēng)險和要求公司履行承諾至關(guān)重要。

唐蘭并說(shuō)："明年是我們真正需要迅速采取行動(dòng)的時(shí)候，因為下一代（人工智能）模型即將問(wèn)世，它們可能會(huì )徹底改變游戲規則，而我們還不知道它們將提供的全部能力?！?/p>

不過(guò)，唐蘭堅持認為，盡管英國對人工智能的安全性進(jìn)行了研究，并確保設置了防護欄，但由于該技術(shù)的發(fā)展速度太快，英國并不打算在短期內對其進(jìn)行更廣泛的監管。

唐蘭和雷蒙多均表示，需要緊急采取聯(lián)合行動(dòng)來(lái)應對人工智能風(fēng)險?！?/p>

雷蒙多則表示：”人工智能是我們這一代的決定性技術(shù)，拜登政府計劃很快宣布其人工智能團隊新成員，美方目前正在動(dòng)用政府全部資源（促成此事）。我們的合作關(guān)系表明，我們不是在逃避這些問(wèn)題，而是在應對它們。由于我們的合作，我們的研究所將對人工智能系統有更好了解，并對人工智能進(jìn)行更有力評估，發(fā)布更嚴格指導?！?/p>

據悉，英國政府支持的AISI由科技投資人和企業(yè)家霍加斯（IanHogarth）擔任主席，已經(jīng)聘請了谷歌DeepMind和牛津大學(xué)的精英研究人員，開(kāi)始測試現有的和未發(fā)布的人工智能模型。

OpenAI、谷歌DeepMind、微軟和Meta等科技企業(yè)則簽署了自愿承諾書(shū)，將開(kāi)放其最新的生成式人工智能模型供英國人工智能研究所（AISI）審查。

多納蘭還表示，她和雷蒙多計劃討論共同面臨的挑戰，如人工智能對今年即將舉行的選舉的影響、人工智能計算基礎設施的需求等，"分享我們的技能組合，以及我們如何在總體上深化合作，為公眾謀福利"。

羅蘭貝格全球管理委員會(huì )聯(lián)席總裁戴璞（DenisDepoux）接受第一財經(jīng)記者采訪(fǎng)時(shí)表示：“美國雖然沒(méi)有相應的聯(lián)邦法律，但一些州已經(jīng)實(shí)施了自己的規定。這凸顯了監管機構重視保護消費者隱私、防止技術(shù)濫用的趨勢?！贝麒闭f(shuō)，這種監管轉變是積極的，不僅為消費者提供保護，也通過(guò)保護數據為公司自身提供了安全，AI領(lǐng)域也將如此。

聯(lián)大通過(guò)全球人工智能監管協(xié)議

如前所述，除了英美兩國的人工智能合作協(xié)議之外，美國也在聯(lián)合國積極推進(jìn)該領(lǐng)域規則設立。

聯(lián)合國大會(huì )在3月21日通過(guò)的首個(gè)關(guān)于人工智能的全球決議，是該組織首次就監管人工智能這一新興領(lǐng)域通過(guò)決議。決議草案由美國提交，同時(shí)還有120多個(gè)會(huì )員國成為“共同提案國”或表示支持。

大會(huì )強調，就該決議而言，“安全、可靠和值得信賴(lài)的人工智能系統”是指非軍事領(lǐng)域的人工智能系統，必須在其整個(gè)生命周期內“尊重、保護和增進(jìn)人權和基本自由”。

決議同樣提出“人們在線(xiàn)下享有的權利也必須在線(xiàn)上得到保護，包括在人工智能系統的整個(gè)生命周期內”。

決議表示，各國還認識到，“目前存在人工智能和其他數字方面的鴻溝，國家之間和國家內部的技術(shù)發(fā)展水平參差不齊，發(fā)展中國家在跟上這一迅速加速的步伐方面面臨獨特挑戰，這對可持續發(fā)展造成障礙”。

大會(huì )因此“決心彌合國家之間和國家內部的人工智能鴻溝和其他數字?zhù)櫆稀?，同時(shí)“促請會(huì )員國并邀請其他利益攸關(guān)方采取行動(dòng)，與發(fā)展中國家合作并向其提供援助，以實(shí)現包容和公平地獲得數字化轉型以及安全、可靠和值得信賴(lài)的人工智能系統所帶來(lái)的惠益”。

不過(guò)，意大利經(jīng)濟發(fā)展部前副部長(cháng)杰拉奇（Michele Geraci）對第一財經(jīng)記者表示，他對全球AI治理并不樂(lè )觀(guān)?！皩?shí)現創(chuàng )新與監管之間的平衡是一項重大挑戰，尤其是歐盟經(jīng)常被認為容易過(guò)度監管。目前試圖通過(guò)立法解決問(wèn)題的方法可能不是最有效的策略。人工智能未來(lái)五年的影響和發(fā)展軌跡在很大程度上仍無(wú)法預測，因此很難設想其潛在應用。這種不確定性使制定法律來(lái)管理一項仍在發(fā)展的技術(shù)的任務(wù)變得更加復雜。對尚未完全實(shí)現的事物進(jìn)行監管，有可能進(jìn)入不斷修訂法律的循環(huán)，從而無(wú)意中阻礙進(jìn)步?！苯芾嬲f(shuō)。

鄧志東對記者表示，既不要妨礙AI的探索與創(chuàng )新活力，以期其蓬勃發(fā)展加快增進(jìn)人類(lèi)福祉，但也必須考慮人類(lèi)的整體安全利益，處理好各個(gè)發(fā)展階段的安全優(yōu)先級別，在實(shí)踐中把握好最佳AI風(fēng)險管控時(shí)機。