當(dāng)?shù)貢r(shí)間周二（5月21日），微軟、亞馬遜、OpenAI等科技巨頭在“人工智能（AI）首爾峰會(huì)”上就AI安全達(dá)成了一項(xiàng)具有里程碑意義的國(guó)際協(xié)議。此次峰會(huì)由韓國(guó)與英國(guó)共同主辦，是去年11月在英國(guó)召開的全球人工智能安全峰會(huì)的后續(xù)會(huì)議，以“安全、創(chuàng)新、包容”為主題。

這項(xiàng)國(guó)際協(xié)議將讓來自全球多國(guó)的企業(yè)做出自愿承諾，確保他們是以安全的方式開發(fā)AI前沿模型。

制作AI模型的公司需要發(fā)布安全框架，列出衡量潛在風(fēng)險(xiǎn)的方式，例如檢查不良行為者濫用技術(shù)的風(fēng)險(xiǎn)。

框架將包括針對(duì)科技公司的一些被視為無(wú)法容忍的“紅線”，包括但不限于自動(dòng)網(wǎng)絡(luò)攻擊和生物武器的威脅。

一旦發(fā)現(xiàn)了這種極端情況，如果不能保證降低風(fēng)險(xiǎn)，企業(yè)們就需要打開“緊急停止開關(guān)”（kill switch），叫停AI模型的開發(fā)進(jìn)程。

英國(guó)首相蘇納克在一份聲明中寫道：“這還是首次，有如此多來自全球不同地區(qū)的領(lǐng)先AI公司都同意在人工智能安全方面做出同樣的承諾。這些承諾將確保全球領(lǐng)先的AI公司，讓他們的AI計(jì)劃提供透明度和問責(zé)制。”

去年11月，在英國(guó)AI安全峰會(huì)上，與會(huì)方簽署了一份《布萊奇利宣言》（Bletchley Declaration），稱各方需要共同努力，設(shè)定共同的監(jiān)管方法。

《布萊奇利宣言》寫道，AI為全球帶來了巨大的機(jī)遇，它有潛力改變或增強(qiáng)人類福祉、和平與繁榮。同時(shí)，AI還帶來了重大風(fēng)險(xiǎn)，包括在日常生活領(lǐng)域，“所有問題都至關(guān)重要，我們確認(rèn)解決它們的必要性和緊迫性?！?/p>

法國(guó)將于2025年初舉辦下一屆AI安全峰會(huì)，企業(yè)們同意在這次會(huì)議前征詢意見，并公布于眾。

日內(nèi)，歐盟理事會(huì)正式批準(zhǔn)《人工智能法案》，這是全球首部AI領(lǐng)域的全面監(jiān)管法規(guī)，違反法規(guī)的相關(guān)方將被追究責(zé)任。然而，英國(guó)方面還沒有提出類似的AI法律。

與美國(guó)的主張類似，英國(guó)選擇了一種名為“輕觸式”的監(jiān)管方式，通過行業(yè)自律和個(gè)案監(jiān)管來應(yīng)對(duì)新興風(fēng)險(xiǎn)，旨在避免過度干預(yù)阻礙技術(shù)創(chuàng)新。

在明天的部長(zhǎng)級(jí)會(huì)議期間，各國(guó)高級(jí)官員將以今日的討論內(nèi)容為基礎(chǔ)，就進(jìn)一步保障AI安全性、推進(jìn)可持續(xù)發(fā)展等具體合作方案展開討論。

來源：財(cái)聯(lián)社 作者：趙昊