最近幾天,人工智能風(fēng)險(xiǎn)引發(fā)了多位科技領(lǐng)袖的深切擔(dān)憂。
(資料圖片僅供參考)
首先是被稱為“人工智能教父”的杰弗里·辛頓(Geoffrey Hinton),他上周在接受哥倫比亞廣播公司采訪時(shí)表示,人工智能可能發(fā)展到對(duì)人類構(gòu)成威脅“并非不可想象”的地步。
隨后,AI“大?!鄙w瑞·馬庫(kù)斯(Gary Marcus)3月27日發(fā)推響應(yīng)辛頓,28日又發(fā)表題為“人工智能風(fēng)險(xiǎn)≠通用人工智能風(fēng)險(xiǎn)”的文章,稱超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫,但在短期內(nèi),需要擔(dān)心“MAI(平庸人工智能)風(fēng)險(xiǎn)”。
27日,推特CEO伊隆·馬斯克也加入進(jìn)來,表達(dá)對(duì)辛頓和馬庫(kù)斯的贊同。
馬斯克在社交網(wǎng)絡(luò)上與杰弗里·辛頓和蓋瑞·馬庫(kù)斯互動(dòng)。
29日,生命未來研究所(Future of Life Institute)公布一封公開信,呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。辛頓、馬庫(kù)斯和馬斯克均簽署了這封公開信。
“加快開發(fā)強(qiáng)大的AI治理系統(tǒng)”
生命未來研究所的這封公開信題為“暫停巨型AI實(shí)驗(yàn):一封公開信”,于29日解封。
未來生命研究所的公開信已有1079人簽署。
信中寫道:廣泛的研究表明,具有與人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn),這一觀點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。正如廣泛認(rèn)可的“阿西洛馬人工智能原則(Asilomar AI Principles,阿西莫夫的機(jī)器人三大法則的擴(kuò)展版本,于2017年由近千名人工智能和機(jī)器人專家簽署)中所述,高級(jí)AI可能代表地球生命史上的深刻變化,應(yīng)該以相應(yīng)的關(guān)照和資源進(jìn)行規(guī)劃和管理。不幸的是,這種級(jí)別的規(guī)劃和管理并沒有發(fā)生,盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽,以開發(fā)和部署更強(qiáng)大的數(shù)字思維,沒有人——甚至他們的創(chuàng)造者——能理解、預(yù)測(cè)或可靠地控制。
“當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上變得與人類具有競(jìng)爭(zhēng)力,我們必須捫心自問:我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道?我們是否應(yīng)該自動(dòng)化所有工作,包括令人滿意的工作?我們是否應(yīng)該發(fā)展最終可能比我們更多、更聰明,淘汰并取代我們的非人類思維?我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎?”這封信寫道,“只有當(dāng)我們確信它們的影響是積極的并且風(fēng)險(xiǎn)是可控的時(shí)候,才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。這種信心必須有充分的理由,并隨著系統(tǒng)潛在影響的規(guī)模而增加。OpenAI最近關(guān)于通用人工智能的聲明指出,‘在某些時(shí)候,在開始訓(xùn)練未來的系統(tǒng)之前進(jìn)行獨(dú)立審查可能很重要,并且對(duì)于最先進(jìn)的工作來說,應(yīng)該同意限制用于創(chuàng)建新模型的計(jì)算量增長(zhǎng)。’我們同意。那個(gè)某些時(shí)候就是現(xiàn)在?!?/p>
這封信呼吁,所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。這種暫停應(yīng)該是公開的和可驗(yàn)證的,并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這種暫停,政府應(yīng)介入并實(shí)行暫停。人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停,共同開發(fā)和實(shí)施一套用于高級(jí)人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議,并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)是安全的,并且無可置疑。這并不意味著總體上暫停AI開發(fā),只是緊急從奔向不可預(yù)測(cè)的大型黑盒模型的危險(xiǎn)競(jìng)賽中收回腳步。
與此同時(shí),信中指出,AI開發(fā)人員必須與政策制定者合作,以顯著加快開發(fā)強(qiáng)大的AI治理系統(tǒng)。至少應(yīng)包括:建立專門負(fù)責(zé)AI的有能力的新監(jiān)管機(jī)構(gòu);監(jiān)督和跟蹤高性能人工智能系統(tǒng)和大量計(jì)算能力;推出標(biāo)明來源系統(tǒng)和水印系統(tǒng),以幫助區(qū)分真實(shí)與合成,并跟蹤模型泄漏;強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng);界定人工智能造成的傷害的責(zé)任;為人工智能技術(shù)安全研究提供強(qiáng)大的公共資金;以資源充足的機(jī)構(gòu)來應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治破壞(尤其是對(duì)民主的破壞)。
這封信最后寫道,“人類可以享受人工智能帶來的繁榮未來。成功創(chuàng)建強(qiáng)大的AI系統(tǒng)后,我們現(xiàn)在可以享受‘AI之夏’,收獲回報(bào),設(shè)計(jì)這些系統(tǒng)以造福所有人,并為社會(huì)提供適應(yīng)的機(jī)會(huì)。社會(huì)已經(jīng)暫停其他可能對(duì)社會(huì)造成災(zāi)難性影響的技術(shù)。 我們可以在這個(gè)領(lǐng)域也這樣做。讓我們享受一個(gè)漫長(zhǎng)的AI之夏,而不是毫無準(zhǔn)備地陷入秋天。”
生命未來研究所建立于2014年,是一個(gè)非營(yíng)利組織,由一系列個(gè)人和組織資助,使命是引導(dǎo)變革性技術(shù)遠(yuǎn)離極端、大規(guī)模的風(fēng)險(xiǎn),轉(zhuǎn)向造福生活。
截至發(fā)稿,這封信已有1079名科技領(lǐng)袖和研究人員簽名,除了馬斯克、辛頓和馬庫(kù)斯之外,還包括圖靈獎(jiǎng)得主約書亞·本希奧(Yoshua Bengio)、《人工智能:現(xiàn)代方法》作者斯圖爾特·羅素(Stuart Russell)、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克(Steve Wozniak)、Stability AI首席執(zhí)行官埃馬德·莫斯塔克(Emad Mostaque)等科技界領(lǐng)袖人物。
“可能導(dǎo)致核戰(zhàn)爭(zhēng)和更嚴(yán)重的疫情”
28日,馬庫(kù)斯在寫作平臺(tái)Substack上寫道,一位同事寫信給他問道:“這封(公開)信不會(huì)造成對(duì)即將到來的AGI(通用人工智能)、超級(jí)智能等的無端恐懼嗎?”
美國(guó)作家、紐約大學(xué)教授加里·馬庫(kù)斯。
馬庫(kù)斯解釋道,“我仍然認(rèn)為大型語言模型與超級(jí)智能或通用人工智能沒有太大關(guān)系;我仍然認(rèn)為,與楊立昆(Yann LeCun)一樣,大型語言模型是通向通用人工智能道路上的一個(gè)‘出口’。我對(duì)厄運(yùn)的設(shè)想可能與辛頓或馬斯克不同;他們的(據(jù)我所知)似乎主要圍繞著如果計(jì)算機(jī)快速而徹底地自我改進(jìn)會(huì)發(fā)生什么,我認(rèn)為這不是一個(gè)直接的可能性?!?/p>
人工智能風(fēng)險(xiǎn)與通用人工智能風(fēng)險(xiǎn)。
但是,盡管許多文獻(xiàn)將人工智能風(fēng)險(xiǎn)等同于超級(jí)智能或通用人工智能風(fēng)險(xiǎn),但不一定非要超級(jí)智能才能造成嚴(yán)重問題?!拔椰F(xiàn)在并不擔(dān)心‘AGI風(fēng)險(xiǎn)’(我們無法控制的超級(jí)智能機(jī)器的風(fēng)險(xiǎn)),在短期內(nèi)我擔(dān)心的是‘MAI風(fēng)險(xiǎn)’——平庸人工智能(Mediocre AI)是不可靠的(比如必應(yīng)和GPT-4)但被廣泛部署——無論是就使用它的人數(shù)而言,還是就世界對(duì)軟件的訪問而言。一家名為Adept.AI的公司剛剛籌集了3.5億美元來做到這一點(diǎn),以允許大型語言模型訪問幾乎所有內(nèi)容(旨在通過大型語言模型‘增強(qiáng)你在世界上任何軟件工具或API上的能力’,盡管它們有明顯的幻覺和不可靠?jī)A向)?!?/p>
馬庫(kù)斯認(rèn)為,許多普通人也許智力高于平均水平,但不一定是天才,在整個(gè)歷史中也制造過各種各樣的問題。在許多方面,起關(guān)鍵作用的不是智力而是權(quán)力。一個(gè)擁有核代碼的白癡就可以摧毀世界,只需要適度的情報(bào)和不應(yīng)該得到的訪問權(quán)限?,F(xiàn)在,AI工具已經(jīng)引起了犯罪分子的興趣,越來越多地被允許進(jìn)入人類世界,它們可能造成更大的破壞。
歐洲刑警組織27日發(fā)布一份報(bào)告,對(duì)采用ChatGPT類工具進(jìn)行犯罪的可能性進(jìn)行了討論,令人警醒?!按笮驼Z言模型檢測(cè)和重現(xiàn)語言模式的能力不僅有助于網(wǎng)絡(luò)釣魚和在線欺詐,而且通常還可以用來冒充特定個(gè)人或群體的講話風(fēng)格。這種能力可能會(huì)被大規(guī)模濫用,以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子。”這份報(bào)告寫道,“除了上述犯罪活動(dòng)外,ChatGPT的功能還有助于處理恐怖主義、政治宣傳和虛假信息領(lǐng)域的許多潛在濫用案件。因此,該模型通??捎糜谑占嗫赡艽龠M(jìn)恐怖活動(dòng)的信息,例如恐怖主義融資或匿名文件共享?!?/p>
馬庫(kù)斯認(rèn)為,再加上人工智能生成的大規(guī)模宣傳,被大型語言模型增強(qiáng)的恐怖主義可能導(dǎo)致核戰(zhàn)爭(zhēng),或者導(dǎo)致比新冠病毒更糟糕的病原體的故意傳播等。許多人可能會(huì)死亡,文明可能會(huì)被徹底破壞。也許人類不會(huì)真的“從地球上消失”,但事情確實(shí)會(huì)變得非常糟糕。
“人工智能教父”杰弗里·辛頓在接受哥倫比亞廣播公司采訪時(shí)表示,人工智能可能發(fā)展到對(duì)人類構(gòu)成威脅“并非不可想象”的地步。
上周在哥倫比亞廣播公司的采訪中,“人工智能教父”辛頓被問及人工智能“消滅人類”的可能性時(shí)說,“我認(rèn)為這并非不可想象。我只想說這些?!?/p>
馬庫(kù)斯指出,相比辛頓和馬斯克擔(dān)憂天網(wǎng)和機(jī)器人接管世界,應(yīng)該更多思考眼前的風(fēng)險(xiǎn),包括恐怖分子在內(nèi)的犯罪分子可能對(duì)大型語言模型做什么,以及如何阻止他們。
(原標(biāo)題:馬斯克等發(fā)公開信:暫停訓(xùn)練比GPT-4更強(qiáng)的AI6個(gè)月)
來源:澎湃新聞
流程編輯:tf027
標(biāo)簽:
- 視焦點(diǎn)訊!馬斯克等發(fā)公開信:暫停訓(xùn)練比GPT-4更強(qiáng)的AI6個(gè)月
- 全球訊息:被通報(bào)、被“拉黑”,今年頻收大額罰單的渤海銀行怎么了?
- 著名男高音歌唱家程志去世 龔琳娜發(fā)文悼念
- “鳳凰臺(tái)·金融匯”——“上市問診”走進(jìn)南京市江寧區(qū)祿口街道活動(dòng)成功舉辦
- 南京市六合區(qū)市場(chǎng)監(jiān)督管理局:強(qiáng)監(jiān)管優(yōu)服務(wù) 護(hù)航春茶飄香
- Sunny Passion采訪部分 | Sunny Passion Official Fan Book|世界即時(shí)看
- 中國(guó)人壽2022年互聯(lián)網(wǎng)保險(xiǎn)業(yè)務(wù)總保費(fèi)達(dá)629億元 同比增長(zhǎng)88.3%
- 天天百事通!中國(guó)人壽2022年保費(fèi)收入超6151億元 穩(wěn)居行業(yè)第一
- 世界今日訊!兒子涉案刑拘須繳款放人?母親驚慌轉(zhuǎn)賬,警銀聯(lián)手?jǐn)r截
- 世界快看點(diǎn)丨“沙漠園丁”劉樂天:到和田半年多轉(zhuǎn)遍當(dāng)?shù)?00所學(xué)校
- 【當(dāng)前熱聞】快手日活用戶3.66億創(chuàng)新高
- 廣州城足球俱樂部宣布暫停運(yùn)營(yíng),廣州市體育局回應(yīng) 天天報(bào)資訊
- 北京一女子多次辱罵法官!被拘12天,罰款5萬元
- 江西撫州菌菇“香飄”海外 拓寬農(nóng)民增收渠道_每日看點(diǎn)
- 環(huán)球觀熱點(diǎn):張子凡眼已瞎,出賣三千院的到底是誰?多次扳指特寫給出答案
- Autodesk Maya 2024 WIN/NoLM 中文/英文/多語言版 天天觀熱點(diǎn)
- 群友們的表情包《一百一十六期》-當(dāng)前關(guān)注
- 話劇版《人世間》第60場(chǎng)中國(guó)巡演落地哈爾濱 致敬作家梁曉聲故鄉(xiāng)_全球即時(shí)
- 上新!北京22家醫(yī)院線上掛號(hào)匯總,一鍵直達(dá)→
- 修鞋、配鑰匙無處去?如何讓“小修小補(bǔ)”告別東躲西藏
- 第八批國(guó)家組織藥品集中采購(gòu)產(chǎn)生擬中選結(jié)果,平均降價(jià)56%
- 剝奪中國(guó)“發(fā)展中國(guó)家”地位,美國(guó)在害怕什么?|熱資訊
- 天天快報(bào)!擬分紅1.2億元!華蘭疫苗2022年實(shí)現(xiàn)盈利5.2億元
- 每日短訊:HT盔甲版MK33銀色百夫長(zhǎng)出貨了!
- 中青農(nóng)商(北京)科技產(chǎn)業(yè)集團(tuán)有限公司董事長(zhǎng)韓志江一行到華西十二公司考察交流-全球看點(diǎn)
- 每日播報(bào)!四川:南充市舉辦2023年世界防治結(jié)核病日宣傳活動(dòng)
- 北京今夜有輕霧,能見度不佳,最低氣溫10℃
- 當(dāng)前滾動(dòng):網(wǎng)傳安徽一化工廠“毒氣”泄漏,超20輛車出車禍?官方通報(bào)
- 環(huán)球視訊!國(guó)際原子能機(jī)構(gòu)總干事格羅西抵達(dá)扎波羅熱核電站
- 日本導(dǎo)演揭批右翼篡改教科書歪曲歷史 當(dāng)前速訊
- 1 視焦點(diǎn)訊!馬斯克等發(fā)公開信:暫停訓(xùn)練比GPT-4更強(qiáng)的AI6個(gè)月
- 2 著名男高音歌唱家程志去世 龔琳娜發(fā)文悼念
- 3 Sunny Passion采訪部分 | Sunny Passion Official Fan Book|世界即時(shí)看
- 4 中國(guó)人壽2022年互聯(lián)網(wǎng)保險(xiǎn)業(yè)務(wù)總保費(fèi)達(dá)629億元 同比增長(zhǎng)88.3%
- 5 天天百事通!中國(guó)人壽2022年保費(fèi)收入超6151億元 穩(wěn)居行業(yè)第一
- 6 世界今日訊!兒子涉案刑拘須繳款放人?母親驚慌轉(zhuǎn)賬,警銀聯(lián)手?jǐn)r截
- 7 世界快看點(diǎn)丨“沙漠園丁”劉樂天:到和田半年多轉(zhuǎn)遍當(dāng)?shù)?00所學(xué)校
- 8 【當(dāng)前熱聞】快手日活用戶3.66億創(chuàng)新高
- 9 廣州城足球俱樂部宣布暫停運(yùn)營(yíng),廣州市體育局回應(yīng) 天天報(bào)資訊
- 10 北京一女子多次辱罵法官!被拘12天,罰款5萬元