“馬斯克聯(lián)名信”發(fā)起方獨(dú)家回應(yīng)：希望喚醒公眾對(duì)AI安全的關(guān)注

        騰訊新聞《潛望》紀(jì)振宇 發(fā)自硅谷

近日，一封由包括馬斯克、圖靈獎(jiǎng)得主Yoshua Bengio、蘋果聯(lián)合創(chuàng)始人Steve Wozniak等在內(nèi)的多位業(yè)界知名人物聯(lián)名簽署的一封名為“暫停大型人工智能實(shí)驗(yàn)”的公開信，呼吁所有的人工智能實(shí)驗(yàn)室立即對(duì)比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練至少暫停6個(gè)月。

此公開信一經(jīng)公布，立即引發(fā)了軒然大波，一方面，OpenAI研發(fā)的大型人工智能語言模型GPT取得突飛猛進(jìn)的進(jìn)展，讓沉寂多年的AI研究領(lǐng)域重新成為關(guān)注的焦點(diǎn)，但另一方面，以這封公開信為代表的另一類觀點(diǎn)則認(rèn)為，目前人工智能的進(jìn)展，會(huì)對(duì)人類社會(huì)帶來顯著的風(fēng)險(xiǎn)，需要有計(jì)劃有管理地審慎對(duì)待，但遺憾的是，目前為止相應(yīng)的規(guī)劃和管理并沒有能同步跟進(jìn)。

截至發(fā)稿，公開信簽署人數(shù)已經(jīng)超過1700名

“只有在我們對(duì)于強(qiáng)大的AI系統(tǒng)所帶來的效應(yīng)是正向的以及風(fēng)險(xiǎn)是可控的情況下，這樣的系統(tǒng)才應(yīng)該被開發(fā)。”公開信稱。

截至發(fā)稿，此公開信的簽名人數(shù)已經(jīng)達(dá)到1709名，其中不乏像馬斯克、Bengio等在業(yè)界有著舉足輕重影響力的人物。

騰訊新聞獨(dú)家聯(lián)系到這封公開信的發(fā)起方“生命未來研究院”（Future of Life Institute, FLI）就這封公開信的發(fā)起目的、簽名驗(yàn)證方式及后續(xù)計(jì)劃等問題進(jìn)行了詢問。

FLI的執(zhí)行總監(jiān)Anthony Aguirre對(duì)騰訊新聞《潛望》獨(dú)家回應(yīng)稱，對(duì)于簽署公開信的確認(rèn)過程，他們的流程是，在簽署人提交姓名、郵箱地址后，需要進(jìn)入郵箱進(jìn)行驗(yàn)證，同時(shí)會(huì)有工作人員用谷歌搜索此人，核對(duì)郵箱，并判斷這些是否一致。

對(duì)于知名人士，他們會(huì)采取進(jìn)一步的驗(yàn)證步驟，包括直接與本人或者他們的助理取得聯(lián)系，或者尋求他們用自己能夠控制的網(wǎng)絡(luò)賬號(hào)公開發(fā)表的言論（例如推特）。

Aguirre說，這封公開信是由Future of Life Institute聯(lián)合其他的一些機(jī)構(gòu)和學(xué)術(shù)界人工智能團(tuán)體和專家共同起草的，包括該機(jī)構(gòu)自己的AI 專家Max Tegmark，Richard Mallah和Stuart Russell等人。

Aguirre表示，發(fā)布這份公開信的目的主要有三個(gè)方面：一是要求 AI 實(shí)驗(yàn)室負(fù)責(zé)人暫停 AI 開發(fā)，以允許在安全方面進(jìn)行國際合作，同時(shí)消除商業(yè)壓力；二是告訴公眾和政策制定者，AI 專家、技術(shù)領(lǐng)導(dǎo)者和研究人員有多擔(dān)心——AI 開發(fā)人員被困在一個(gè)激勵(lì)系統(tǒng)中，這使得安全 AI 變得非常困難；三是為重大行動(dòng)創(chuàng)建一個(gè)政策窗口。

“我們希望以獨(dú)立的聲音與 AI 領(lǐng)導(dǎo)者和政策制定者進(jìn)行討論，并在可能的情況下促進(jìn)他們之間的對(duì)話和達(dá)成共識(shí)。”Aguirre說。

起底Future of Life Institute

生命未來研究所 (Future of Life Institute, FLI) 是一家致力于減少人類面臨的全球?yàn)?zāi)難性和生存風(fēng)險(xiǎn)，尤其是先進(jìn)人工智能 (AI) 帶來的生存風(fēng)險(xiǎn)的非盈利機(jī)構(gòu)。

該研究所的工作由三個(gè)主要部分組成：為降低風(fēng)險(xiǎn)提供資助、教育推廣以及在聯(lián)合國、美國政府和歐盟機(jī)構(gòu)內(nèi)的宣傳。其創(chuàng)始人包括麻省理工學(xué)院宇宙學(xué)家馬克∙斯泰格馬克和 Skype 聯(lián)合創(chuàng)始人簡塔林，其顧問包括特斯拉首席執(zhí)行官埃隆∙馬斯克。

FLI 稱，自己的使命是減少來自強(qiáng)大技術(shù)的全球?yàn)?zāi)難性和生存風(fēng)險(xiǎn)。 這家機(jī)構(gòu)特別關(guān)注人類水平或超智能人工智能 (AGI) 的發(fā)展給人類帶來的潛在風(fēng)險(xiǎn)，但也致力于研究生物技術(shù)、核武器和氣候變化帶來的風(fēng)險(xiǎn)。 該研究所的工作包括在聯(lián)合國、美國政府和歐盟機(jī)構(gòu)內(nèi)為減少風(fēng)險(xiǎn)、教育推廣和宣傳提供資助等。

該研究所于 2014 年 3 月由麻省理工學(xué)院宇宙學(xué)家 Max Tegmark、Skype 聯(lián)合創(chuàng)始人 Jaan Tallinn、DeepMind 研究科學(xué)家 Viktoriya Krakovna、塔夫茨大學(xué)博士后學(xué)者 Meia Chita-Tegmark 和 UCSC 物理學(xué)家 Anthony Aguirre 創(chuàng)立。

該研究所的顧問包括計(jì)算機(jī)科學(xué)家 Stuart J. Russell 和 Francesca Rossi、生物學(xué)家 George Church、宇宙學(xué)家 Saul Perlmutter、天體物理學(xué)家 Sandra Faber、理論物理學(xué)家 Frank Wilczek、企業(yè)家 Elon Musk，以及演員和科學(xué)傳播者 Alan Alda 和 Morgan Freeman，宇宙學(xué)家史蒂芬∙ 霍金在 2018 年去世之前也曾擔(dān)任該機(jī)構(gòu)的顧問。

2015 年，伊隆·馬斯克向FLI研究項(xiàng)目捐贈(zèng)了 1000 萬美元。與典型的 AI 研究不同，該項(xiàng)目的重點(diǎn)是使 AI 更安全或?qū)ι鐣?huì)更有益，而不僅僅是更強(qiáng)大。

在第一輪項(xiàng)目撥款中，該機(jī)構(gòu)共向 37 個(gè)研究項(xiàng)目撥款 700 萬美元。 2021 年 7 月，F(xiàn)LI 宣布將在以太坊創(chuàng)始人Vitalik Buterin 的資助下啟動(dòng)一項(xiàng)新的 2500 萬美元的資助計(jì)劃。

該機(jī)構(gòu)的注冊地位于美國賓夕法尼亞州的Narberth市，此外在美國硅谷地區(qū)和比利時(shí)布魯塞爾也設(shè)有辦公室。