新聞資訊/News information
|
AI安全“馬斯克聯(lián)名信”發(fā)起方獨家回應(yīng)：希望喚醒公眾對AI安全的關(guān)注騰訊新聞《潛望》紀(jì)振宇 發(fā)自硅谷 近日，一封由包括馬斯克、圖靈獎得主Yoshua Bengio、蘋果聯(lián)合創(chuàng)始人Steve Wozniak等在內(nèi)的多位業(yè)界知名人物聯(lián)名簽署的一封名為“暫停大型人工智能實驗”的公開信，呼吁所有的人工智能實驗室立即對比GPT-4更強大的人工智能系統(tǒng)的訓(xùn)練至少暫停6個月。 此公開信一經(jīng)公布，立即引發(fā)了軒然大波，一方面，OpenAI研發(fā)的大型人工智能語言模型GPT取得突飛猛進的進展，讓沉寂多年的AI研究領(lǐng)域重新成為關(guān)注的焦點，但另一方面，以這封公開信為代表的另一類觀點則認為，目前人工智能的進展，會對人類社會帶來顯著的風(fēng)險，需要有計劃有管理地審慎對待，但遺憾的是，目前為止相應(yīng)的規(guī)劃和管理并沒有能同步跟進。
“只有在我們對于強大的AI系統(tǒng)所帶來的效應(yīng)是正向的以及風(fēng)險是可控的情況下，這樣的系統(tǒng)才應(yīng)該被開發(fā)。”公開信稱。 截至發(fā)稿，此公開信的簽名人數(shù)已經(jīng)達到1709名，其中不乏像馬斯克、Bengio等在業(yè)界有著舉足輕重影響力的人物。 騰訊新聞獨家聯(lián)系到這封公開信的發(fā)起方“生命未來研究院”（Future of Life Institute, FLI）就這封公開信的發(fā)起目的、簽名驗證方式及后續(xù)計劃等問題進行了詢問。 FLI的執(zhí)行總監(jiān)Anthony Aguirre對騰訊新聞《潛望》獨家回應(yīng)稱，對于簽署公開信的確認過程，他們的流程是，在簽署人提交姓名、郵箱地址后，需要進入郵箱進行驗證，同時會有工作人員用谷歌搜索此人，核對郵箱，并判斷這些是否一致。 對于知名人士，他們會采取進一步的驗證步驟，包括直接與本人或者他們的助理取得聯(lián)系，或者尋求他們用自己能夠控制的網(wǎng)絡(luò)賬號公開發(fā)表的言論（例如推特）。 Aguirre說，這封公開信是由Future of Life Institute聯(lián)合其他的一些機構(gòu)和學(xué)術(shù)界人工智能團體和專家共同起草的，包括該機構(gòu)自己的AI 專家Max Tegmark，Richard Mallah和Stuart Russell等人。 Aguirre表示，發(fā)布這份公開信的目的主要有三個方面：一是要求 AI 實驗室負責(zé)人暫停 AI 開發(fā)，以允許在安全方面進行國際合作，同時消除商業(yè)壓力；二是告訴公眾和政策制定者，AI 專家、技術(shù)領(lǐng)導(dǎo)者和研究人員有多擔(dān)心——AI 開發(fā)人員被困在一個激勵系統(tǒng)中，這使得安全 AI 變得非常困難；三是為重大行動創(chuàng)建一個政策窗口。 “我們希望以獨立的聲音與 AI 領(lǐng)導(dǎo)者和政策制定者進行討論，并在可能的情況下促進他們之間的對話和達成共識。”Aguirre說。 起底Future of Life Institute 生命未來研究所 (Future of Life Institute, FLI) 是一家致力于減少人類面臨的全球災(zāi)難性和生存風(fēng)險，尤其是先進人工智能 (AI) 帶來的生存風(fēng)險的非盈利機構(gòu)。 該研究所的工作由三個主要部分組成：為降低風(fēng)險提供資助、教育推廣以及在聯(lián)合國、美國政府和歐盟機構(gòu)內(nèi)的宣傳。其創(chuàng)始人包括麻省理工學(xué)院宇宙學(xué)家馬克∙斯泰格馬克和 Skype 聯(lián)合創(chuàng)始人簡塔林，其顧問包括特斯拉首席執(zhí)行官埃隆∙馬斯克。 FLI 稱，自己的使命是減少來自強大技術(shù)的全球災(zāi)難性和生存風(fēng)險。 這家機構(gòu)特別關(guān)注人類水平或超智能人工智能 (AGI) 的發(fā)展給人類帶來的潛在風(fēng)險，但也致力于研究生物技術(shù)、核武器和氣候變化帶來的風(fēng)險。 該研究所的工作包括在聯(lián)合國、美國政府和歐盟機構(gòu)內(nèi)為減少風(fēng)險、教育推廣和宣傳提供資助等。 該研究所于 2014 年 3 月由麻省理工學(xué)院宇宙學(xué)家 Max Tegmark、Skype 聯(lián)合創(chuàng)始人 Jaan Tallinn、DeepMind 研究科學(xué)家 Viktoriya Krakovna、塔夫茨大學(xué)博士后學(xué)者 Meia Chita-Tegmark 和 UCSC 物理學(xué)家 Anthony Aguirre 創(chuàng)立。 該研究所的顧問包括計算機科學(xué)家 Stuart J. Russell 和 Francesca Rossi、生物學(xué)家 George Church、宇宙學(xué)家 Saul Perlmutter、天體物理學(xué)家 Sandra Faber、理論物理學(xué)家 Frank Wilczek、企業(yè)家 Elon Musk，以及演員和科學(xué)傳播者 Alan Alda 和 Morgan Freeman，宇宙學(xué)家史蒂芬∙ 霍金在 2018 年去世之前也曾擔(dān)任該機構(gòu)的顧問。 2015 年，伊隆·馬斯克向FLI研究項目捐贈了 1000 萬美元。與典型的 AI 研究不同，該項目的重點是使 AI 更安全或?qū)ι鐣幸妫粌H僅是更強大。 在第一輪項目撥款中，該機構(gòu)共向 37 個研究項目撥款 700 萬美元。 2021 年 7 月，F(xiàn)LI 宣布將在以太坊創(chuàng)始人Vitalik Buterin 的資助下啟動一項新的 2500 萬美元的資助計劃。 該機構(gòu)的注冊地位于美國賓夕法尼亞州的Narberth市，此外在美國硅谷地區(qū)和比利時布魯塞爾也設(shè)有辦公室。 |