經(jīng)過不到一年的時(shí)間，AI 的發(fā)展超乎所有人的想象，也大有失控的風(fēng)險(xiǎn)。

就在今天，全球部分頂尖的 AI 研究員、工程師和 CEO 就他們認(rèn)為 AI 對(duì)人類構(gòu)成的生存威脅發(fā)出了新的警告，并共同簽署了一份只有短短 22 個(gè)字的聲明：

減輕 AI 帶來的滅絕風(fēng)險(xiǎn)應(yīng)該與流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一起成為全球優(yōu)先事項(xiàng)。

這份聲明是由總部位于舊金山的非營(yíng)利組織 AI 安全中心（Center for AI Safety，簡(jiǎn)稱 CAIS）發(fā)布的。

值得注意的是，這份聲明一經(jīng)發(fā)布，便迅速得到了多倫多大學(xué)計(jì)算機(jī)科學(xué)榮譽(yù)教授、“AI 教父” Geoffrey Hinton，蒙特利爾大學(xué)計(jì)算機(jī)科學(xué)教授、圖靈獎(jiǎng)得主 Yoshua Bengio，Google Deepmind CEO Demis Hassabis，OpenAI CEO Sam Altman，以及中國(guó)科學(xué)院自動(dòng)化研究所類腦認(rèn)知智能實(shí)驗(yàn)室主任、教授曾毅等近 400 位學(xué)術(shù)界、產(chǎn)業(yè)界、高校專家的支持。

越來越像人的 AI

其實(shí)一直以來，隨著生成式人工智能工具如 OpenAI 的 ChatGPT、微軟的新 Bing、Google 的 Bard 等面向更多的群體開放訪問，業(yè)界關(guān)于 AI 炒作的聲音愈演愈烈。

在此之下，很多學(xué)者、高管表示過擔(dān)憂，如：

• 本月初，多倫多大學(xué)計(jì)算機(jī)科學(xué)榮譽(yù)教授、“AI 教父” Geoffrey Hinton 在選擇從 Google 離職時(shí)，對(duì)外界分享道，「人工智能正在變得比人類更聰明，我想要‘吹哨’提醒人們應(yīng)該認(rèn)真考慮如何防止人工智能控制人類」。

• OpenAI  CEO Sam Altman 在兩周前首次亮相美國(guó)參議院就各自公司與機(jī)構(gòu)制造的人工智能技術(shù)存在的潛在危險(xiǎn)的聽證會(huì)時(shí)，反其道而行之，強(qiáng)烈要求政府部門對(duì)其以及行業(yè)內(nèi)的 AI 技術(shù)應(yīng)用政策進(jìn)行落地與監(jiān)管，旨在減少此類系統(tǒng)可能帶來的“潛在風(fēng)險(xiǎn)”。

不僅如此，個(gè)人用戶也感受到了 AI 的“可怕”之處。

在 Reddit 上，一名網(wǎng)友發(fā)帖稱自己在使用微軟新 Bing 時(shí)，由于 Bing Chat 提供了沒有來源的內(nèi)容，自己便對(duì)這個(gè)回答進(jìn)行了質(zhì)疑。

萬(wàn)萬(wàn)沒想到的是，人類慘遭 AI “懟了一頓”。甚至 AI 表示，“我不欣賞你的語(yǔ)氣和態(tài)度，所以我就在這里結(jié)束這個(gè)對(duì)話。”

最后，AI 還對(duì)網(wǎng)友進(jìn)行了警告，“以后請(qǐng)多一些尊重和禮貌”。

這也引得 10.2k 個(gè)用戶關(guān)注，并紛紛留言道，“這個(gè) AI 已成精，越來越像人了?！币灿腥酥赋?，“用人類知識(shí)訓(xùn)練人工智能，就會(huì)讓它像人類一樣回應(yīng)、思考，這是驚人的，自然也會(huì)讓人擔(dān)憂”。

聲明一出，達(dá)成共識(shí)

事實(shí)證明，這一次 CAIS 聲明的發(fā)出，正所謂字少事大，而它之所以能夠吸引如此多專家學(xué)者的關(guān)注，一方面，主要這是很多人認(rèn)為應(yīng)該迫切解決的問題；另一方面，在這份聲明中，沒有直接道清存在哪些風(fēng)險(xiǎn)，設(shè)立“圍墻”，也是為了避免重蹈覆轍。

還記得兩個(gè)月前，非營(yíng)利性的 "生命的未來研究所 "（Future of Life Institute）發(fā)出一封公開信，同樣的圖靈獎(jiǎng)得主 Yoshua Bengio、伯克利計(jì)算機(jī)科學(xué)教授 Stuart Russell、特斯拉 CEO 埃隆·馬斯克、蘋果聯(lián)合創(chuàng)始人 Steve Wozniak 等人進(jìn)行了簽署。

這份公開信強(qiáng)烈呼吁：暫停訓(xùn)練比 GPT-4 更強(qiáng)大的系統(tǒng)，期限為六個(gè)月。理由是這些模型對(duì)社會(huì)和人類存在潛在風(fēng)險(xiǎn)，“只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)帶來積極的效果，其風(fēng)險(xiǎn)是可控的，才應(yīng)該開發(fā)。這種信心必須有充分的理由支持，并隨著系統(tǒng)潛在影響的大小而增加?！?/span>

不過，彼時(shí)這封信一經(jīng)發(fā)布便在多個(gè)層面遭到了批評(píng)，一些專家認(rèn)為這份公開信過于夸大了人工智能帶來的風(fēng)險(xiǎn)，一些人雖然同意公開信提到的風(fēng)險(xiǎn)，但是對(duì)信中建議的補(bǔ)救措施不敢茍同。

而這一次，發(fā)布如此簡(jiǎn)短的說明，CAIS 組織在網(wǎng)站上指出，“人工智能專家、記者、政策制定者和公眾越來越多地討論人工智能帶來的廣泛的重要和緊迫風(fēng)險(xiǎn)。即便如此，要清楚地表達(dá)對(duì)一些先進(jìn)的 AI 最嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂可能是困難的。這份簡(jiǎn)潔的聲明旨在克服這一障礙并展開討論。這也是為了讓越來越多的專家和公眾人物對(duì)待先進(jìn)人工智能的一些最嚴(yán)重的風(fēng)險(xiǎn)有共同的認(rèn)識(shí)，這樣他們也會(huì)認(rèn)真對(duì)待?！?/span>

據(jù)《紐約時(shí)報(bào)》報(bào)道，人工智能安全中心執(zhí)行主任 Dan Hendrycks 表示，今天的聲明很簡(jiǎn)潔——沒有提出任何減輕人工智能威脅的潛在方法——旨在避免這種分歧?！拔覀儾幌胪苿?dòng)包含 30 種潛在干預(yù)措施的龐大列表”，Hendrycks 說道，“當(dāng)這種情況發(fā)生時(shí)，它會(huì)淹沒掉更重要的信息。”

與此同時(shí)，Hendrycks 也指出，“系統(tǒng)性偏見、錯(cuò)誤信息、惡意使用、網(wǎng)絡(luò)攻擊和武器化，都是人工智能帶來的重要和緊迫的風(fēng)險(xiǎn)?！?/span>

也有專家認(rèn)為，一旦人工智能系統(tǒng)達(dá)到一定的復(fù)雜程度，就可能無(wú)法控制它們的行為。

簡(jiǎn)單來看，有了這樣一份聲明，參與其中的人都有了一定共識(shí)，可以共同為“減輕 AI 帶來的滅絕風(fēng)險(xiǎn)”而出謀劃策，群策群力。

OpenAI 的競(jìng)爭(zhēng)之舉？

除此之外，也有媒體將這封得到 OpenAI 大力支持的聲明，視為 OpenAI 正在搶奪先機(jī)，畢竟此前馬斯克之前試圖拿人工智能風(fēng)險(xiǎn)說事，呼吁停止 AI 開發(fā)，毫無(wú)疑問，那樣做會(huì)阻礙 OpenAI 在生成式 AI 領(lǐng)域的地位與進(jìn)度。

如今 CAIS 這封最新的聲明中，重點(diǎn)是在如何降低 AI 風(fēng)險(xiǎn)上，也在鼓勵(lì)外界為 AI 監(jiān)管政策的制定出謀劃策，自然無(wú)形之中降低了業(yè)界呼吁直接暫停開發(fā)比 GPT-4 更強(qiáng)大模型的聲音了。

至此，你怎么看待 AI 會(huì)存在滅絕人類的風(fēng)險(xiǎn)？在現(xiàn)實(shí)應(yīng)用中，你是否感受過 AI 超乎你想象的強(qiáng)大之處？歡迎留言分享。

參考：

公開信地址：https://www.safe.ai/statement-on-ai-risk#open-letter

https://techcrunch.com/2023/05/30/ai-extiction-risk-statement

https://www.theverge.com/2023/5/30/23742005/ai-risk-warning-22-word-statement-google-deepmind-openai

https://old.reddit.com/r/ChatGPT/comments/13vfrwm/i_feel_so_mad_it_did_one_search_from_a_random/