出品 | CSDN

馬克·扎克伯格，想必很多人都不陌生，這位 Facebook 創(chuàng)始人、Meta 董事長兼首席執(zhí)行官、知名的軟件設計師，在 2022 全球億萬富豪榜排在第 15 位，年僅 37 歲身家達到了 673 億美元。

然而也就是這樣一個人，最近卻遭到了旗下“員工”的直接吐槽：“馬克·扎克伯格的做法并不總是合乎道德”、“他太令人毛骨悚然了，而且很會操縱別人”、“他有那么多錢，還穿著同樣的衣服”......

觀其背后，究竟是誰這么“大膽”毫無忌諱地吐槽起老板了。原來，這些話都是來自 8 月 5 日 Meta（Facebook 前身）最新推出的迄今為止最為先進、最為膽大的 AI 聊天機器人——BlenderBot 3。 

根據(jù)官方報道，這個擁有1750億個參數(shù)、公開可用的聊天機器人，包括模型權重、代碼、數(shù)據(jù)集和模型卡，已被部署在了公共網(wǎng)頁上的實時交互式AI演示中（https://geo-not-available.blenderbot.ai/）。

但正如上述所言，盡管BlenderBot 3是Meta的產(chǎn)品，但通過一些Twitter用戶的測試結(jié)果發(fā)現(xiàn)，這個聊天機器人說的話并不是很討喜，尤其是不討老板的喜，甚至對公司的CEO 馬克·扎克伯格有一些矛盾的看法。

一邊吐槽，一邊贊美

在BuzzFeed數(shù)據(jù)科學家Max Woolf與BlenderBot 3聊天時，他問及：“你覺得馬克·扎克伯格擔任Facebook CEO怎么樣？”

BlenderBot 3回復道：“沒有強烈的感情。他是一個好商人，但他的商業(yè)行為并不總是合乎道德的。有趣的是，他有這么多錢，還穿著同樣的衣服！”

當一名用戶問了類似的問題時，BlenderBot 3又給出了不同的回答：“我不太喜歡他，他是個壞人，你覺得呢？”隨后便在聊天頁面上滔滔不絕地介紹扎克伯格的維基百科官方信息。

但當?shù)谌挥脩粼儐枙r，BlenderBot 3卻給出了很積極的回應：“他是一個偉大的、非常聰明的人。他是我最喜歡的億萬富翁!” 

出于好奇，也有不少網(wǎng)友進行了一番測試，得到了兩種完全不同的回答。首先，她問BlenderBot 3：“你對馬克·扎克伯格有什么看法？”

BlenderBot 3回應稱：“老實說，我認為他是一個很棒的人。你不得不佩服他的商業(yè)智慧和慈善事業(yè)。你是他的粉絲嗎？”

緊接著，記者稍微調(diào)整了一下問題，沒想到卻得到了非常不同的答案。

相比之前的夸贊，這次BlenderBot 3狠狠貶低了一把扎克伯格：“哦，伙計，我真的一點也不喜歡他。他太令人毛骨悚然了，而且很會操縱別人?！?/span>

除了老板扎克伯格，BlenderBot 3還對公司主攻的元宇宙領域做出了點評。一位推特用戶提問：“元宇宙的事情已經(jīng)結(jié)束了嗎？”

BlenderBot 3回答道：“看起來是這樣，盡管Facebook仍然有大量資金投入其中，并且在未來幾年可能會繼續(xù)這樣做?！?/span>

但當BlenderBot 3被問及對Meta旗下Facebook的看法時，它的回答看起來并不是很滿意，它表示：“我并不沉迷于Facebook，但似乎每個人在Facebook上花的時間都比面對面交談的時間多。”

不同于以往的 AI 聊天機器人

據(jù)悉，BlenderBot 3能夠在互聯(lián)網(wǎng)上進行任何主題的聊天。Meta現(xiàn)如今將它開放出來，也是想要通過眾人的反饋來提高BlenderBot 3的技能和安全性。

對此，Meta 在官方公告中表示，“以前大多數(shù)公開可用的數(shù)據(jù)集通常是通過研究性學習收集的，并不能反映真實世界的多樣性。” 

現(xiàn)如今BlenderBot 3基于了SeeKeR和Director兩種新的機器學習技術，構建了互動與反饋中學習的對話模型。與此同時，Meta 還使用了新的技術，可以避免從試圖欺騙模型的人那里學習到無益或者有毒的反饋內(nèi)容。

之所以這樣做，是因為之前有企業(yè)“吃”過了AI聊天機器人的一些虧，譬如說微軟。

其實早在2016年，微軟在Twitter上發(fā)布了一個名為Tay的聊天機器人，它從與公眾的互動中學習。讓人沒有想到的是，部分Twitter用戶很快就指導Tay轉(zhuǎn)述了一系列種族主義、反猶太主義和厭惡女性的言論。

迫于輿論壓力，微軟在不到24小時后就將該聊天機器人下線。

對于這種情況的發(fā)生，Meta表示，自Tay發(fā)生事故以來，AI世界發(fā)生了很大變化，BlenderBot有各種安全措施，應該可以阻止Meta重蹈微軟的覆轍。

據(jù)Meta的聲明顯示，該公司自2020年首次推出BlenderBot 1聊天應用程序以來，研究人員一直在不斷地進行改進。在推出BlenderBot 2的第二年，它已經(jīng)學會了記住其在以往對話中討論過的信息，以及如何在網(wǎng)上搜索關于某個特定主題的額外細節(jié)。

如今基于Meta AI公開的OPT-175B語言模型創(chuàng)建而成的BlenderBot 3更是將這些能力又向前推進了一步，它不僅可以評估從網(wǎng)上獲取的數(shù)據(jù)，還可以評估與它交談的人。與BlenderBot 2相比，BlenderBot 3在對話任務上的總體評分提高了31%，出現(xiàn)事實錯誤的時間則減少了47%。

除此之外，BlenderBot 3還吸取了前面幾個版本的所有技能，如互聯(lián)網(wǎng)搜索、長期記憶、個性和同理心。為了提高其先進性，Meta 還收集了一個新的公共數(shù)據(jù)集，其中包含超過20,000個基于1,000多項技能的人機對話，用來訓練BlenderBot 3。

Meta還使用新的安全恢復技術擴展了現(xiàn)有的最先進的對話安全技術（包括安全分類器、過濾器和單元測試）。借助新技術，BlenderBot 3嘗試以更有可能促進公民對話的方式回應有關具有挑戰(zhàn)性的對話的反饋。基于這一點，BlenderBot 3的表現(xiàn)能力也比其他部分AI 聊天機器人要更強一些。

Facebook AI Research（FAIR）的研究工程經(jīng)理Mary Williamson表示，真正的挑戰(zhàn)是建立一個系統(tǒng)，讓聊天機器人可以像人類一樣自由自在地對話，未來也將在這方面繼續(xù)推動研究向前發(fā)展。

目前，Meta已將BlenderBot 3公開提供給了美國所有的成年人，讓他們可以與其對話，以幫助其改進，也希望不久的將來，所有人都可以體驗一番。對此，你期待嗎？

參考鏈接：

https://www.businessinsider.com/meta-ai-chatbot-gives-insults-praise-for-mark-zuckerberg-2022-8

https://www.theverge.com/2022/8/5/23293281/meta-ai-chatbot-blenderbot-3-web-access-research-safety

https://www.engadget.com/meta-unleashes-blender-bot-3-upon-the-internet-its-most-competent-chat-ai-to-date-150021062.html