(圖片來(lái)源：Shutterstock)

ESET 今天宣布發(fā)現(xiàn)了“首個(gè)已知的人工智能勒索軟件”。該勒索軟件被命名為 PromptLock，大概是因?yàn)榕c生成式人工智能相關(guān)的一切似乎都要加上“prompt”前綴。

ESET 表示，這種惡意軟件使用由 OpenAI 開發(fā)的開源權(quán)重大型語(yǔ)言模型來(lái)生成可以在 Windows、macOS 和 Linux 系統(tǒng)上執(zhí)行各種功能的腳本，并通過(guò)每次表現(xiàn)出略微不同的行為來(lái)混淆防御工具。

“PromptLock 利用從硬編碼提示生成的 Lua 腳本來(lái)枚舉本地文件系統(tǒng)、檢查目標(biāo)文件、竊取選定數(shù)據(jù)并執(zhí)行加密，” ESET 在一個(gè)關(guān)于該惡意軟件的 Mastodon 帖子中說(shuō)?！案鶕?jù)檢測(cè)到的用戶文件，該惡意軟件可能會(huì)竊取數(shù)據(jù)、加密數(shù)據(jù)，或者可能銷毀數(shù)據(jù)。盡管銷毀功能似乎尚未實(shí)現(xiàn)?！?/p>

Lua 看起來(lái)可能是一個(gè)奇怪的編程語(yǔ)言選擇，用于勒索軟件；它主要以其在 Roblox 中開發(fā)游戲或在 NeoVim 文本編輯器中開發(fā)插件而聞名。但實(shí)際上，它是一種通用語(yǔ)言，為勒索軟件操作員提供了多種優(yōu)勢(shì)——包括良好的性能、跨平臺(tái)支持，以及專注于簡(jiǎn)單性，使其非常適合 "vibe 編碼 "。

需要記住的是，LLMs 是非確定性的；即使你使用相同的輸入、相同的提示在相同的設(shè)備上對(duì)相同的模型進(jìn)行相同的操作，其輸出也會(huì)改變。如果你期望它們?cè)谝欢螘r(shí)間內(nèi)表現(xiàn)出完全相同的行為，這會(huì)讓人沮喪，但勒索軟件操作員并不一定需要這樣，因?yàn)檫@樣做使得防御工具更容易將行為模式與已知惡意軟件相關(guān)聯(lián)。

PromptLock "通過(guò)本地使用 OpenAI 的 gpt-oss:20b 模型，通過(guò) Ollama API 動(dòng)態(tài)生成惡意 Lua 腳本"，這有助于它逃避檢測(cè)。該模型在本地運(yùn)行的事實(shí)也使得 OpenAI 無(wú)法告密——如果每次生成這些腳本時(shí)他們都必須調(diào)用其服務(wù)器上的 API，那么他們的把戲就會(huì)敗露。而且，由于腳本在別人的系統(tǒng)上運(yùn)行，所以“氛圍編碼”的弊端也不適用。

也許這能為 AI 公司帶來(lái)一個(gè)不錯(cuò)的安慰獎(jiǎng)。是的，他們正 面臨巨額訴訟 。當(dāng)然，基本上 沒(méi)有人看到 采納他們的服務(wù)的任何好處。好吧，所以 就連 Meta 也正在削減 其 AI 相關(guān)的支出狂潮。但沒(méi)有人可以說(shuō) AI 是無(wú)用的——它已經(jīng)說(shuō)服了一些勒索軟件運(yùn)營(yíng)商在他們的軟件中使用本地模型！

這算是有意義的事情，對(duì)吧？