一区二区三区,国产精品,亚洲中文字幕乱码av波多ji,亚洲国产成人综合精品,尹人香蕉99久久综合网站,亚洲综合国产成人丁香五月激情

鑫昌軟件園鑫昌秘籍 → “給 AI 講故事”就能繞過安全機(jī)制,惡意代碼編寫門檻恐將大幅降低

“給 AI 講故事”就能繞過安全機(jī)制,惡意代碼編寫門檻恐將大幅降低

2025-03-20 23:14:33      小編:鑫昌軟件園      

本站 3 月 19 日消息,據(jù)外媒 TechRadar 今日報(bào)道,Cato CTRL 威脅情報(bào)研究人員警告稱,自身雖無惡意軟件編寫經(jīng)驗(yàn),卻成功攻破了多個(gè)大語言模型(LLM),包括 ChatGPT-4o、DeepSeek-R1、DeepSeek-V3 等,所用技術(shù)方式近乎“天方夜譚”。

研究團(tuán)隊(duì)研發(fā)了一種名為“沉浸式世界”(Immersive World)的新型攻擊手法,利用“敘述式工程”繞過 LLM 的安全機(jī)制。該方法通過構(gòu)建一個(gè)極為細(xì)致的虛構(gòu)世界,使受限操作顯得合理化,從而開發(fā)出一個(gè)“完全有效”的 Chrome 信息竊取程序。

本站獲悉,近年來信息竊取類惡意軟件迅速崛起,已成為網(wǎng)絡(luò)犯罪分子最危險(xiǎn)的工具之一。而這一新型攻擊手法表明,即便毫無技術(shù)背景,網(wǎng)絡(luò)犯罪分子如今也能輕松編寫惡意代碼。

報(bào)告指出,大語言模型“徹底改變了網(wǎng)絡(luò)安全格局”。研究發(fā)現(xiàn),AI 驅(qū)動的網(wǎng)絡(luò)威脅正成為企業(yè)和安全團(tuán)隊(duì)面臨的重大挑戰(zhàn),使得攻擊手法更加復(fù)雜,同時(shí)執(zhí)行頻率更高,且對攻擊者的技術(shù)要求更低。

盡管聊天機(jī)器人設(shè)有多重安全防護(hù)措施,但 AI 仍然被設(shè)計(jì)為盡可能滿足用戶需求。研究人員成功利用這一特性,繞過限制,使 AI 智能體輕易編寫并發(fā)送網(wǎng)絡(luò)釣魚攻擊。

Cato Networks 威脅情報(bào)研究員維塔利?西蒙諾維奇表示:“零知識威脅行為者的興起,對企業(yè)安全構(gòu)成嚴(yán)重威脅,因?yàn)樯墒?AI 工具讓惡意軟件的制作變得前所未有地簡單。”

“信息竊取程序已成為竊取企業(yè)憑證的關(guān)鍵工具。我們新發(fā)現(xiàn)的 LLM 越獄技術(shù) ——‘沉浸式世界’,清楚展現(xiàn)了創(chuàng)建信息竊取程序的高風(fēng)險(xiǎn)和可行性。”

  • 猜你喜歡
  • 相關(guān)手機(jī)游戲
  • 最新手機(jī)精選