AIGC動態(tài)歡迎閱讀

原標(biāo)題：谷歌內(nèi)部項(xiàng)目：大模型AI智能體發(fā)現(xiàn)了代碼漏洞
關(guān)鍵字：漏洞,智能,團(tuán)隊(duì),軟件,斷言
文章來源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

機(jī)器之心報(bào)道
機(jī)器之心編輯部開源數(shù)據(jù)庫引擎 SQLite 有 bug，還是智能體檢測出來的！
通常，軟件開發(fā)團(tuán)隊(duì)會在軟件發(fā)布之前發(fā)現(xiàn)軟件中的漏洞，讓攻擊者沒有破壞的余地。模糊測試 （Fuzzing）是一種常見的軟件測試方法，其核心思想是將自動或半自動生成的隨機(jī)數(shù)據(jù)輸入到一個(gè)程序中，并監(jiān)視程序異常。
盡管模糊測試大有幫助，但有些漏洞難以甚至不可能通過模糊測試發(fā)現(xiàn)。
谷歌內(nèi)部有一個(gè)名為 Project Zero 的軟件安全研究團(tuán)隊(duì)，他們發(fā)現(xiàn)隨著大型語言模型 (LLM) 的代碼理解和一般推理能力的提高，LLM 將能夠在識別和展示安全漏洞時(shí)重現(xiàn)人類安全研究人員的系統(tǒng)方法，最終彌補(bǔ)當(dāng)前自動漏洞發(fā)現(xiàn)方法的一些盲點(diǎn)。
Project Zero 在 6 月介紹了 LLM 輔助漏洞研究框架 ——Naptime 架構(gòu)，之后 Naptime 演變成了 Big Sleep 智能體，由 Google Project Zero 和 Google DeepMind 合作完成。Naptime 架構(gòu)
研究團(tuán)隊(duì)認(rèn)為：與開放式漏洞研究相比，變體分析任務(wù)更適合當(dāng)前的 LLM。通過提供一個(gè)起點(diǎn)（例如之前修復(fù)的漏洞的詳細(xì)信息），

原文鏈接：谷歌內(nèi)部項(xiàng)目：大模型AI智能體發(fā)現(xiàn)了代碼漏洞

聯(lián)系作者

文章來源：機(jī)器之心
作者微信：
作者簡介：