(資料圖)

5月5日消息，據(jù)外媒報(bào)道，英偉達(dá)正在將其面向提高自動(dòng)駕駛汽車(chē)的安全性能所開(kāi)發(fā)的“護(hù)欄技術(shù)”應(yīng)用到當(dāng)前大熱的“語(yǔ)言大模型”（GPT）之中，用以解決當(dāng)下語(yǔ)言大模型面對(duì)垃圾數(shù)據(jù)所產(chǎn)生的“垃圾輸入，垃圾輸出”的問(wèn)題。

據(jù)悉，“護(hù)欄技術(shù)”可以幫助大模型控制它的輸出，以及過(guò)濾它的輸入內(nèi)容。當(dāng)用戶誘導(dǎo)大模型生成攻擊性代碼，輸出不道德內(nèi)容的時(shí)候，護(hù)欄技術(shù)在一定程度上可以限制輸出不安全的內(nèi)容。同時(shí)，護(hù)欄技術(shù)還能保護(hù)大模型不受用戶的攻擊，幫它擋住來(lái)自外界的惡意輸入。

目前，英偉達(dá)正在將護(hù)欄技術(shù)整合進(jìn)他們的 AI 框架 NeMo 中，這是個(gè)方便用戶創(chuàng)建各種 AI 模型、并在英偉達(dá) GPU 上加速的框架。

關(guān)鍵詞：