(資料圖)

5月5日消息，據(jù)外媒報道，英偉達正在將其面向提高自動駕駛汽車的安全性能所開發(fā)的“護欄技術”應用到當前大熱的“語言大模型”（GPT）之中，用以解決當下語言大模型面對垃圾數(shù)據(jù)所產(chǎn)生的“垃圾輸入，垃圾輸出”的問題。

據(jù)悉，“護欄技術”可以幫助大模型控制它的輸出，以及過濾它的輸入內(nèi)容。當用戶誘導大模型生成攻擊性代碼，輸出不道德內(nèi)容的時候，護欄技術在一定程度上可以限制輸出不安全的內(nèi)容。同時，護欄技術還能保護大模型不受用戶的攻擊，幫它擋住來自外界的惡意輸入。

目前，英偉達正在將護欄技術整合進他們的 AI 框架 NeMo 中，這是個方便用戶創(chuàng)建各種 AI 模型、并在英偉達 GPU 上加速的框架。

關鍵詞：