(資料圖)

5月5日消息，據(jù)外媒報(bào)道，英偉達(dá)正在將其面向提高自動駕駛汽車的安全性能所開發(fā)的“護(hù)欄技術(shù)”應(yīng)用到當(dāng)前大熱的“語言大模型”（GPT）之中，用以解決當(dāng)下語言大模型面對垃圾數(shù)據(jù)所產(chǎn)生的“垃圾輸入，垃圾輸出”的問題。

據(jù)悉，“護(hù)欄技術(shù)”可以幫助大模型控制它的輸出，以及過濾它的輸入內(nèi)容。當(dāng)用戶誘導(dǎo)大模型生成攻擊性代碼，輸出不道德內(nèi)容的時(shí)候，護(hù)欄技術(shù)在一定程度上可以限制輸出不安全的內(nèi)容。同時(shí)，護(hù)欄技術(shù)還能保護(hù)大模型不受用戶的攻擊，幫它擋住來自外界的惡意輸入。

目前，英偉達(dá)正在將護(hù)欄技術(shù)整合進(jìn)他們的 AI 框架 NeMo 中，這是個方便用戶創(chuàng)建各種 AI 模型、并在英偉達(dá) GPU 上加速的框架。

關(guān)鍵詞：