解決 AI 落地的最大障礙,OpenAI 找到辦法了? 焦點快看
OpenAI 似乎找到了解決生成式人工智能 " 一本正經胡說八道 " 的辦法。
5 月 31 日,OpenAI 在其官網宣布,已經訓練了一個模型,能夠有助于消除生成式 AI 常見的 " 幻覺 " 和其他常見問題。
OpenAI 表示,可以訓練獎勵模型來檢測幻覺,獎勵模型又分為結果監督(根據最終結果提供反饋)或過程監督(為思維鏈中的每個步驟提供反饋)模型。
【資料圖】
也就是說,過程監督獎勵推理的每個正確步驟,而結果監督只是簡單地獎勵正確的答案。
OpenAI 表示,相比之下,過程監督有一個重要的優勢——它直接訓練模型以產生由人類認可的思維鏈:
過程監督與結果監督相比有幾個一致性優勢。它直接獎勵遵循一致的思維鏈的模型,因為過程中的每一步都得到了精確的監督。
過程監督也更有可能產生可解釋的推理,因為它鼓勵模型遵循人類批準的過程
結果監督可能會獎勵一個不一致的過程,而且通常更難審查。
OpenAI 在數學數據集上測試了這兩種模型,發現過程監督方法導致了 " 顯著更好的性能 "。
但需要注意的是,到目前為止,過程監督方法僅在數學領域進行了測試,并且需要更多的工作來觀察它如何更普遍地執行。此外,OpenAI 沒有說明這一研究需要多長時間才能應用在 ChatGPT,它仍然處于研究階段。
雖然最初的結果是好的,但 OpenAI 確實提到,更安全的方法會產生降低的性能,稱為對齊稅(alignment tax)。
目前的結果顯示,在處理數學問題時,過程監督不會產生對齊稅,但在一般的信息上的情況尚不知曉。
生成式 AI 的 " 幻覺 "
生成式 AI 問世以來,圍繞其編造虛假信息、" 產生幻覺 " 的指控從未消失,這也是目前生成式 AI 模型最大的問題之一。
今年 2 月,谷歌為應對微軟資助下 ChatGPT,倉促推出了聊天機器人 Bard,結果卻被發現在演示中出現了常識性錯誤,導致谷歌股價大跌。
導致 AI 出現幻覺的原因有多種,輸入數據欺騙 AI 程序進行錯誤分類是其中一種。
例如,開發人員使用數據 ( 如圖像、文本或其他類型 ) 來訓練人工智能系統,如果數據被改變或扭曲,應用程序將以不同的方式解釋輸入并產生不正確的結果。
幻覺可能會出現在像 ChatGPT 這樣的基于語言的大型模型中,這是由于不正確的轉換器解碼,導致語言模型可能會產生一個沒有不合邏輯或模糊的故事或敘述。
關鍵詞:
相關閱讀
-
解決 AI 落地的最大障礙,OpenAI 找...
OpenAI似乎找到了解決生成式人工智能一本正經胡說八道的辦法。5月31... -
全球熱議:合肥:小學生校園獲贈科普大禮...
安青網訊6月1日,合肥市香樟雅苑小學舉行了“香雅少年心向黨、歡度... -
極境求生:特種部隊野外生存手冊_關于極...
1、《極境求生:特種部隊野外生存手冊》是2012年新世界出版社出版的... -
焦點滾動:南陽市鎮平縣:開足馬力搶收小...
近日,在河南省南陽市鎮平縣,小麥陸續迎來豐收,麥浪滾滾,金穗飄... -
助力中青年醫生科研成果轉化 持續提升...
第三屆“人民好醫生·金山茶花計劃”鼻咽癌領域完成審議工作,審議... -
今熱點:埃安5月銷量45,003輛,環比增長10%
6月1日,埃安發布5月銷量數據,5月銷售45,003輛,環比增長10%,1-5... -
哪吒汽車2023年5月交付13029臺_今日看點
6月1日,哪吒汽車5月銷量出爐。5月,哪吒汽車交付13029臺。其中,哪... -
世界微資訊!債務上限法案在美國眾議院...
投票總數為314票贊成,117票反對。共和黨人以149票對71票贊成該法案... -
南方醫科大學順德醫院開展院內首例銅離...
珠江商報訊記者吳小鏞通訊員王家智報道:市民舒先生被痔瘡困擾多年... -
大良社區衛生服務中心試行開展家庭病床...
珠江商報訊記者葉芝婷通訊員白雪譚杏映報道:近日,大良社區衛生服... -
【天天熱聞】隨手發圈曬美食可領現金!...
珠江商報訊記者李蕓報道:在小紅書、視頻號、抖音等社交媒體平臺上... -
38.7℃!熱到破紀錄,順德區啟動高溫Ⅳ...
珠江商報訊記者冼穎儀報道:記者昨日從順德區氣象臺獲悉,截至5月31... -
容桂衛紅社區開展高溫慰問活動 為戶外...
珠江商報訊記者杜達雄通訊員趙俊浩報道:夏日炎炎,酷暑難耐,但不... -
銀洲湖西岸一體發展區高質量發展系列活...
江門日報訊(記者 黃勝)5月31日,新會區舉辦銀洲湖西岸一體發展區... -
我市將深入開展“安全生產月”和“安全...
□江門日報記者皇智堯通訊員馮松6月是全國第22個“安全生產月”。5... -
每日頭條!鄧州市職業技術學校參加南陽市...
阿穎仔細了解了學校的專業設置和學生學習情況,對鄧州市職業教育的... -
鄧州市舉行第二屆責任督學聘任儀式
為進一步加強我市教育督導工作,5月26日,鄧州市召開第二屆督學聘任... -
南陽市官莊工區赤虎街道集中開展小化工...
自5月19日起,官莊工區赤虎街道按照“縱到底、橫到邊、全覆蓋、無死... -
AI、馬斯克與“聯產承包”的隨想
今天出門找同學玩,喝了點酒,回酒店有點晚,就隨便簡單聊點,想到... -
男子親吻海報上女醫生照片 醫院回應事...
1、5月31日,安徽阜陽一名男子站在某醫院的宣傳欄前狂親其中一名女...