微軟高層:AI聊天機器人須學會求助 別編造答案

分享到

(中央社舊金山31日綜合外電報導)微軟公司(Microsoft)副總裁辛赫(Vik Singh)表示,生成式人工智慧(Generative AI)工具將為企業節省大量時間和金錢,但模型必須學會承認自身並非無所不能。

辛赫接受法新社訪問說道,現在真正缺少的是,會有模型舉手說「嘿,我不確定,我需要幫助」。

從去年以來,微軟、谷歌(Google)及其競爭對手一直迅速推出類似ChatGPT的生成式AI應用程式,這些應用程式可以依據要求生成各種內容,給予用戶一種無所不知的錯覺。

儘管取得了進展,生成式AI應用程式依然「產生幻覺」或編造答案。

這是微軟高層需要解決的重要問題,辛赫的企業客戶無法承受微軟AI系統出包的後果。

雲端軟體巨擘Salesforce執行長班紐夫(Marc Benioff)本週指出,他看到許多客戶對微軟人工智慧輔助工具Copilot的胡言亂語愈來愈感到沮喪。

辛赫堅稱,「真正聰明的人」正試圖尋找方法,讓聊天機器人承認「它不知道正確答案,並尋求幫助」。(譯者:陳昱婷/核稿:陳彥鈞)1130901