在研發AI的過程,從建立模型到開發工具,都有多項需要調校的工作,以提高回答正確率,並符合社會規範,而後者稱為「AI對齊」(AI Alignment)。
根據ChatGPT的解釋,「AI對齊是指確保AI發展符合人類價值觀、倫理與社會利益;當生成式AI、自治系統與超級智慧成為可能,如何避免AI脫離控制,甚至違反人類利益,是重要課題。」
AI對齊是把關安全。當有人問AI如何製造毒品和槍枝,或如何騙取別人財物這類問題時,不管是違法或違背善良風俗,AI要能分辨出來並拒答。
前年11月,OpenAI董事會突然開除執行長的宮鬥事件,據傳就是內部對未完成安全把關就推出新版服務有不同意見所致。
當全世界研究者費心將AI對齊人類社會價值觀的同時,雨後春筍出現的各種語言模型和工具,則讓使用者目不暇給,努力「對齊AI」(Align with AI),跟上迭代腳步。學會下提示詞只是基本款。在AI發展的先後4個階段:「感知式」、「生成式」、「代理式」和「實體式」(Physical,自駕車和機器人),我們正經歷第2階段進到第3階段,節奏愈來愈快。
AI對齊和對齊AI,如同數位孿生般虛實並存,互相向對方靠攏,不會停止。
AI對齊的是行之有年的社會規範,屬於專家的工作;對齊AI則要面對不斷變化的技術和應用,屬於整個社會的功課,難度更大。
我們試著讓這項難度類似站在月台,看著高速行駛過的列車上人物臉孔能被辨識這件事變得可行。本期封面故事是74頁的大型製作,以「語言模型」、「晶片」、「數據準備」、「搜尋」和「應用」5個類別,先蒐集全球431家公司,經內部多次討論挑選出100家最具類別代表性的,進行介紹分析,並連絡到其中5家做越洋專訪。
這是一次盤點,而不是排行,目的是幫讀者做功課,而不是為廠商分高下。同場加映的還有台灣AI 50,採用相同的工作方法挑選製作。謝謝同事James和特約Aaron協助資料蒐集,主編君毅和採編玲臻的企畫採寫,和編輯部同事的協力。
除了雜誌報導,數位時代在第2季跨部門共同製作的這項「AI IN ACTION」年度專案中,後續還有主題影片、直播論壇和未來商務展這3個部分,分別在4、5、6這3個月推出。
對齊AI,同步趨勢,就從現在。