機器有了“心”AI能“讀懂”人類價值觀

科技日報北京7月13日電 （記者華凌 通訊員董亦飛）記者13日從北京大學人工智能研究院獲悉，由該院教授朱松純領銜的聯合團隊取得一項重大研究成果，構建出一種機器實時理解人類價值觀的計算框架，讓機器人與人類用戶通過實時溝通完成一系列復雜人機協作任務。這一研究可謂為機器立“心”，讓AI（人工智能）賦能機器人“讀懂”人類價值觀。相關論文以“實時雙向人機價值對齊”為題刊發在最新一期的國際期刊《科學·機器人學》上。

據了解，當今廣泛應用的AI系統是一種被動的智能，只能機械地按照人類給定的任務行事，缺乏像人類一樣的認知和推理能力以及情感和價值觀。在缺“心”的情況下，AI很難理解人類真正的意圖及價值需求，自然也就難以獲取人類的信任、融入社會。

在發現之前的研究范式存在局限性之后，朱松純帶領研究團隊轉換賽道，讓AI系統按照人的方式自主定義任務，“學習”人從自身的價值需求出發，由此為機器立“心”，讓AI學會人的價值函數，具有實時對齊當前人類價值目標的能力，探索出“小數據，大任務”的范式。