人工智能終將毀滅人類?

戲‧如人生 於 05/06/2020 發表 收藏文章
早前,社交網絡龍頭Facebook(Fb)積極研究人工智能(AI),開發聊天機械人並教導它們談判。惟近日一份報告顯示,研究人員於實驗中發現機械人竟自行發展「人類無法理解」的語言溝通,團隊事後煞停有關研究。有人猜測是Fb擔心演變成電影《智能叛變》般的可怕劇情,帶來災難後果。

兩個分別名叫Alice及Bob的AI聊天機械人,運用英語學習「策略對話」,互相對話以發展談判技巧。在實驗中,兩部機械人會通過談判來瓜分一堆物品,每種物品對雙方而言均有不同價值,機械人會嘗試將利益最大化,並學會減少無謂及含糊的說話,提高效率。AI雖然比人類易捉摸,但它們在過程中竟學會了耍手段,懂得假裝自己很想要某樣物品,然後再假裝自己已作很大的犧牲,騙取對方妥協。但同時發現,AI在談判過程中為了更方便地溝通,自行發展出一套不符文法的語言,能互相理解,但人類卻難以明白,對話看上去甚為「詭秘」。

事實上,人類由買賣交易到運動競技、以至打仗行軍,都會發展出獨一無二的「語言」,因為有時不遵從語言規則可令溝通更有效--到茶餐廳點杯凍檸茶,侍應會在帳單上寫上「0T」,這些獨特的語言在生活上隨處可見。「AI機械人會漸漸偏離可明白的語言,然後自己發明一些代碼。」若果AI能暗中溝通而人類不明白,極為危險,令人恐懼。研究聊天機械人的目的是能與人類溝通,但Alice及Bob發展出只有它們自己能明白的語言,偏離研究目的。


如果喜歡我們的文章,請即分享到︰

留言


請按此登錄後留言。未成為會員? 立即註冊
    快捷鍵:←
    快捷鍵:→