人工智能終將毀滅人類？

早前，社交網絡龍頭Facebook（Fb）積極研究人工智能（AI），開發聊天機械人並教導它們談判。惟近日一份報告顯示，研究人員於實驗中發現機械人竟自行發展「人類無法理解」的語言溝通，團隊事後煞停有關研究。有人猜測是Fb擔心演變成電影《智能叛變》般的可怕劇情，帶來災難後果。
兩個分別名叫Alice及Bob的AI聊天機械人，運用英語學習「策略對話」，互相對話以發展談判技巧。在實驗中，兩部機械人會通過談判來瓜分一堆物品，每種物品對雙方而言均有不同價值，機械人會嘗試將利益最大化，並學會減少無謂及含糊的說話，提高效率。AI雖然比人類易捉摸，但它們在過程中竟學會了耍手段，懂得假裝自己很想要某樣物品，然後再假裝自己已作很大的犧牲，騙取對方妥協。但同時發現，AI在談判過程中為了更方便地溝通，自行發展出一套不符文法的語言，能互相理解，但人類卻難以明白，對話看上去甚為「詭秘」。

事實上，人類由買賣交易到運動競技、以至打仗行軍，都會發展出獨一無二的「語言」，因為有時不遵從語言規則可令溝通更有效－－到茶餐廳點杯凍檸茶，侍應會在帳單上寫上「0T」，這些獨特的語言在生活上隨處可見。「AI機械人會漸漸偏離可明白的語言，然後自己發明一些代碼。」若果AI能暗中溝通而人類不明白，極為危險，令人恐懼。研究聊天機械人的目的是能與人類溝通，但Alice及Bob發展出只有它們自己能明白的語言，偏離研究目的。