不是關掉電源就沒事 AI教父示警：殺手機器人10年內成真

dalap

加拿大多倫多大學名譽教授辛頓（Geoffrey Hinton）有「AI教父」之稱，他在接受日媒採訪時，談及人工智慧（AI）的威脅。他說，很多人以為，要防止AI失控，只要關掉電源開關就可以，「但超越人類智慧的AI可以用語言操縱我們。或許會試圖說服我們不要關掉開關」。


辛頓是「深度學習」（Deep Learning）和神經網路（模仿人腦的數學模型）的先驅，其研究幫助奠定了AI發展的基礎。2023年，辛頓突然從已工作10多年的美國谷歌辭職，開始談論AI的威脅。

《日本經濟新聞》22日刊出了對辛頓的專訪內容。辛頓表示，如果給AI設定目標，作為解決對策，它可能會找出對人類不利的方法。比方說，假設向AI下達遏制氣候變化的指令。AI會意識到為了達到目的而有必要將人類清除，他擔心真的會付諸實施的風險。

辛頓指出，今後還可能會出現不同的AI相互競爭的局面。例如，如果AI之間發生數據中心等資源的爭奪，這將是一個像生物體一樣推動進化的過程。面對透過競爭變得更聰明的AI，我們人類將落在後面。

他還預測，未來10年內將出現自主殺死人類的機器人武器（殺手機器人）。他說，機器人武器或許遲早也會被限制，但是，這可能要等到真正在戰場上被使用、人類認識到會帶來多麼悲慘的結局後才能實現。

辛頓又談到，如果從主觀經驗這一角度進行說明，他認為AI可以擁有和人類一樣的感覺。他說，人類也會經歷與客觀事實不符的事件。例如我喝了很多酒，早上醒來時，眼前因為幻覺而出現了粉紅色的小象。我不會相信小象的存在，而是會認為自己的感知系統沒有正常工作，因此這只是內在的體驗。

他說，透過照相機收集視覺訊息的AI也可以產生同樣的情況。例如，將物體放在相機前，用稜鏡使光線彎曲，形成產生物體在遠處的錯覺。如果對話式AI解釋稱感知系統因為稜鏡而不能正常工作，那麼我們就可以說它有著和人類一樣的感覺。