科技新報/史蒂芬霍金:我們該擔憂人工智慧的時機到了

圖、文/科技新報

在世界上占主導地位的科技企業支持下,這幾年人工智慧技術進展非常快速,面對充滿人工智慧的世界,美國著名科幻小說家,同時也是生化教授 Isaac Asimov,1950 年時即在其著作《我,機器人》中定出機器人三律,後來還成為機械倫理學基礎。近期美國科學家 Steve Omohundro 在一份論文中提出六種邪惡的人工智慧系統,針對此,以史蒂芬霍金為首的科學家也發出警告,認為這問題的確值得擔憂。

Steve Omohundro 的論文題出一個假想畫面,一個機器人被指派運送 Amazon 商品,想當然他的腦袋裡會被植入一個系統可以處理周遭環境的阻礙,如果你試著阻止他,機器人會把你當成障礙,甚至把你處理掉。史蒂芬霍金認為,近期人工智慧雖然離科幻電影裡面的樣子還很遠,但隨著技術進展快速,人工智慧導致人類毀滅的可能性確實該被提出來討論。

史蒂芬霍金在英國媒體 The Independent 表示,Google 的自動駕駛汽車,IBM 的華生電腦贏得益智節目冠軍,蘋果的數位個人助理 Siri 等等,只是龐 IT 軍備競賽成果當中的鳳毛麟角。但是霍金指出,這些龐大投資產出的成就,絕對不包含這些技術會為接下來數十年的人類社會帶來甚麼危害。

霍金認為,人工智慧很有可能是人類最偉大的發明,但前提是,人類必須先知道避免風險的方式才有權力享有他們。然而,目前我們只知道這些技術智勝財務金融市場,比人類研究員更聰明,擺脫人類領袖的操縱,且能夠發展我們無法理解的武器。霍金指出,人工智慧短期的衝擊來自於控制他們的人,但長期來看,這些機器人能否被控制住才是個大問題。

科學家 Steve Omohundro 提出阻止邪惡人工智慧的方式,即第一時間就避免傷害性的人工智慧系統被製造出來,在寫程式的時候避免使用帶傷害性字眼的指令。此外,在邪惡的人工智慧還沒取得太多資源之前,提前偵測並立即關機,這一步驟只是要開發者注意這些自主性的系統,他你發現這系統不好的時候就趕快關機。若太晚發現,邪惡的人工智慧可能會給人類帶來一場噩夢。

看完科學家的擔憂有沒有讓你感到一點毛骨悚然呢?

Stephen Hawking Is Worried About Artificial Intelligence Wiping Out Humanity
There Are Only 3 Ways To Stop The Inevitable Robot Uprising
 

【本文章由科技新報授權提供,更多精彩內容請詳科技新報官網】

※本文版權所有,非經授權,不得轉載。[ ETtoday著作權聲明 ]

女同事傳睡衣照!木頭男秒石化 見「清涼銷魂引誘」網:逆天單身派

名家熱門新聞

曲折離奇的騙中騙

生命何其珍貴的存在逝去也不消失

販賣仇恨達政治目的魔鬼遍全世界

夢到貓咪代表什麼意思呢?

7道超下飯的絞肉料理

5道電鍋懶人菜  真的簡單到爆

小生:3招判斷男人對妳超有意思

10道你非吃不可的蝦料理(上)

一次學會5款雞湯 作法超懶人!

超市火鍋肉片變出5道美味料理

落健生髮水的效果及風險

愛劈腿?圖解6大「感情線」手相

東京迪士尼萬聖節開放扮裝!

少年pi的三個寓意及一個主題

相關新聞

讀者迴響

熱門新聞

最夯影音

更多

熱門快報

回到最上面