防止AI失控導致人類滅絕！ OpenAI：目前還沒有任何解方

▲ChatGPT帶起的AI風潮，引發人類滅絕疑慮。（圖／路透）

記者張靖榕／綜合外電報導

OpenAI製作的ChatGPT為全球開創新局，不過近來共同創辦人奧特曼（Sam Altman）頻頻示警AI可能帶來的危險，該公司5日更表示，將建立一個新的研究團隊，確保人工智慧繼續保持對人類無害，最終將透過AI來監督AI自身的發展。

路透社報導，OpenAI共同創辦人蘇茨凱佛（Ilya Sutskever）與AI對齊負責人來克（Jan Leike）共同撰寫一則貼文，以嚴重措辭警告，「超級智能的巨大能力，可能導致人類喪失權力，甚至可能導致人類滅絕」，「目前，我們對於控制一個潛在的超級智能AI還沒有任何解方，也無法預防AI失控。」

文中預測，作為一個超越人類智能的系統，超級智能AI有可能在10年內誕生，人類需要比當前更厲害的技術來控制超級智能AI，代表必須在「對齊研究」上有所突破。文中指出，「對齊研究」是聚焦於確保AI如何持續對人類有益的研究。

由微軟支持的OpenAI正投入20％的計算能力，預計在未來4年內解決這項問題，該公司正針對這項任務籌組一個新的研究團隊。該團隊的目標是打造一個「人類等級」的AI對齊研究員， 然後透過龐大的計算能力擴展它。

OpenAI表示，這代表將會以人類反饋的方式訓練AI系統，訓練AI系統協助人類評估，最終訓練AI系統實際上進行研究「對齊研究」。

AI安全倡導者黎溪（Connor Leahy）指出，OpenAI的計畫存在根本性缺陷，因為原始的人類等級人工智能在被迫解決AI安全問題前，可能就會失控並造成破壞。

AI的潛在危險一直是相關人員甚至一般大眾擔心的問題，一群AI界領袖和專家，包括特斯拉創辦人馬斯克在內，今年4月曾共同簽署一封公開信，呼籲暫停開發比OpenAI「ChatGPT-4」更強大的系統，至少6個月的時間，理由是更先進的AI將可能對社會造成風險。

路透社和益普索5月的一項民調結果顯示，超過3分之2的美國人擔心AI可能會帶來負面影響，61％的人更認為將威脅人類文明。

註：AI對齊（AI Alignment）是指框架人工智慧系統的目標、價值觀與行為，使其與人類社會的期望一致。人類設計AI系統時，會希望AI解決問題的同時，也將人類利益納入考量範圍，預防對人類產生危害，AI對齊目標即是確保AI在每個過程中都能符合人類期望，並與人類達成相互協作。