▲科技新創「Anthropic」。（圖／路透社）
記者張靖榕／綜合報導
美國科技巨頭亞馬遜（Amazon）執行長賈西（Andy Jassy）近日向川普政府高層表達對人工智慧（AI）安全風險的擔憂。知情人士透露，賈西本周與多位科技業領袖會晤政府官員時，特別提及AI公司Anthropic最新模型可能帶來的潛在國安威脅。
路透社報導，川普政府12日以國家安全為由，下令Anthropic禁止所有外籍人士使用旗下最先進的AI模型Fable 5與Mythos 5，無論使用者身處美國境內或海外。Anthropic隨後宣布，將在全球範圍停止相關模型的存取權限。
Anthropic在官方部落格指出，美國政府認為這些模型的安全防護機制可能遭到破解，也就是所謂的「越獄」（Jailbreak）。一旦遭有心人士利用，可能被用來辨識軟體漏洞，進而對關鍵系統造成威脅。
該公司表示，這項限制是透過美國出口管制措施實施。不過，負責執行出口管制的美國商務部工業暨安全局（BIS）截至目前尚未對相關問題發表評論。
部分支持對先進AI模型實施出口管制的專家，也對這項禁令感到意外。美國加州大學全球衝突與合作研究所（University of California’s Institute for Global Conflict and Cooperation）高級研究員古德瑞契（Jimmy Goodrich）指出，這項措施影響範圍過大，甚至連在Anthropic任職的加拿大與英國員工，都無法使用相關模型進行研發工作。
分析人士認為，禁令不僅衝擊潛在競爭對手，也波及美國盟友國家的研究人員，引發外界質疑政策是否過於倉促。
值得注意的是，Anthropic日前才被披露已秘密向美國主管機關提交首次公開募股（IPO）申請，積極籌備上市。過去該公司曾與川普政府因AI監管議題出現摩擦，而在雙方關係看似逐漸緩和之際，政府卻突然祭出嚴格限制措施，再度引發市場關注。
截至目前，亞馬遜尚未回應路透社有關賈西發言內容的置評請求。亞馬遜是Anthropic的重要投資者之一，雙方在AI領域合作密切，因此賈西對相關模型安全性的公開憂慮，也格外受到業界矚目。
讀者迴響