生成式AI盛行 MSCI:個人隱私、資料安全、人力資本備受關注

2024年01月25日 02:37

▲▼OpenAI,ChatGPT。(圖/CFP)

▲ChatGPT引爆AI熱潮,MSCI提醒企業應重視的AI治理問題。(示意圖/CFP)

記者潘姿吟/台北報導

ChatGPT在2023年引爆了人工智慧的熱潮,激發了各界對AI技術的關注。正當全球企業大力發展生成式人工智慧(AI)技術,MSCI提醒,由於人們對個人資料安全和公司治理問題的日益關注,企業管理AI技術的能力,將是重要的ESG評量指標,包括個人隱私與資料安全的保護措施,以及人力資本管理等,都是需要關注的層面。

MSCI在2024年《永續與氣候趨勢展望》報告中特別強調,AI的發展將是企業與投資人不可忽視的重大趨勢。MSCI分析,參與AI基礎模型和應用開發的科技公司,需要採用更有效的防護措施,至於開發人工智慧應用程式的公司,則應檢視消費者隱私條款應用範圍,以確保使用安全。

MSCI ESG與氣候研究部大中華區主管郭思平指出,「技術本身是中立的,但風險和機遇則來源於人們如何應用這些技術,這就是需要特別關注AI治理這個議題的原因。」若是企業的管理能力薄弱,將暴露在相關的風險當中;若是企業具備較强風險管理能力,即有望更好的抓住AI時代所帶來的商業機會。

隨著生成式AI逐步融入日常生活,郭思平說明,許多消費者可能還沒有意識到,大多數生成式AI應用在預設使用我們的對話或行為數據資料,以進行模型訓練,甚至在AI換臉等應用中,都可能會收集用戶的面部特徵等生物識別資料,卻不會明確告知用戶。這些個人數據的不規範使用,將可能給企業帶來巨大的合規風險和聲譽風險。

MSCI ESG研究部全球分析師團隊,針對30家從事AI基礎模型培訓、訓練的公司進行分析,只有20%的公司明確表示,使用者的隱私資料不會用於業務以外的其他目的。

此外,在53家利用從事AI技術應用開發的公司,如:製藥公司、醫療公司、金融機構等企業,有半數以上沒有配備最完備的隱私條款;僅23%將隱私保護的原則整合到產品開發。

AI的應用,還會影響企業的人力資本管理。郭思平指出,勞動力的緊缺、人才的稀缺,以及擁有良好的勞動力和人才管理的能力,對於80%的行業都是影響長期財務表現的重要風險因素之一。尤其是軟體、硬體、科技產業,既需要大量研發投入,也需要人力資本長期創新投入,卻缺乏對於勞動力轉型的準備。

因此,到了2023年,一些網絡公司在大量裁員的同時,卻在關鍵技術和創新職位上面臨招聘困難。郭思平強調,在AI的大背景下,企業應關注是否能夠及時調整勞動力政策,有效利用AI幫助持續提升創新能力。

▲▼ MSCI 。(圖/路透社)

▲MSCI ESG研究部全球分析師團隊,針對30家從事AI基礎模型培訓、訓練的公司進行分析,只有20%的公司明確表示,使用者的隱私資料不會用於業務以外的其他目的。(圖/路透社)

 

分享給朋友:

讀者迴響