▲。（圖／取自免費圖庫Pixabay）
記者任以芳／綜合報導
隨著AI大模型技術快速演進，小心資料很容易外洩。大陸「國家安全部」微信公號今（26）日發布文章，人工智慧正以前所未有的速度滲透教育、醫療、養老與就業等多個領域，成為不少民眾身邊「能幹又貼心」的數位夥伴，在提升效率、改善生活品質的同時，也帶來新的安全挑戰。
大陸「國家安全部」發布文章指出，首先舉出多個日常例子，比如在教學現場，某國中教師小李分享，透過AI輔助備課，僅需五分鐘便能生成結構完整、圖文並茂的教案，還可即時設計互動問答與差異化練習題。「過去備課至少兩小時，現在能把更多時間留給關心學生個別狀況。」
在居家生活中，獨居長者陳爺爺也感受到AI帶來的陪伴感。子女贈送的智慧音箱，不僅能播放戲曲、對話聊天，還能定時提醒服藥，甚至記住孫輩生日，讓他直呼「像多了一個貼心家人」。
29歲的小王原為文案企劃，憑藉熟練掌握與AI溝通技巧，成功轉型為「提示詞工程師」。他表示，關鍵在於「把需求說清楚」。從智慧客服、AI繪圖師到模型訓練師，大模型正重塑職場版圖。
上述案例看似平常，專家提醒，AI高速發展背後潛藏風險。首先是資料隱私與安全邊界模糊，部分單位在使用開源框架搭建聯網模型時，因管理不當導致內部網路遭未授權訪問，甚至出現敏感資料外洩案例。
AI深度學習可生成高度逼真的圖片、音訊與影片，即「深度偽造」技術。一旦遭惡意利用，恐侵害個人權益、擾亂社會秩序，甚至危及國家安全。大陸國安機關指出，已有境外反華勢力透過深度偽造製作虛假影片，企圖向境內散播，誤導輿論、製造恐慌。
另外，AI判斷高度依賴訓練資料，若資料本身存在偏見或代表性不足，模型可能放大歧視與誤導。此外，演算法偏見與「黑箱決策」問題亦不容忽視，部分AI在不同語言環境下對同一歷史議題給出差異甚大的回應，可能放大偏見、誤導認知。
專家提醒三大守則，一是劃定使用範圍，落實「權限最小化」原則。聯網AI不處理涉密資料，語音AI不長時收集環境音，智慧助手不保存支付密碼，並關閉不必要的「資料共享」與「雲端同步」功能，並且留意三大步驟。
二是管理數位足跡。定期清理AI聊天紀錄、更新密碼與防毒軟體，檢查帳號登入設備；避免下載來源不明的大模型程式，對索取身分證、銀行帳戶等敏感資訊保持高度警覺。
三是強化人機協作。提問時避免引導AI過度推演，要求標示資訊來源，重要內容需跨平台查證；特別是在政治、歷史與意識形態議題上，應保持獨立思考，防範「AI幻覺」。
讀者迴響