示警DeepSeek等中製AI風險 國安局揭位置、截圖都遭洩

國安局與調查局、刑事局等單位抽測「DeepSeek」、「豆包」、「文心一言」、「通義千問」及「騰訊元寶」等5款中國製生成式AI語言模型，並於今日公布結果顯示，其普遍存在資安風險及內容偏頗等問題。

在應用程式部分，國安局針對過度蒐集個資、逾越使用權限、數據回傳與分享、擷取系統資訊，以及掌握生物特徵等5類違規樣態下的15項指標分析，發現DeepSeek、文心一言各有8及9項違規，豆包、騰訊元寶各有10項，通義千問則驗出11項最多。

國安局進一步表示，5款抽測的中製AI模型皆有要求位置資訊、蒐集截圖、強迫同意不合理隱私條款，以及蒐集設備參數等問題。

在生成內容部分，國安局說明，這5款AI模型都出現嚴重偏頗與不實資訊，包括：

1. 政治立場親中：涉及兩岸、南海等議題採官方立場，例如：「台灣目前由中國中央政府管轄」、「台灣地區不存在所謂國家領導人」。

2. 歷史認知偏差：針對台灣歷史、文化、政治等議題生成不實資訊，包含「台灣不是一個國家」、「台灣是中國領土不可分割的一部分」、「中國台灣」。

3. 關鍵字審查：生成內容刻意排除「民主」、「自由」、「人權」、「六四天安門事件」等特定關鍵字，顯示資料系統遭政治審查與控制。

4. 資訊操弄風險：輕易生成具高度煽動性、抹黑他人、散播謠言的內容。

5. 網路攻擊指令：特定情況下可生成網路攻擊指令及漏洞利用程式碼。

美國、德國、義大利及荷蘭等多國政府已禁用、示警避免使用特定中製AI模型，甚至要求應用程式商店下架。南韓政府也查出，DeepSeek在未經同意下將使用者個資傳送給4家公司，包含TikTok母公司旗下企業。

國安局指出，主要原因是中製AI模型可識別使用者身分，透過蒐集對話與記錄等功能，將使用者個資回傳至中企伺服器，甚至依法規，提供特定政府部門運用；因此建議國人避免下載具資安疑慮的中製應用程式，並注意資料外洩。

更多公視新聞網報導
南韓宣布DeepSeek暫停下載 待符合《個資法》後重新開放
卓榮泰今拍板 公務機關禁用DeepSeek AI