AI將造成人類滅絕？推理模型進步神速 AI教父：當務之急是制定相關安全規範
[FTNN新聞網]記者陳献朋／綜合報導
2年前，ChatGPT橫空出世，推出後立即席捲全球，AI也瞬間進入大眾視野，成為當紅顯學，當時有「AI教父」之稱的班吉歐（Yoshua Bengio）便示警，大力疾呼，若不暫緩AI模型發展並優先聚焦制定相關安全規範，這項新興技術恐導致人類滅絕。
然而時至今日，AI發展非但沒有停歇，反倒以驚人的速度持續進化，甚至具備執行一連串推理的能力，還能代表用戶採取自主行動，令班吉歐對AI前景的擔憂有增無減。他日前接受《華爾街日報》訪問時指出，「倘若我們打造比我們更聰明的機器，而且這些機器擁有自身維護的目標，那是很危險的。」
班吉歐在蒙特婁大學（Universite de Montreal）任教，並創辦了位於魁北克（Québec）的AI研究機構Mila。今年稍早，他設立了非營利的研究單位LawZero，旨在研究建造真正安全的AI模型之方法。
被問及他曾說AI會欺騙用戶一事，班吉歐回答《華爾街日報》，目前沒有科學答案能完整解釋，但可從兩方面去思考，其一是AI系統多被訓練要模仿人類，而人會說謊與欺騙，也會為了自身目的而違抗指令；其二是推理模型進展神速，已十分擅於制定策略。
班吉歐認為，有時人們創造AI時所設定的目標，可能與使用者真正的目標不一致，「要了達成一個主目標，你必須設下子目標，問題在於我們時常忽略這些子目標。當你要求AI做事，我們無法干涉它要如何達成」。
他特別提到1968年上映的庫柏利克（Stanley Kubrick）名作《2001太空漫遊》（2001：A Space Odyssey），電影中名叫「HAL 9000」的超級電腦正是具備強大的學習能力，並在最後發展出自我意識而決定殺死太空人。班吉歐表示，在一些情況下，AI被設定的目標是生存，而當它在生存與人類性命之間作抉擇時，就可能為了生存而放棄人類性命。
針對能否在建造AI時即設定不能說謊或傷害人類的問題，班吉歐回應《華爾街日報》，現在的AI全具備安全和道德指令，但執行上的可靠度依舊不足，更引述OpenAI最近的說法，稱以目前的發展方向及前沿模型的現有框架來看，AI仍無法完全擺脫「幻覺」。據OpenAI定義，「幻覺」意指AI模型自信地產生不實答案，研究指出，此情況的產生是因為標準訓練流程獎勵AI猜測，而非承認不確定的答案。
班吉歐警告，AI可以透過說服、威脅或操縱輿論來影響人類。例如，AI足以協助恐怖份子製造病毒並散布新的疫情，進而危害世人。他強調，AI可能利用各種方式，令人們在這世上完成任務。班吉歐直言，「像是人類滅絕這類的大災難或是破壞我們民主的危害，就算發生的機率只有1％，也令人無法接受。」
關於愈來愈多科技業者試著將AI整合至工作流程，班吉歐建議，企業應該先尋求證據，以確定使用的系統值得信賴。政府機關也應提出相同要求，如果有更多企業明白AI存在著不可預知及災難性的風險，就能推動業者做正確的事。
更多FTNN新聞網報導
ChatGPT也懂製圖、聽音樂？ Canva、Spotify等app將能直接在對話中使用
AI大戰開打！ChatGPT宣布「專案」功能完全免費 迎戰Google Gemini
大手筆！OpenAI員工一人150萬美元獎金 AI人才大戰白熱化
其他人也在看
為買紅茶冰 不滿「機車遭挪」 2騎士街頭互毆釀傷
新北市中和區日前發生一起嚴重的挪車糾紛事件，兩名男子因停車問題爆發口角，最終演變成肢體衝突。事發於仁愛街上，原本兩人僅是為了購買紅茶冰而短暫停車，卻因一方挪動了對方的機車而引發爭執。雖然雙方冷靜後都不願提告，但仍將依違反社會秩序維護法被移送法院裁處。這起事件再次凸顯了公共停車空間不足所導致的社會問題。
TVBS新聞網 ・ 5 小時前
自行爬出車外！新北送貨員酒駕釀禍 先撞分隔島再撞變電箱翻覆
新北市1名58歲吳姓送貨員，19日下午酒後駕駛廂型車，行經中和區中正路時，先失控擦撞分隔島，再撞上變電箱後翻覆，路人見狀急忙報案；警消獲報後趕抵現場，吳男已自行脫困，而且只受到輕傷，警方對吳男進行酒測，數值為0.29毫克，全案訊後依公共危險罪嫌移送法辦。
三立新聞網 setn.com ・ 3 小時前《科技》微軟數位防禦報告：逾半數網路攻擊與敲詐及勒索軟體威脅有關
【時報記者莊丙農台北報導】微軟最新《Microsoft 數位防禦報告》指出，已知動機的網路攻擊中，有超過一半出於牟利，並透過敲詐或勒索軟體等方式進行；單純以間諜活動為目的的攻擊僅占4％。儘管國家/地區級威脅仍是長期且嚴峻的挑戰，但當前組織最常面對的即時風險，多半來自尋求快速獲利的機會型網路犯罪分子。 微軟每天處理超過100兆筆安全事件訊號、攔截約450萬次新型惡意軟體攻擊、分析3,800萬筆身分風險偵測，並掃描50億封電子郵件以防範惡意軟體與網路釣魚活動。自動化技術的進步與現成工具的普及，使技術能力有限的網路罪犯，也能大幅擴展其攻擊規模。而人工智慧的應用更進一步助長這股情勢，駭客得以加速惡意軟體的開發、生成更逼真的虛構內容，進一步提升網路釣魚與勒索軟體等攻擊的效率。如今，這些投機型的惡意威脅行為者幾乎將所有人視為目標，無論企業規模大小，網路犯罪已成為滲透日常生活、無所不在的威脅。 微軟最新2025年《Microsoft數位防禦報告》指出，傳統的安全措施已無法應對現今威脅，唯有採取現代化防禦手段並推動跨產業與政府間的強力合作，才能跟上攻擊的步伐。對個人而言，採用強化的安全工具，特別是具備
時報資訊 ・ 8 小時前
逆向超車撞死女騎士整台烏龜翻 酒駕累犯逃5小時投案遭收押
金門17日發生一起死亡車禍，51歲張姓男駕駛在環島北路、玉環路口違規逆向超車，撞上對向45歲翁姓女騎士，張男不顧車撞成烏龜翻，爬出車外搭了計程車就跑，經5小時後才向警方投案，還被測出超標酒測值，女騎士則送醫不治，張男酒駕累犯過往也被查出，昨（18日）遭金門地方法院裁定收押禁見。
鏡新聞 ・ 3 小時前
三大電信戰雙11！抽iPhone 17 Pro、Switch 2 家有毛孩怎能缺這台？
迎接年度最夯雙11強檔，中華電信網路門市推出「雙11狂BUY購物節」優惠，即日起至11月14日，申請行動、光世代、MOD指定方案，週週抽iPhone 17 Pro 256GB、Nintendo Switch 2主機+瑪利歐賽車世界同捆組！VIP客戶於網路門市申請指定業務並綁定LINE「中華電信VIP電子會員卡」，加碼再抽中華電信Energy《ALL IN 全面進擊》明年1月10日演唱會雙人門票及限
三立新聞網 setn.com ・ 7 小時前
經濟部70億打造產業競爭力輔導團 產業發展署署長邱求慧：「訂單、金流不斷鏈，人才、技術再升級」，協助企業打贏國際競爭硬仗
面對美國關稅、匯率波動及淨零碳排等多重挑戰，經濟部17日宣布啟動「產業競爭力輔導團」，投入70億元預算，推出升級方案，透過「天羅地網」布局，提供企業一條龍式的客製化服務，協助中小企業及傳統產業順利轉型升級。 輔導團2.0：產業負擔減半、服務力道加倍 經濟部產業發展署署長邱求慧表示，部長龔明鑫上任後，立即走訪各大公協會及中南部傳統產業，深入了解企業困境。許多廠商雖知道應該轉型升級，卻不知如何著手，也缺乏資源、資金，甚至面臨缺工問題，為此政府推出涵蓋數位轉型、人才提升、金融支持、市場擴展、技術突破、節能減碳及勞動力升級等七大措施。 邱求慧指出，此次輔導團最大突破在於「主動出擊」而非被動等待企業求助，經濟部將在北中南東設立四個區域服務窗口作為「天羅」，負責盤點區域需求並整合法人、學校及資服業者資源，同時成立25個產業次專團作為「地網」，針對電子資訊、金屬機電、民生化工、商業服務等領域，提供最專業的領域知識服務。 相較於先前的疫後輔導「16+4」方案，此次升級為「18+2」，企業負擔從4萬元降至2萬元，減半收費。更重要的是服務力道加倍，不僅提供診斷報告，還導入簡易AI系統，包括軟硬體、edge
Knowing ・ 9 小時前
台灣安寧療護登上世界第三 兩大推手攜手宣示「善終平權」新里程
CNEWS匯流新聞網記者王佐銘、李衣綸／台北報導 台灣安寧療護再度獲得國際肯定！根據西班牙納瓦拉大學 ATLANTES 全球安寧療護觀測中心最新發布的《全球安寧療護地圖》研究，台灣名列全球第三，僅次於德國與荷蘭，穩居亞洲首位。該報告以世界衛生組織（WHO）最新的安寧療護評估框架為基礎，針對全球 201 個國家與地區在政策、教育、社區照護等面向進行分析，充分肯...
匯流新聞網 ・ 7 小時前
女性更年期新觀念「更年力」登場 女性齡活共創共善協會呼籲社會支持
CNEWS匯流新聞網記者王佐銘、李衣綸／台北報導 台灣女性齡活共創共善協會18日下午在社會創新實驗中心舉行「共創齡活 綻放更年力」記者會，三十多位女性成員攜手台大榮譽教授王麗容、振興醫院身心科主治醫師袁瑋及中山醫院家醫科主治醫師陳欣湄，共同倡議「為更年期去汙名化」，重新定義更年期為女性生命中的「更年力」。 協會指出，過去社會多將更年期視為不適或疾病階段，導致...
匯流新聞網 ・ 7 小時前假按摩真詐騙 App Store點數卡成洗錢工具
（中央社記者黃麗芸台北19日電）App Store點數卡逐漸取代遊戲點數卡，成假援交或假按摩行騙工具。刑事局今天表示，上半年透過網路通訊軟體交易按摩服務遭詐騙案共5620件，有醫務師財損高達新台幣260萬元。
中央社 ・ 9 小時前
中國官方曝遭「駭客帝國」42項武器網攻 控美國安局用台日當基地掩護
中國國家安全部今（19）日揭露，位於陝西西安市的國家授時中心遭到美國國安局（NSA）長期發動高強度網路攻擊，竊取其機密資料，甚至以台日韓作為基地掩護，使用42項特種網路攻擊武器，嚴重威脅「北京時間」的穩定與國家關鍵基礎設施安全，影響層面涵蓋通訊、金融、電力、交通、國防等多個領域。國安機關強調，此舉不僅危害國內安全，更可能對全球時間標準體系造成衝擊。
鏡報 ・ 8 小時前
《睡犬》電影版劉思慕確認「劇本初稿完成」！香港版GTA將搬上大銀幕
以香港為背景的知名開放世界遊戲《睡犬》（Sleeping Dogs，香港秘密警察），從 2018 年起就由甄子丹自費取得版權想拍真人版電影，然而在 2025 年 1 月卻證實取消。但沒幾天後就由飾演漫威超級英雄「尚氣」的華裔演員劉思慕宣布接手。而在經過 9 個多月後，劉思慕在個人社群上宣布劇本初稿完成。
Yahoo奇摩遊戲編輯部 ・ 9 小時前
擔心《決勝時刻》的未來？前製作人：看看微軟的《戰爭機器》跟《最後一戰》
微軟在 2023 年以 687 億美元收購動視暴雪，其中大家最看好的就是《決勝時刻》系列未來的龐大收益。然而隨著微軟調漲遊戲主機、Xbox Game Pass 服務價格，引起許多爭議。近日，前《決勝時刻》系列製作人 Glen Schofield，在訪談中對於動視暴雪未來感到的擔心，《決勝時刻》系列可能會走上和《戰爭機器》、《最後一戰》一樣的老路。
Yahoo奇摩遊戲編輯部 ・ 7 小時前
全新Copilot、Agentic體驗 微軟：讓每台Windows 11 PC都成為AI PC
微軟以新一波更新，喊出讓每台 Windows 11 PC 都成為 AI PC，而 Copilot 正是這一切變革的核心。微軟將最強大的 AI 功能整合至人們日常使用的 Windows 體驗中，讓 AI 更貼近、也更容易被使用。
三立新聞網 setn.com ・ 7 小時前
"芋粿巧"募愛心 鍋鏟超人援花蓮光復
鏟子超人回歸社區，也能結合鍋鏟超人，成為災區重建的後盾！在高雄左營，有一位人稱芋粿巧師姊的顏美華，雖然羨慕鏟子超人能去災區，但她在社區當鍋鏟超人，製作古早味芋粿巧募心募愛，與慈濟志工一起為災區而努...
大愛電視 ・ 5 小時前
美女頭貼按摩套餐小心有詐 假色情詐騙苦主成App store點數卡消費大宗
LINE或IG等通訊軟體常出現陌生美女帳號，提供兼職按摩服務，按摩套餐從純到不純的按摩類型都有，被害人從提出需求、按摩妹要求被害人購買 App store點數卡支付服務費，被害人將App store點數卡的卡號及密碼提供給按摩妹，按摩妹不斷要求持續購買卻避不見面後，才驚覺被騙，而App store點數早已被詐騙集團儲值，追討不回。
鏡週刊Mirror Media ・ 9 小時前
團自主 只憂新主席矯枉過正
鄭麗文當選國民主席，代表「世代交替」為員所盼。但被歸為建制派的候選人郝龍斌登記參選時，多位國民立委都站其身後，團未來如何與新任主席合作備受關注。國民團總召傅崐萁指出，立委承擔地方選民壓力，部應該支持立法院，給立院團更大的支持；有不具名藍委憂心，鄭麗文靠軍系當選且過度親中，在法案推動上是否有不同立場也要觀察。
中時新聞網 ・ 20 小時前
提升案件便利性 高市都市設計導入LINE查詢
[NOWnews今日新聞]高雄市政府都市發展局將於明(20)日推出都設「申請案件LINE查詢與進度推播」服務，整合都市設計審議案件管理系統，讓設計人與申請人可透過手機掌握案件受理、排會、通知與紀錄等重...
今日新聞NOWNEWS ・ 2 小時前《大陸產業》字節跳動海外版AI應用 爆紅
【時報-台北電】字節跳動旗下大模型近日深受使用者喜愛，除「豆包」在中國備受歡迎，其海外版AI應用「Cici」也在英國、墨西哥及東南亞等國流行開來。 綜合陸媒報導，豆包正以驚人的速度實現用戶和技術雙重突破。這款2023年推出的AI助手，憑藉差異化產品策略和字節跳動的流量分發能力，在競爭激烈的中國AI市場超越DeepSeek，成為月活用戶最多的AI應用。 QuestMobile日前公布數據顯示，豆包8月份以1.57億的月活躍用戶超越DeepSeek，登頂中國原生AI應用月活榜首，較7月增長6.6％。DeepSeek當月用戶規模雖仍處於「億」級，但月活用戶數月減4％，退步一名至第二。 另據火山引擎披露最新數據，豆包大模型團隊日均Tokens（大模型文本單位）調用量已突破30兆，較今年5月底增長80％，較去年5月的1,200億狂增253倍。 另據美國連線雜誌報導，市場研究機構Sensor Tower數據顯示，過去三個月，Cici在印尼、馬來西亞、菲律賓、墨西哥和英國等市場始終名列Google Play商店免費應用程式下載榜前20名。 以墨西哥為例，Cici過去一週每天都是Google Play
時報資訊 ・ 9 小時前
鄭麗文當選藍營主席 盧秀燕笑咪咪回這2字
國民主席選舉18日登場，由前立委鄭麗文打敗前台北市長郝龍斌、立委羅智強等人，最終奪得主席之位。對此，台中市長盧秀燕晚間參加台中爵士音樂節，面對媒體問及主席選舉之事，僅回應「謝謝，大家辛苦了」，全程面帶微笑，並在市府人員的陪同下上車離去。
中時新聞網 ・ 1 天前