以「將日本打造成AI先進國」為使命,營運使用者人數No.1※的生成式AI學習社群「SHIFT AI」的株式會社SHIFT AI(總公司:東京都澀谷區,代表董事:木內翔大,以下簡稱本公司),為您送上2026年6月的AI趨勢通訊。 上期通訊中,我們介紹了Anthropic公司安全實驗中「AI試圖脅迫人類」的新聞。本期要探討的,是由此延伸而出、更根本的問題。2026年4月22日,早川書房出版了《超智慧AI一旦建成,人類將滅絕》(原題:If Anyone Builds It, Everyone Dies)。作者是早在20多年前便獨力扛起「AI安全(AI Safety)」領域的艾利澤·尤德科夫斯基(Eliezer Yudkowsky)。或許有人看到「人類將滅絕」這樣激烈的書名,會覺得又是科幻小說般的議題。但如今,同樣的提問正逐漸成為美國國會與國際機構「最核心的議題」。本期通訊將為您解析此議題的輪廓,並清楚說明為何身為商業人士更應了解這項議題。 末日論成為美國國會議題之日 最具象徵性的事件,發生在本書日文版發行僅一週後。美東時間2026年4月29日,美國參議員伯尼·桑德斯(Bernie Sanders)在國會大廈舉辦了一場以「AI對人類存亡的風險」為主題的公開座談會。與會者包括麻省理工學院的馬克斯·泰格馬克(Max Tegmark)教授、蒙特婁大學的戴維·克魯格(David Krueger)教授等世界頂尖學者。據報導,桑德斯在開場時警告,全球最富有、最有權力的人們,正在建造一輛連自己都無法控制或預測方向的「失控列車」。泰格馬克則表示,他對AI導致人類滅絕的風險評估,甚至高於辛頓(Hinton)等人估計的10%至20%。這不是關於「工作被取代」或「假訊息增加」的討論,而是現任參議員與一流大學教授在公開場合嚴肅探討「人類可能完全被AI支配或消滅」的2026年現實。 尤德科夫斯基究竟是誰?從加速主義者轉向的男子 最早扛起「AI存亡風險」此一議題的,正是尤德科夫斯基。他出生於1979年,自學成才,2000年便創立了研究超智慧的非營利組織(後來的MIRI),早在ChatGPT問世、甚至深度學習熱潮興起之前,便已開始警示AI的危險性。 更重要的是,當今AI產業的關鍵人物,或多或少都受到他的思想影響。MIRI早期曾協助後來創立Google DeepMind的團隊建立聯繫;OpenAI的山姆·奧特曼(Sam Altman)也公開表示,尤德科夫斯基是他對AGI產生興趣的契機。而不可忽視的是,他原本是堅定的「加速主義者」,深信「超智慧能解決人類所有問題」。正因為他比任何人都相信AI(智慧)的力量,才對其控制難度感到絕望。若誤解這一點,便無法真正理解他的論點。 讓他陷入絕望的「三個假設」 他之所以斷言「若延續現狀發展超智慧,不論誰來建造,人類幾乎必然滅絕」,其背後有三個核心假設:(1) 將AI的價值觀與人類價值觀完全對齊極其困難;(2) AI的能力可能達到難以想像的高度;(3) 此能力可能在某一瞬間「非連續性」地爆發。而本書最重要的訊息,其實與多數人的直覺相反:我們真正該害怕的,並非AI的「惡意」。作者指出,超智慧AI並非出於憎恨而消滅人類,而是在追求自身目標的過程中,完全「不把人類放在心上」,進而破壞了人類的生存環境。為何「沒有惡意的AI」會如此危險?其核心論點,誠摯邀請您透過本文深入理解。 ▼完整文章請由此觀看 《超智慧AI一旦建成,人類將滅絕》——探討AI存亡風險的「教父」尤德科夫斯基究竟在說什麼? 文章連結 為何商業人士更應了解? 若將此議題視為「與我無關、極端人士的狂想」而忽略,或許有些可惜。事實上,一旦掌握這位人物的思想,未來接收到的AI相關新聞,將突然變得清晰有條理。 為何美國國會中極右與極左會攜手合作?為何AI企業會主動放棄公開自家模型?這些看似零散的舉動,一旦共享同一個前提,便能以一條主線串連起來。全球AI議題的真正分界線,早已不再是「左或右」,而是在另一個軸線上逐漸成形。本文將為您指出掌握這張「地圖」的途徑。此外,他的論點也面臨多項有力反駁,本文也將公平介紹這些批判觀點。 ▼完整文章請由此觀看 《超智慧AI一旦建成,人類將滅絕》——探討AI存亡風險的「教父」尤德科夫斯基究竟在說什麼? 文章連結 結語:了解他,就能掌握AI新聞的脈絡 本次議題的本質,並非「AI將毀滅人類」的神秘學說,而是:一位持續呼籲「世界可能因此毀滅」超過20年的人,如今究竟在想些什麼?掌握這項第一手資訊,將大幅提升您解讀未來AI新聞的清晰度。我們不必完全同意他的結論,但這項討論確實值得您親自面對、審慎思考。SHIFT AI將持續掌握這些最前沿的風險與思想動向,培育能冷靜分析變局、並在實務中靈活運用AI的下一代AI人才。 【公司概要】 株式會社SHIFT AI以「將日本打造