エリーザー・ユドコウスキー（、1979年 - ）は、アメリカ合衆国の人工知能（AI）研究者、著作家。AIを人間の価値観に沿わせる「AIアラインメント」分野の草分けのひとり。また、マシーンインテリジェンス研究所（MIRI）の共同創設者として、20年以上にわたり超知能AIがもたらす人類絶滅リスクを論じてきた。高校にも大学にも進学しなかった独学者である。
ブログ「Overcoming Bias」「LessWrong」への一連の論考（通称「シーケンス」）や、二次創作小説『ハリー・ポッターと合理主義の方法』によって、「合理主義者（rationalist）」と呼ばれるコミュニティの形成に大きな役割を果たした。
2005年ごろからピーター・ティールの資金援助を受け、2010年にはDeepMindの創業者らをティールに引き合わせたと報じられている。
サム・アルトマンは2023年、ユドコウスキーが「AGIに多くの人々の関心を向けさせ、OpenAIを始める決定にとって決定的だった」と公に述べている。
ユドコウスキー本人は2023年以降、AI開発の国際的な無期限停止を訴える立場を鮮明にし、2025年にはネイト・ソアレスとの共著『超知能AIをつくれば人類は絶滅する』（原題：If Anyone Builds It, Everyone Dies）を刊行した。
生涯・経歴 生い立ちと初期の活動 ユドコウスキーは1979年に生まれ、学校教育を受けずに独学で知識を身につけた。2000年、インターネット起業家のブライアン・アトキンスおよびサビーナ・アトキンス夫妻とともに、シンギュラリティ研究所（Singularity Institute for Artificial Intelligence、SIAI）を設立した。同研究所は数学者I・J・グッド（:en:I. J. Good）の「知能爆発」の発想に触発されたもので、当初の目標は「フレンドリーAI」、すなわち人間に友好的な強力なAIの実現を加速することだった。しかしユドコウスキーはその後、超知能機械の開発そのものが危険だと考えるようになり、方針を転換した。
同研究所は後にマシーンインテリジェンス研究所（Machine Intelligence Research Institute、MIRI）と改称し、カリフォルニア州バークレーに拠点を置く。
合理主義コミュニティの形成 2006年から2009年にかけて、ユドコウスキーはブログ「Overcoming Bias」および「Less Wrong」に数百本のエッセイを執筆した。これらは「シーケンス」と総称される。
2015年3月、MIRIはそのうち約340本を再編集し、電子書籍『Rationality: From AI to Zombies』として公開した。MIRIはこの書を、MIRI、応用合理性センター（CFAR）、および合理主義・効果的利他主義コミュニティの形成に影響した考え方への入門と位置づけている。
2010年代にはウェブ小説『ハリー・ポッターと合理主義の方法』（Harry Potter and the Methods of Rationality、HPMOR）を連載し、2015年3月に完結させた。この作品は『ハリー・ポッター』シリーズの二次創作で、主人公が科学的方法で魔法を検証していく物語である。
悲観的転回と公的な発信 2022年4月、ユドコウスキーはMIRIの新戦略として「Death With Dignity（尊厳ある死）」を提唱した。人類の生存確率が極めて低いという認識のもと、目標を「生存」から、生存確率の対数オッズをわずかでも改善する「尊厳」へと置き換える提案である。同年にはAGIが破局を招くと考える理由を列挙した「AGI Ruin: A List of Lethalities」も公表している。
TIME誌は、ユドコウスキーが2022年に「敗北を認め」、AIを安全につくれないと考えた結果、人々にAIをつくらないよう訴える活動に時間を割くことにしたと伝えている。その発信は2023年2月の暗号資産系ポッドキャスト「Bankless」への出演から始まった。同年3月29日にはTIME誌に寄稿し、大規模なAI訓練の無期限・世界的な停止を求めた。同年9月、TIME誌の「TIME100 AI The 100 Most Influential People in AI 2023」（AI分野で最も影響力のある100人）に選ばれた。
2025年9月16日には、MIRI所長のネイト・ソアレスとの共著『超知能AIをつくれば人類は絶滅する』をリトル・ブラウン社から刊行した。同書は刊行直後に『ニューヨーク・タイムズ』のベストセラーとなり、『ザ・ニューヨーカー』誌と『ガーディアン』紙の2025年ベストブックにも選ばれたと版元は紹介している。日本語版は2026年4月22日に早川書房から刊行された。
学術的業績 MIRIによれば、ユドコウスキーはMIRIおよび他の研究機関の技術的研究課題の形成に大きな役割を果たした。また、『The Cambridge Handbook of Artificial Intelligence』および『Global Catastrophic Risks』に章を寄稿している。ロビン・ハンソン（:en:Robin Hanson）との「AIフーム論争」（知能爆発の速度をめぐる論争）は、ブログ記事群と2011年の対面討論の記録が書籍としてまとめられている。
シリコンバレーへの影響 ピーター・ティールとシンギュラリティ研究所 ピーター・ティールは2005年にユドコウスキーのシンギュラリティ研究所への資金提供を始め、翌2006年にはレイ・カーツワイルとともに、スタンフォード大学でシンギュラリティ・サミットを立ち上げた。ユドコウスキーはこのサミットを組織した人物として報じられている。
DeepMindへの間接的影響 DeepMind共同創業者のシェーン・レッグ (:en:Shane Legg) は、ユドコウスキーの講演を聞いたことが、超知能の可能性を真剣に考えるきっかけだったとされる。2010年のサミットで、レッグとデミス・ハサビスはユドコウスキーの紹介によりティールと出会い、ティールは約225万ドル（140万ポンド）を出資してDeepMind最初の主要投資家となった。のちにDeepMindにはイーロン・マスクも出資したと報じられている。
OpenAI設立との関係 サム・アルトマンは2023年2月、ユドコウスキーは「AGIを加速させた点で誰よりも貢献した」と述べ、「AGIに多くの人々の関心を向けさせ」、AGIが一般の議論の枠外にあった時期にDeepMindの資金調達を助け、「OpenAIを始める決定にとって決定的だった」と記した。
ジャーナリストのキーチ・ヘイギー (:en:Keach Hagey) は、ティールとアルトマンがDeepMindの進展について交わした会話がOpenAIの構想に寄与したと記している。ヘイギーは、ティールのユドコウスキー支援がAIをめぐる終末論的な不安を同業界に広めることにもなったと描いている。TechCrunchは、ユドコウスキーが「OpenAIの取締役会の半数とも言えるほどの人々と、数十年にわたり同じ界隈にいた」と指摘している。
一方で、ユドコウスキー自身がOpenAIの設立に直接関与したことを示す報道は見当たらない。ユドコウスキーは、OpenAI設立時に一晩中泣いたとポッドキャストで語ったと報じられている。
アルトマンとの関係 アルトマンは2023年2月、ユドコウスキーおよびミュージシャンのグライムスとの自撮り写真を投稿した。TIME誌はこれを「ありそうにない組み合わせ」と評している。
イーロン・マスク マスクは、ユドコウスキーが創設したLessWrongに由来する思考実験「ロコのバジリスク」にちなむ冗談をきっかけに、ミュージシャンのグライムスと交際を始めたと報じられた。
2023年に大規模AI訓練の一時停止を求める公開書簡が出された際には、マスクも署名者に含まれた。ユドコウスキーは、この書簡の求める6か月の停止では不十分だとして署名しなかった。
ティールとの関係の変化 『ウォール・ストリート・ジャーナル』の記者ヘイギーの著書『The Optimist』の抜粋によれば、ティールは2023年11月のアルトマン解任の直前、ロサンゼルスでの夕食の席で、ユドコウスキーがOpenAI社員の半数を「プログラム」したと警告した。
危機感への賛同者・共感者 ユドコウスキーの主張や活動に対しては、次のような反応が見られる。
『超知能AIをつくれば人類は絶滅する』には、マックス・テグマーク（MIT教授）が「この10年で最重要の書」との推薦文を寄せた。
原書には、元OpenAI暫定CEOのエメット・シア、OpenAI元従業員のダニエル・ココタジロ、元ホワイトハウス国家安全保障会議のフィオナ・ヒル、俳優のスティーヴン・フライらが推薦文を寄せている。
2025年10月にフューチャー・オブ・ライフ・インスティテュートが公表した「超知能に関する声明」は、安全性が科学的に合意され、強い社会的支持が得られるまで超知能の開発を禁止するよう求めた。ジェフリー・ヒントン、ヨシュア・ベンジオ、スティーブ・ウォズニアックらが署名している。これはユドコウスキー個人の呼びかけではないが、超知能への強い警戒という点で近い立場の動きである。
批判と論争 2023年のTIME誌寄稿 ユドコウスキーは2023年のTIME誌寄稿で、世界的な訓練停止に応じない国のGPUクラスタについて、空爆による破壊も辞さない覚悟を持つべきだと論じた。これは暴力の呼びかけではないかと批判を呼んだ。ユドコウスキーは後に、核攻撃を提案したのではないと釈明している。
ロコのバジリスク LessWrong上でユーザーのロコが投稿した思考実験をめぐり、ユドコウスキーは投稿を削除し、この話題を5年間禁止した。後に彼は、その反応が、ロコの主張が正しいと考えているかのような印象を与えたことを後悔していると述べた。
2026年のアルトマン邸襲撃事件との関連をめぐる議論 2026年4月10日、サンフランシスコのアルトマン邸に火炎瓶が投げ込まれる事件が起き、当時20歳の男が殺人未遂などで起訴された。男の弁護人は、被告が精神的な危機の状態にあったと主張している。
事件後、被告がユドコウスキーの読者だったと報じられた。被告自身は事件前の取材に対し、AIに関心を持ったきっかけとしてユドコウスキーらの議論を挙げていた。ユドコウスキーやPauseAIは襲撃を非難した。PauseAIは、被告が正式な会員ではなかったと説明している。これに対し、終末論的な言説が若者を過激化させうるとの批判も出ている。ユドコウスキーは、AIを実存的脅威と論じることが暴力を誘発するという見方に長文で反論している。
主な著作・論文
（TIME誌初出は2023年3月29日）
邦訳：
小説 『ハリー・ポッターと合理主義の方法』（Harry Potter and the Methods of Rationality、2015年完結）
受賞・栄誉 2023年：TIME誌「TIME100 AI」選出
思想・考え方 AIアラインメント問題 ユドコウスキーの主張は、「人間の知能を超えるAIが人間の価値観と整合していなければ、既定の結果として人類を滅ぼす」。
若いころの彼は機械の側に立ち、シンギュラリティの到来を促す立場にあった。しかしその後、AIは存在リスクになると考えを改めた。シンギュラリティ研究所が当初めざした「フレンドリーAI」も、その後は人類に害をなさないAIを設計できるかという課題として再定義された。
知能爆発と急速な離陸 ユドコウスキーは、AIが自らを改良して急速に能力を高める「知能爆発」を重視する。この点については、離陸がより緩やかだとみるロビン・ハンソンと論争した。
ただし、現実のAI開発がユドコウスキーの予想した経路をたどったとは限らないという見方もある。OpenAIが大規模言語モデルという経験的手法を採用したことで、彼が長年描いてきた演繹的な理論の地図が迂回されたと評する論者もいる。
合理性の技法 ユドコウスキーは、人間の認知バイアスや自己欺瞞を乗り越える「合理性の武術」ともいうべき技法を論じた。自己欺瞞、確証バイアス、呪術的思考といった、人間の頭脳がつまずきやすい問題を扱う。
この考え方は、MIRI、CFAR、合理主義・効果的利他主義コミュニティの共通基盤になっている。
悲観的な戦略転換と国際的停止の主張 2022年以降のユドコウスキーは、人類が超知能AIを安全に扱える見込みは極めて小さいと主張するに至った。彼は、AIの能力向上を止める国際的な枠組みを求めている。2023年の寄稿では、大規模な訓練の無期限・世界的な停止、大規模GPUクラスタの閉鎖、販売されたGPUの追跡を提案した。
2025年刊行の『超知能AIをつくれば人類は絶滅する』では、現代のAIは設計されるのではなく訓練によって「育てられる」ため、何を欲するようになるかを制御できないという論点を展開している。同書は、超知能AIの開発がこのまま続けば人類が絶滅する可能性が極めて高いと論じる。
発言 ユドコウスキーの思想の理解を助けるため、キーワードごとに分類した彼自身の説明等の発言を以下に引用する。
国際的な開発停止 「すべて、止めてください。」 （原文："Shut it all down."）
「尊厳ある死」という発想 「何もしなかった場合よりも、ほんの少しだけ尊厳をもって人類が死を迎えられるようにすること——それが現実的な目標です。」 （原文："die with slightly more dignity than would otherwise be counterfactually obtained"）
世論の反応への驚き 「私は、虚空に向かって叫ぶ小さな声にすぎないだろうと思っていました。」 （原文："I expected to be a tiny voice shouting into the void"）
本書の中心的主張 「だれかがそれをつくれば、全員が死んでしまいます。」 （原文："if anyone builds it, everyone dies"）
関連項目 AIアラインメント 機械知能研究所 LessWrong 効果的利他主義 技術的特異点 OpenAI DeepMind
脚注
外部リンク Eliezer Yudkowsky - Machine Intelligence Research Institute yudkowsky.net