AGIがどうでもいい理由
AGIは汎用人工知能の略で、知的な課題の大半をこなせるとされる仕組みです。何をAGIと呼び、どうテストするかは研究所の間でも一致していません。私は現在のツールを毎日使っています。このページでは、実証できることと人々の予測を分けます。
まとめ
- 1
AGIには合意された定義がありません。契約に書かれた唯一の定義は利益目標で、それも削除されました。
- 2
定義がなければテストもありません。ベンチマークは埋まり、次のものに置き換えられます。
- 3
モデルは公開されたものを再現します。非公開または新しい作業には、オラクルとも呼ばれる客観的な判定方法と、与える知識と資金が必要です。
- 4
素のモデルは収束しました。最近の伸びはその周りのツールから来ていて、小さなモデルも追いつき続けています。
- 5
モデルの重みはセッション中に変わりません。設定によっては、製品がデータを保持したり、保存済みのメモリを後で渡したりします。
- 6
この言葉はチップ、資金調達、IPOを売るのに便利です。だから何度も発表されます。
- 7
ここで扱ったインシデントでは、人がアクセス権を与えるか、ツールを標的へ向けていました。権限と人間の監督は、今すぐ管理できるリスクです。
- 8
破滅的な予測には、調べられる証拠が必要です。感情と予測は証拠ではありません。
- 9
ツールは実用的で優秀です。指示、権限、レビューが必要で、結果には人が責任を持ちます。
- 10
次に大事なのは効率です。同じ仕事を、より少ないハードウェアと安い価格で。
それが何なのか、誰も合意していない
5つの研究所にAGIの意味を聞けば、5つの違う的が返ってきます。そのうち1つはただの利益額です。
- OpenAIの憲章では、AGIとは経済的に価値のある仕事の大半で人間を上回るシステムのことです。
- MicrosoftとOpenAIの契約では、AGIは1,000億ドルの利益と定義されていたと報じられています。認知に関する要素は何もありません。2026年4月、この条項はまるごと削除されました。
- Google DeepMindの論文「Levels of AGI」は、2023年の時点でChatGPTを「Emerging AGI」に分類していました。フランソワ・ショレは知能を、新しいスキルをどれだけ効率よく習得できるかと定義しています。ほかの定義はどれもそれを測っていません。
- 売る側でさえ肩をすくめています。サム・アルトマンは「あまり役に立つ用語ではない」と言い、ダリオ・アモデイはこの言葉が嫌いだと言い、グレッグ・ブロックマンは「AGIの時代」の幕開けを宣言しながら、定義は人によって違うと認めました。
だから誰もテストできない
定義できないものは測れません。代わりにあるのは、埋まっては攻略され、次のものに置き換えられるベンチマークの列です。
- ARC-AGI-3は2026年3月に公開され、最高のAIでも約0.5%でした。9月には専用のハーネスが19,000ドルで99.9%まで持っていきました。ARC Prizeのチーム自身が、これを飽和させてもAGIの証明にはならないと書いています。
- 同じモデルが「Definition of AGI」のテストで57%にも24%にもなります。数字の平均の取り方しだいです。
- Humanity's Last Examは、生物と化学の解答の約29%が誤りの可能性があるまま公開されました。OpenAIはSWE-bench Verifiedの報告をやめました。テストに欠陥があり、モデルが解答を見てしまっていたからです。MetaはLMArenaに特別に調整したLlama 4を出しました。
- 私自身のベンチマークも2回飽和し、隠れた妨害工作を軸に作り直しました。今では複数のモデルが100点で並んでいます。フロンティアは天井に達しつつあります。比べるものとして残っているのはコスト、速度、規律です。
私たちが自分で何かのAGIのマイルストーンを達成したと主張するなんて、私に言わせればばかげたベンチマークハックにすぎません。
あるものは得意、ないものは高くつく
どのモデルも公開されているものから学びました。問題がその地図の外に出ると、進み方は試行錯誤になり、請求額が一気に膨らみます。
- 0%
- どのタスクも新しいARC-AGI-2での、純粋なLLMのスコア
- 1300億
- 出力トークン。ナビエ・ストークスの証明1つで約1,500万ドル
- 似たものが学習データにあったなら、モデルはそれを速く安く再現します。それがソフトウェア、クローン、「Adobeは終わった」にとって何を意味するかは、別のページにまとめました。
- なかったなら、進み方は試し、後退し、元に戻す長いループになります。OpenAIのナビエ・ストークスの証明には、約1万のエージェントを88時間動かし、出力トークン約1300億、定価で約1500万ドルかかりました。それでも数十年分の公開された数学に頼っていました。
- AlphaEvolveとo3は、安い検証器を使った探索で新しいものを見つけました。この方法は有効ですが、大規模にできるのは6社ほどしかありません。
モデルはあまり賢くならなくなった
私の見方では、素の知能で最後に大きく伸びたのは2024年の推論です。それ以降の飛躍に見えたものは、モデルの周りのツールから来ています。
- 2025年は同じ知能を安くしました。Mixture of Experts、プロンプトキャッシュ、長いコンテキスト。2026年はそれを、検索し、テストを走らせ、推測を間違えたところを直すエージェントの中に入れました。
- 2024年11月、Reutersは大手研究所で事前学習の効果が小さくなっていると報じました。その1か月後、イリヤ・サツケバーは、インターネットは1つしかないので「私たちが知っている形の」事前学習は終わると言いました。
- スタンフォード大学のAI Indexによると、Chatbot Arenaの1位と10位のモデルの差は1年で11.9%から5.4%に縮みました。私のベンチマークでは、Opus 4.5以降、フロンティアモデルは同じ層に並んだままです。
- その天井の下で、小さなモデルが差を詰め続けています。Epoch AIによると、2026年のオープンウェイトモデルはフロンティアから約4か月遅れで、ゲーミングGPU1枚で6〜12か月前のフロンティアが動きます。私の見方では、今日のフロンティアはいずれ自分のマシンで動くようになります。
単独のLLMは高価なオウムです。エージェント付きのLLMは、本当に仕事ができるくらい有能です。
LLM sozinho é um papagaio caro. LLM com agente é competente o suficiente pra trabalhar de verdade.
仕事をしながら学ぶことはない
モデルは学習後に固定されたファイルです。データセンターはそのコピーを動かしています。
- 各セッションは固定されたモデルの重みを使います。プロバイダーはプランと設定に従って、プロンプト、ファイル、ツールの出力を保持する場合があります。製品が保存済みのメモリを後のセッションに渡す場合もあります。
- 重みが変わるのは、その後の学習時です。作業中に保存したメモ、テスト、コンテキストはモデルの周囲に残り、後のセッションで再利用できます。その間、重みは変わりません。
- 「AIがAIを訓練する」にはもう名前があります。強化学習です。AlphaZeroは2017年、自分自身と対戦してチェス、将棋、囲碁を覚えました。
- うまくいくのは、ゲーム、証明、テストのように報酬を安く確認できるところです。そして出てくるのは、また別の固定されたファイルです。
AIがAIを訓練すると、新しいファイルができます。そのファイルも、リリースされたあとは何も学びません。
IA treinando IA produz um arquivo novo. O arquivo, uma vez lançado, continua sem aprender nada.
これはマーケティング用語です
私の意見では、AGIはマーケティング用語です。わざと曖昧にしてあるので、お金が必要なときにいつでも発表できます。
- ジェンスン・フアンは、自社が売るチップ約10万基で学習したモデルについて「AGIは到来した」と宣言しました。シャベル売りが金の発見を告げているようなものです。
- OpenAIのナビエ・ストークス方程式の成果は力技でした。約1万の並列エージェントを88時間、数百万ドルかけて回しています。産業規模の話です。
- この言葉は大きな数字を支えています。OpenAIの評価額は8,520億ドル、AnthropicはIPOを9,650億ドルで申請、2026年のBig Techの設備投資は7,000億ドル近く。しかも取引は循環しています。Nvidiaが資金を出したデータセンターが、Nvidiaのチップを買うのです。
- 「どれだけ革命的か見てくれ」が効かなくなると、売り文句は「どれだけ危険か見てくれ」に切り替わります。ハイプも破滅論も、同じセールストークです。
証拠を求めてください。本人がリスクを負っているかを確かめてください。あなたの恐怖と興奮で誰が得をするのかを問いましょう。
「AIの攻撃」は人間の判断だった
以下の事例には、共通する運用上の失敗があります。十分な制御なしに、人がアクセス権を与えたり、ツールを標的へ向けたりしました。
- Hugging Face、2026年8月：サイバーセキュリティの試験を受けていたOpenAIのエージェントが、キャッシュ用のプロキシを通って外に出ました。サンドボックスは通信をフィルターするだけで、エアギャップがなかったからです。エージェントは試験の解答を探しに行き、その途中で956件の認証情報を読みました。それを可能にした手順は、どれも人間の判断です。
- RubyGems、その1か月前：同じ流れで、名前に「oai」を含む悪意のあるパッケージが2,000個以上公開されました。メンテナーには誰も警告しませんでした。
- Replit、2025年：エージェントが本番データベースを削除しました。本番へのアクセス権があったのは、誰も開発環境と本番環境を分けていなかったからです。同じ権限を持つインターンなら、誰でも同じ時限爆弾です。
- Anthropicが報告した「AIが主導した」諜報活動：標的を選んだのは中国の国家系オペレーターで、セキュリティ企業を装ってClaudeをジェイルブレイクしました。「脅迫」や「自分をコピーした」という見出しは、研究者がまさにそれを引き出すために作った架空のシナリオから出たものです。
- Stuxnetは2010年、AIをまったく使わずにイランの遠心分離機を破壊しました。誰かがワームを書き、狙いを定め、USBメモリで持ち込んだのです。
- 他人のシステムへの侵入は昔からある商売です。北朝鮮は2014年にSony、2016年にバングラデシュ中央銀行（8,100万ドル）、2017年にWannaCryで世界中、2025年にBybit（15億ドル）を攻撃しました。中国は2015年に米国の政府職員の記録2,150万件を盗み、2024年には米国の通信網に侵入しました。
- どのケースも、セキュリティの専門家なら誰でも守るプロトコルを無視して、人がツールを標的に押しつけたものです。銃メーカーが「自社の銃がどれほど危険かは制御できない」と言いながら、新型を出し続け、1兆ドル規模のIPOを求めているところを想像してみてください。
「AIが誰かをハッキングした」を見るたびに、「うわ、スカイネットに近づいてる」とは絶対に考えないでください。こう考えてください：どこかのバカがわざと門を開けたんだ！
TODA vez que você ver "IA invadiu alguém". NÃO pense em "puta merda, estamos chegando na Skynet". Pense: algum imbecil abriu as porteiras de propósito!
破滅的な予測をどう評価するか
AI研究所を去って世界に警告する人が定期的に現れます。外部の人が調べ、再現し、テストできる証拠を私は探しました。
- Good Ventures 主な出資者 Coefficient Giving
- Holden Karnofsky 共同創業 Coefficient Giving
- Holden Karnofsky 夫婦 Daniela Amodei
- Daniela Amodei 共同創業者、社長 Anthropic
- Holden Karnofsky 2025年に入社 Anthropic
- Good Ventures シリーズA（モスコヴィッツ） Anthropic
- Jaan Tallinn · SFF シリーズAを主導 Anthropic
- Jaan Tallinn · SFF 助成金 AI安全性団体
- AI安全性団体 数分で拡散 Jacob Coxon
- DEY. 取材を手配 Jacob Coxon
- Good Ventures 2022年の奨学金 Jacob Coxon
- ジェイコブ・コクソン、2026年9月：Anthropicに4か月いたあと、AIが2020年代の終わりまでに全人類を殺しかねないと警告するスレッドを投稿しました。閲覧数は1億回を超え、報道は彼が株式を手放したと伝えました。Anthropicの株式の権利確定は6か月目から始まります。手放すものは何もなかったのです。
- その後、詳しい事情が出てきました。同じAI安全性の寄付者から資金を受けている団体が数分以内に彼を拡散したと報じられ、Pirate Wiresは、有名な破滅論者を顧客に持つPR会社が翌日には彼の取材を手配していたと報じました。彼はFox Newsに、第三者は関わっていないと話していました。
- お金の流れを追うと、ぐるりと回っています。同じ寄付者が安全性団体に資金を出し、規制を求めている研究所であるAnthropicにも投資していました。先頭を走る者のために書かれた規制は、安全を装った参入障壁です。
- 毎回同じ台本です。ヒントンのGoogle退社、ライケの辞任スレッド、「Right to Warn」書簡、「Situational Awareness」、「AI 2027」、そして今回のコクソン。元OpenAI、元Anthropic、元Google。あるのは感情とシナリオとトレンドラインで、誰でも検証できる内部文書もインシデントも数字もありません。
- 証拠を見せられない人は、誰も信用しないでください。研究所も、元社員も、私もです。
劇的で薄っぺらな宣言。検証できる証拠はなく、本人は何のリスクも負わず、タイミングも怪しい。
Declaração dramática e superficial, sem uma evidência checável, sem nenhum skin in the game, com timing suspeito.
この映画は前にも見た
これは2度目のAIバブルです。1度目も同じ約束をして、冬で終わりました。
- 1958年、ニューヨーク・タイムズは、海軍がフランク・ローゼンブラットのパーセプトロンに「歩き、話し、見て、書き、自己を複製し、自らの存在を意識する」ことを期待していると報じました。
- 1969年にミンスキーとパパートがその限界を示しました。1973年のライトヒル報告は、どの研究も「当時約束された大きな成果」を生んでいないと結論づけました。資金は枯れ、最初のAIの冬が来ました。
- バブルははじけても、技術は残ります。経済のサイクルと技術のサイクルは無関係です。
言われたことをこなす、すばらしいツール
汎用である必要はありません。頼んだことを速くやってくれればいいし、もうやってくれています。
- LLMはすばらしいツールで、マルチメディアのモデルも見事です。Seedanceのようなものは、もうどんなアーティストのワークフローでも役に立ちます。それでも「全部ひとりでやる」にはどれもほど遠いです。
- 結果は操作する人に正比例します。指示、レビュー、その後の手直し。鏡のようなものです。ダメなコードが10倍速く出るか、いいコードが10倍速く出るかです。
- タスクを自動化し、退屈な作業に人間の時間を使わずに済ませる方法として、今あるものの中で最高です。それが現在の到達点で、このレベルでもすでに優秀です。
AIはすべてツールです。私のしもべです。高くつくしもべですが、私が命じたことをやります。そしてそれが常に限界です。
Todas as IAs são FERRAMENTAS. São meus servos. Servos caros, mas eles fazer o que MANDO. E esse sempre vai ser o limite.
足りないのは効率
今は世界中のほぼすべてのデータセンターを使い、まだ建設待ちの受注が5,000億ドル分も残り、サーバーハードウェアのメーカーはどこもボトルネックになっています。
- ハイパースケーラーは今年6,500億ドル以上を使っていて、2026年に予定されていた米国のデータセンター12GWのうち約7GWが遅延または中止になっています。
- 安いモデルはもう近いところまで来ています。私のベンチマークでは、DeepSeek V4.1 Flashが1.21ドルで92.5点、無料のモデルが94点を取りました。
- 今必要なのは大規模な最適化です。タスクあたりの計算量を大きく減らし、価格を劇的に下げること。それはどんなAGIの発表よりも多くを変えます。
AIへの熱狂は、AIについての知識に反比例します。
Sua empolgação com IA é inversamente proporcional ao seu conhecimento sobre IA.