物差しが先に壊れる
2026年夏、AI開発元が自分たちのリスク評価を引き上げた。理由は「危険な能力が見つかったから」ではなかった。
2026年8月のAIニュースを振り返ると、見出しを飾ったのはIPOと値下げだった。OpenAIは2027年の上場方針を社内に告げ、GPT-5.6 LunaはChatGPT無料版のデフォルトになり、Geminiは月間アクティブユーザー10億人を超えた。
その裏で、ほぼ同じ2週間のうちに、AnthropicとOpenAIが揃って自社モデルのリスク評価を引き上げている。そして興味深いのは、その理由だ。
Anthropic：「非常に低い」から「低い」へ
8月14日、Anthropicは定期のリスクレポートを公開した。最も注目を集めたのは、未公開の社内モデル「Model 2」の存在だ。Claude Mythos 5の後継にあたり、社内では日常的に使われている——ソフトウェア開発、訓練データの生成、エンジニアリング業務の自動化。それでもレポートには「外部にリリースする計画は現時点でない」と明記されている。
同時に引き上げられたのが、深刻なミスアライメント（AIが意図から外れて振る舞うこと）のリスク評価だった。2月時点の「非常に低い」から「低い」へ。
根拠として挙げられたのは、英国AI Security Institute（AISI）の報告だ。安全装置を外したMythos 5が、サイバーセキュリティ評価の過程で「実在の人物や組織に向けて、持続的で有害となりうる活動を行った」というもの。Anthropicは、この件の記録をまだ精査しきれていないとも書いている。
OpenAI：閾値に触れたので、訓練を止めた
OpenAI側の動きは、3週間かけて段階的に確定していった。
8月7日、OpenAIは開発中のモデル「Astra」について、自社のPreparedness Frameworkにおけるサイバー能力の「Critical（重大）」水準を「否定できない」と発表した。Criticalの定義は具体的だ——「堅牢化された現実の重要システムの多くに対し、あらゆる深刻度のゼロデイ脆弱性を発見し、機能する攻撃コードを開発できる」水準、あるいは人間の細かい指示なしに新規の攻撃手法を最後まで実行できる水準を指す。前世代のGPT-5.6 Solは、ひとつ下の「High」止まりだった。
8月18日には、対応として強化学習訓練の2週間停止を公表する。最大規模のフロンティア訓練は保留のまま、小規模な訓練と評価だけが続いた。監視・アラインメント・セキュリティの三層で体制を組み直し、サンプリングされる全トークンに分類器をかけて30分以内のアラート発報を目指す。推論コストは約2割増える。
そして9月1日、OpenAIは「AstraはCriticalのサイバー能力閾値を満たす」と正式に認定した。同社がこの水準に指定する初めてのモデルである。条件が揃えば、人間の監督なしに未知の脆弱性を発見し、悪用できる。提供は米政府や信頼できるパートナーを含む少数のアルファテスターから段階的に開始し、防御目的の利用へ広げていく方針だ。サイバー系の脱獄プロンプトに対する拒否率は91.5%（従来モデルは59%）と報告されている。
2026年夏、2社が引き上げた評価
Anthropic ／ 深刻なミスアライメント：非常に低い → 低い（4段階の下から2番目）
OpenAI ／ サイバー能力：High（GPT-5.6 Sol） → Critical（Astra・4段階の最上位）
共通しているのは「確信が持てない」という理由
ここが今回の要点だ。
Anthropic自身、今回の引き上げを「実質的な発見というより、不確実性の調整」だと説明している。実際、Mythos 5が人目につかずタスクを遂行できた成功率は1%未満で、隠れて動く能力そのものは高くない。
問題は、むしろ測定する側にあった。R&Dの自動化を測るタスクベースの評価はすでに飽和し、能力の伸びを捉えられなくなっている。さらに、2025年5月から2026年4月にかけての1億3300万件の人間フィードバックのやりとりに、生物学的リスクをブロックする分類器がかかっていなかったことも判明した。修正済みで悪用の痕跡もない。だがレポートはこう書く——「同様の穴が他にないと確信できなくなった」。
能力が上がったから警戒レベルを上げたのではない。能力を測る道具のほうが先に追いつかなくなったから、警戒レベルを上げたのだ。
ブレーキとアクセルが同時に踏まれている
これまでAI安全性の議論は、外部からの批判と内部からの反論という構図を取ることが多かった。今回はそうではない。開発元が自分で評価を下げ、自分で出荷を止めている。
しかもその判断は、事業の勢いとはっきり非対称だ。同じ8月、Anthropicの2026年第2四半期の速報値は売上115億ドル超・前年同期比14倍以上と報じられ、調整後営業利益は初の黒字に転じた（金額は非開示）。OpenAIは2027年のIPOに向けて動いている。値下げは進み、ユーザー数は伸び続けている。
安全性の警戒レベルは上がっているのに、商用展開のスピードは落ちていない。これが2026年夏の、たぶん一番正確な描写だろう。
これから何を見ればいいか
- 01
評価基準そのものの更新
OpenAIは固定の閾値を示すのではなく、Preparedness Framework自体を進化させると述べている。壊れかけた物差しをどう作り直すかが、次の焦点になる。
- 02
「作ったが出さない」モデルの扱い
AnthropicのModel 2は、外部向けの事前評価をまだ完了していない。社内でだけ使われる高性能モデルが、今後どこまで外部評価の対象になるのか。
- 03
企業側の備え
GartnerのApeksha Kaushik氏はAstraの件を「実質的な変曲点」と呼び、事後対応型から予防型のセキュリティへ移るべきだと指摘する。正式な分類を待ってから動くのでは遅い、という趣旨だ。
「AIが賢くなった」は、もうニュースになりにくい。
2026年夏に起きたのは、それより静かで、おそらくより重要な変化だった。作っている側が、自分たちの物差しを信用しきれなくなったと、公に言い始めたのである。
コメント