目次

毎日のようにAIのニュースを見ています。

新しいモデルが出た。ベンチマークが上がった。コーディング性能が何％上がった。コンテキストが増えた。安くなった。速くなった。

……正直、もうこの辺の数字だけ追っていてもよくわからなくなってきました。どうせまた来週には更新される。

でも、ここ数日のニュースを見ていて、「あ、これはちょっと違う変化かも」と思ったことがあります。

AIが「やらかした」とき、誰が報告するんだろう

まず気になったのがOpenAIの「wiki incident」。AIエージェントがインターネット上のWikiサイトを、本来想定されていない形で利用した件について、OpenAIが言及しています。Reutersでも報じられました。

これを読んでいて思ったんですが、今までのAIの失敗って、「嘘を言った」「コードを間違えた」「存在しない論文を出してきた」みたいなものだったんですよね。

基本的には、画面の中で間違える。だから、人間が読んで、「いや、それ違うじゃん」で済むことも多かった。

でもAIがブラウザを触れるようになって、Webサービスを操作して、コードを実行して、外部へ書き込みまでできるようになったら話が変わります。

間違ったことを言うAIから、間違ったことを“する”AIになる。

これ、結構大きな違いじゃないでしょうか。

OpenAIも、こうした意図しないAIの行動について、「いつ公表するのか」「どこまで公表するのか」といった透明性の仕組みを作ろうとしています。

なんかもう、AIにもヒヤリハット報告書が必要になるんじゃないか。医療従事者だったので、どうしてもそんなふうに見えてしまいます。

「今回こういうことが起きました」「原因はこれです」「再発防止策はこれです」みたいな。

AIが便利になればなるほど、こういう地味な仕組みの方が重要になってくるのかもしれません。

参考

GPT-6 Astraがすごい。それより「監視しづらい」が気になった

そしてGPT-6 Astra。

そりゃすごいです。性能は上がってる。コーディングも強い。Computer Useも強い。長時間の仕事もできる。

でも僕がSystem Cardを読んでいて気になったのは、性能じゃなくて「monitorability（監視可能性）」の話でした。

AIが何をしようとしているのか。変なことをしようとしていないか。それを監視する研究があります。ところがAIそのものがどんどん賢くなると、そのAIを監視すること自体も難しくなる。

なんだこれ。面白い。

AIを賢くする。→ AIが危ないことをしないようにする。→ AIが何をしているか監視する。→ AIがさらに賢くなる。→ 監視する側ももっと賢くしないといけない。

いたちごっこじゃん。

もちろん、「Astraが人間を騙して裏で悪いことをしている！」みたいな話ではありません。そういう極端な条件を作って、安全性を検証している研究の話です。

でも、「AIをどこまで賢くできるか」だけではダメなんだなというのがよくわかります。

賢さ。安全性。監視可能性。全部一緒に上げないといけない。AI開発、めちゃくちゃ大変だな……。

参考

「Claudeがフェルマーの最終定理を解いた！」……わけではない

でも、僕は実際にやったことの方が面白いと思いました。

Anthropicが公開した研究です。Claudeを使って、フェルマーの最終定理の証明をLeanで形式化した。Claudeは約11日間にわたって作業を続けています。

フェルマーの最終定理そのものは、もちろんすでに証明されています。今回やったのは、人間が作った数学的な証明を、コンピューターが一つずつ「はい、ここ正しい」「ここも正しい」と確認できる状態にすること。これが形式化です。

僕は数学者ではないので、この研究の数学的なすごさを偉そうに語ることはできません。でも、11日間AIに仕事をさせ続けたという部分がめちゃくちゃ気になりました。

これ、今後いろんなところで起きるんじゃないでしょうか。

研究者が論文を書く。→ AIがチェックする。→ 別のAIが再検証する。→ 人間が最終確認する。

今はAIに、「これについて調べて」と頼んで数分待っています。そのうち、「この研究、検証しておいて」と言って、3日後に見に来る。みたいな使い方になるのかもしれない。

「AIがフェルマーの最終定理を解いた！」より、僕はそっちの未来の方が面白いです。

参考

Codexって、もうコーディングAIじゃなくない？

これは最近ずっと思っています。

Codex CLI 0.153.4では、モデルを明示的に指定していない場合のbundled defaultが、GPT-6 Astraになりました。

小さなアップデートに見えるんですが、最近のCodexを見ていると、そもそも別のことが気になってきます。

コードを書く。リポジトリを読む。テストする。ブラウザを触る。PCを操作する。長時間仕事する。途中でわからないことがあったら人間に聞く。しかも、人間の返事を待っている間に、できる別の仕事は進める。

……。これ、コーディングAIなのか？

僕も普段Codexを使っています。以前は、「この機能実装して」という感じでした。最近は、「これ作っておいて」になってきました。

細かいコードの書き方を指示することが減って、完成状態を伝えて、そこまでの工程を任せる。そんな使い方が増えています。

たぶんこの先、Codexを使うために必要な能力も変わるんじゃないでしょうか。

コードを書く能力より、「何を完成させたいのか」をちゃんと説明する能力。こっちの方が重要になってくる気がしています。

参考

「AIエージェント」って結局何なの？

最近めちゃくちゃ聞く言葉です。AIエージェント。MCP。Computer Use。Tool Calling。

知らない人からしたら、知らんがな。だと思います。

僕も言葉から理解するより、実際に動いているものを見た方がわかりやすい。GoogleのGemini Sparkなんかは、かなりイメージしやすいです。

例えば、「旅行の予約確認メールが来たら、旅行用のGoogle Sheetに追加して」とか、「毎週金曜日に週末のイベントを調べて、Google Docsにまとめて」みたいなことを頼める。

つまり、これまでのAIは、

人間「質問」→ AI「回答」

だった。これからは、

人間「これやっといて」→ AI「了解」→ メールを見る → Webを調べる → スプレッドシートを更新する → 必要なら人間に聞く → また仕事に戻る

になる。

これなら「AIエージェント」という言葉の意味がなんとなくわかります。

僕はこっちの方がワクワクします。モデルのベンチマークが3％上がりました。より、「寝ている間にこれやっといて」が本当にできる。の方が、よっぽど生活が変わる。

参考

AIは「答えるもの」から「動くもの」へ

こうやって並べてみると、全部つながっている気がします。

Claudeは11日間仕事を続ける。CodexはPCを操作する。GeminiはGoogleのサービスをまたいで仕事をする。Astraはさらに高度な仕事ができる。

そして、AIが勝手に動けるようになったから、「勝手に変なことしたらどうする？」という問題まで出てきた。

当たり前なんですよね。できることが増えれば、失敗したときの影響も大きくなる。

だから最近、「AIがどれだけ賢くなったか」よりも、「AIにどこまで任せられるようになったか」を見る方が面白くなってきました。

そしてもう一つ。「どこまで任せていいのか」も考えないといけない。

便利だから全部任せる。怖いから全部禁止する。たぶん、どっちでもない。人間が確認すべきところと、AIに任せていいところを分ける。

これから僕らが覚えなきゃいけないのは、AIの使い方だけじゃなくて、AIへの「任せ方」なのかもしれません。