AIで作る速さに⁠⁠、確かめる速さは追いついていますか?

生成AIの登場で、文章もコードも設計図も、指示ひとつで瞬く間に形になるようになりました。しかし、できあがったものが正しいかどうかを確かめる人間の時間は、1秒も縮まっていません。AIを導入したのに手戻りが増えた、レビューが終わらない、一つひとつは問題なさそうなのにつなげると噛み合わない。こうした現場の悩みの原因は、AIの性能や担当者の努力にあるとは限りません。「⁠作る力」と「確かめる力」の釣り合いが崩れたことにあります。

朝の焦燥と夕方の破綻は、同じ構造から生まれる

朝、スマートフォンを開くと、新しいモデルやツールの話題がタイムラインを埋め尽くし、まだ試していないツールに追いつかなければと焦りが募ります。夕方には、AIに書かせた原稿やコードがレビュー待ちの列を作っています。体裁は整っているのに、章ごとに書かせた原稿は設定が噛み合わず、ひとつにつなげると破綻しています。直しているそばから、新しい生成物が人間の読む速さを超えて積み上がっていきます。

『AI×アーキテクト』は、朝の焦燥と夕方の破綻を、同じ構造を内側と外側から眺めたものだと捉えます。情報や生成物が生み出される速度が、1人の人間がそれを確かめ、消化し、自分の仕事に位置づける速度を構造的に追い越したのです。本書はこの開き続ける差を「生成と検証の非対称」と呼び、全12章を貫く中心概念に据えています。

図1 生成の量は爆発的に増え続けるが、検証の速さは人が読み、理解する速さに制約される(本書P.10より)

AIは自分が積んだ石垣の緩みを見回れない

では、なぜ生成の側だけが爆発したのでしょうか。かつて、読める文章や動くコードを1本仕上げるには相応の技能と時間が必要でした。この手間は障害物と見なされてきましたが、実際には誰も設計していない品質フィルターとして働いていました。作るのに時間がかかるからこそ、人は作る前に考え、1行ずつ書きながら1行ずつ確かめていたのです。生成AIはこの関所を取り払い、検問の機能まで一緒に消してしまいました。

生成したAI自身に確かめさせればよいのではないでしょうか。ところが大規模言語モデルは「この文脈の次に何が来そうか」を予測するように訓練されており、「⁠全体として矛盾がないか」を保証する仕組みを持ちません。「⁠この判断はいつも編集長が握る」といった組織の中だけで共有されるルールも、どこにも書かれていない以上、学習のしようがありません。本書の言葉を借りれば、生成AIによって城は一晩で建つようになりましたが、石垣の緩みを見回る守り手はどこにもいません。城は一晩で建っても、城壁は一晩では築けないのです。

頑張りではなく「構造」で受け止める

多くの現場が最初に選ぶのは、ベテランやエースエンジニアをすべてのレビューに張り付かせる道です。短期的には機能しますが、人間1人の検証速度は増えないため、生成量が増え続ける以上、張り付いた人はいずれ溺れます。しかも、その人が溺れた瞬間に組織の検証能力はゼロになります。

そこで本書は、アーキテクトを「AIが持てない『全体の文脈』を設計し、維持する人」と定義し直します。これは肩書きの話ではありません。エンジニアであれ企画職であれ経営者であれ、AIの生成物が流れ込む場の全体に責任を持つ人は、この意味でのアーキテクトです。その仕事は、検証が特定の個人の頑張りに依存せず回り続ける構造を作ることです。本書はその柱として、出力を生み出す型を整えるルールの設計、人が握る判断とAIに開放する作業を分ける境界の設計、レビューで見つかった問題をルールと境界の改善に還流させるフィードバックループの設計の3つを挙げます。上流で1つのルールを直せば、下流の千の生成物が変わります。

図2 確率的な処理に委ねる領域と決定的な処理で固める領域を分け、境界に検証とガードレールを置く(本書P.22)より

本書はこの考え方を、第一原則「先に勝ってから、戦わせる」にまとめています。生成AIを走らせる前に、生成物が必ず通る検証の門や、逸脱を止める仕組みを整えておくという原則です。その配置があるなら大胆に任せ、ないなら任せる範囲を絞るのではなく、先に配置を作ります。検証の門番そのものはAIに担わせてもかまいません。どこに検証を置き、何を人間が握るかを決めることが、アーキテクトに残る仕事です。

設計する側に回ると、朝の焦燥にも答えが出ます。個々のツールやモデルは構造の中で入れ替え可能な部品であり、新しいツールの登場は「乗り遅れてはいけない何か」から、「⁠どの部品と入れ替え得るか」という落ち着いた検討事項に変わるからです。

アーキテクトの役割を描き直す1冊『AI×アーキテクト』

人とAIの境界線をどこに引くか。この問いに、開発の現場から組織、経済まで一貫した視点で答えるのが、元木大介氏と熊井悠氏による『AI×アーキテクト〜「複雑性・不確実性」を構造で受け止める〜』です。数万体のAIエージェントを協調させるスウォーム技術を手がける元木氏と、AIを前提とした開発プロセスの型づくりに取り組む熊井氏が、全12章を5つの部に分けて論じています。本書の特徴は大きく3つあります。

1つ目は、道具が入れ替わっても古びない「型」を手渡している点です。本書は、思考、問題解決、創作、布陣、関係、稽古という、ツールが半年で入れ替わっても変わらない6つの型を示したうえで、レイヤードやマイクロサービスなど古典的な8つのアーキテクチャスタイルを、AIエージェントを部品として扱う時代の共通言語として読み替えます。

2つ目は、要求定義から運用までの各工程に、人とAIの境界線を引いている点です。要件定義、設計、実装、デリバリと運用のそれぞれで、AIに委ねられる作業と人間が手放してはならない判断を切り分けます。さらに、評価を先頭に据える新規開発と、自社サービス、受託、社内システム、SESという既存開発の4つの文脈に分けて、現場の制約をAIに渡す文脈という資産に変える実践を解説しています。

3つ目は、1体のエージェントから群れ、組織、社会までを同じ視点で貫いている点です。自律性に制約というハンドルを取り付けるエージェントアーキテクチャ、無数のAIを律するスウォーム技術、確率的に揺らぐAIを支える運用とデータ基盤を解説したうえで、人の持ち場を決める職務設計や、AGIがすでに法人という形で社会に根づいているという視点まで議論を広げます。

本書は特定のツールの使い方を教える本ではありません。何をAIに委ね、何を決して手放さないのか。その線を自分の言葉で引けるようになるための本です。新しいツールに追い立てられているエンジニアはもちろん、生成物の検証に手が回らなくなっているテックリードやCTO、AI導入を人の持ち場や事業戦略まで含めて考えたい経営者にとって、AI時代の確かな設計図となる1冊です。