3つ目は、操作の連鎖を追えないことだ。エージェントは「読む」「判断する」「書き込む」を続けざまに実行する。どの入力がどの操作につながったのか記録がなければ、事故のあとで原因も影響範囲も絞り込めない。
3つに共通するのは、AIに渡した権限が、業務の目的を超えて使われてしまう点である。Replitの件も、開発中のエージェントの手が本番データに届いていたことが前提にあった。アクセスできることと、実行してよいことは別物だ。
対策の多くは、実は目新しいものではない。必要最小限の権限だけを与えること、開発環境と本番環境を分けること、操作ごとに認可を確かめること。OWASPも、操作を許すかどうかは生成AIに判断させず、操作を受ける側のシステムで認可をかけるよう求めている。問題は、人間には当然かけているこの制限が、エージェントには徹底されていないことにある。
「エージェント用のアカウントを棚卸しすると、試験導入のときに『とりあえず』付けた管理者権限がそのまま残っている例は少なくない。AI専用の対策を探す前に、社員のアカウントと同じ基準で管理できているかを確かめるべきだ」(サイバーセキュリティコンサルタント・新實傑氏)
Sentraは2021年創業で、ニューヨークとテルアビブに拠点を置く。同社の発表によると、クラウドやSaaS、データウェアハウス、オンプレミスのファイル共有、AIが参照するナレッジベースなどに保存されたデータを対象に、機密データの所在と、そこに「誰が届くか」を結びつけて管理する。対象には社員だけでなく、サービスアカウントやAIエージェント、グループ経由で引き継がれた権限も含まれる。スキャンは顧客の環境内で行い、外に出るのはメタデータだけだという。
その仕組みは、3つの段階に分けてみると分かりやすい。
・見つける:どこに、どのような機密データがあるかを発見・分類する。ここで分類を誤れば、後の工程はすべてずれる。
・判断する:そのデータに誰がどの経路で届き、それが業務上必要かを見る。共有リンクが社外に公開されている、異動した社員の権限が残っている、エージェントが部門全体のフォルダーを読める、といった状態を洗い出す段階だ。
・権限を変える:共有の解除や権限の削除。同社は、異常なアクセスを検知した際に自動でアクセスを取り消し、危険な共有を外す機能も挙げている。
CEOのヨアヴ・レゲヴ氏は「AIエージェントはいまや企業データの最も忙しい利用者だ」と述べる。導入企業である米LyftのCISO(最高情報セキュリティ責任者)、チャイム・サンダース氏の「エージェントを有効にする前に、どのデータに届くのかを知っておく必要がある」というコメントは、この製品が何を引き受けようとしているかをよく表している。
気をつけたいのは3段階目だ。権限を誤って削れば、業務が止まる。月末にだけ開く経理の共有フォルダーや、夜間バッチ用のサービスアカウントは、普段のアクセス記録だけを見ると「使われていない」ように映りやすい。公開資料からは、自動の是正にどのような承認手順を組み込めるかまでは読み取れない。導入する側が、自動で変えてよい範囲(例えば社外公開リンクの停止)と、担当者の確認を挟む範囲を切り分けておく必要がある。
「権限削除の自動化は、まず『元に戻せる』ことを確かめてから広げるべきだ。変更前の設定を記録し、業務部門から『開けなくなった』と連絡が来たときの窓口も決めておく。そこまで整えて初めて、現場は自動化を受け入れる」(同)