エージェント型AIの夜明け：自律型テクノロジーへの準備は整ったか？

平均的な人は毎日、約35,000もの決断を下している。

それらは単純な選択だけではない。それは決断の連鎖であり、途中でさまざまな方向に分岐する。しかし、状況は常に変化するため、ある分岐点における人の決断は、さまざまな要因によって変わるかもしれない。例えば、あなたはいつも徒歩で通勤しているが、朝の雷雨でその習慣が変わるかもしれない。

エージェント型AIをプログラミングしている人々は、同じような自律的な意思決定を通じてAIが機能することを望んでいる。

エージェント型AI以前のAIの多くは、非構造化データから知識を引き出すためにプロンプトを与えることを目的とした大規模な言語モデルに焦点を当てていた。つまり、質問と回答のプロセスだ。

エージェント型AIはそれを超える。毎回変化する複雑な一連のステップを含むタスクを与えることができる。

例えば、デジタルIDの分野では、科学者はデータのバッチと検証結果を示すタスクを得ることができる。簡単そうに聞こえるが、水面下のステップは複雑で、その人の年齢、場所、その他の要因など、データセットに応じて常に異なる。

エージェント型AIはそのタスクを達成できるだろうか？複雑でダイナミックな分岐点を通過し、自律的に判断し、行動することができるだろうか？そのためには、何千もの意思決定にわたってロジックをつなぎ合わせる必要がある。私は機械学習と自動化技術に25年以上携わってきたが、エージェントAIは明らかに解決困難な問題だ。

不正行為と闘うための潜在的なゲームチェンジャー

システムが複雑であればあるほど、攻撃に対して脆弱になる。詐欺師はこのテクノロジーを使ってセキュリティの弱点を突くことができるからだ。

例えば、書類の照合は一見簡単そうに見えるが、その裏側には画像キャプチャやデータ収集など複数のステップが含まれている。そのため、詐欺師がエージェント型AIで探りを入れられる領域が広くなり、そのテクノロジーを使えばはるかに速くそれを実行できる。

ちょっと怖い話だ。

しかし、防御策はある。その最たるものが、誰かがネットワークにアクセスする方法をチェックする侵入テストだ。組織はエージェント型AIを使って、レッドチームの演習のように自分自身を打ち負かそうとすることができる。この技術は、異常がないか複数のパラメーターを監視するモニタリング・ツールとして使うこともできる。また、エージェント型AIが自分自身を認識し、検証中の応答がコンピューターからのものである可能性が高いと判断できるように訓練することも可能だ。

ユースケース、コンプライアンス、未知への恐怖の融合

エージェント型AIに顧客やビジネスへの搭乗を指示した場合、コンプライアンス要件を満たす形でそれを実行できるだろうか？

ビジネス検証は、このテクノロジーにとって理想的なユースケースのように聞こえるかもしれない。ビジネスの規模はさまざまで、そのスペクトルを横断的に検証するのは難しい。その上、本人確認書類の確認が必要な事業には、最終的な受益者が存在する。

エージェント型AIは、こうした個別のステップやロジックチェーンを管理することができる。事業の規模に応じて特定のアクションを取ることもできる。

しかし、デジタル認証は厳格なルールに基づいて運用される。エージェント型AIはビジネスに乗り込むことができるが、毎回同じではないため、コンプライアンスに準拠した方法でそれを行うのは難しいかもしれない。何をしたのか、何をしようとしているのかを説明するのは難しいだろう。

そのため、間違った人や企業にオンボーディングする可能性以上に怖がる人もいるかもしれない。ある状況下でそれが何をするものなのかを説明し、人々にそのテクノロジーに慣れてもらうという問題がある。それは間違いなく、自分たちの創造物をコントロールできなくなるというSF小説の先駆けだ。未知なるものへの恐怖だ。

規制当局は、デジタル検証におけるエージェント型AIを認めるかどうかを決定しなければならないだろう。我々の業界では、それはタスクをこなす技術を持つことよりも大きな制約かもしれない。

新技術への実用的アプローチ

エージェント型AIには、当初はガードレールと人間の監視が必要である。少なくとも初期の段階では、このテクノロジーはプログラムされたシステムとなる。同じタスクを実行する人間と並行して実行し、そこに到達するまでに異なる意思決定分岐をたどったとしても、同じ結論に達するかどうかを確認することができる。

監視とテストによってエージェント型AIに対する懸念は薄れるだろうが、テクノロジーが未知のものに対する恐怖を生み出したのは今回が初めてではない。インターネットも同じことをした。インターネットは、誰もがアクセスできる知識の分散型ストアを導入した。eコマース以前は、人々はインターネットで物を買うことを信用せず、クレジットカード情報をオンラインに載せようとはしなかった。今は違う世界だ。

エージェント型AIは、自ら「考える」可能性を持っている。しかし、その過程で正しい決断を下せば、自律型テクノロジーをとてつもないツールに変えることができる。