Tokenmaxxing: When AI adoption metrics go bad

Tracking AI adoption in the enterprise presents IT leaders with a metrics dilemma. While ROI should be the arbiter of AI initiative success, ensuring employees actually use the AI tools you roll out is a key step in the journey toward that ROI. So, what’s the best way to measure AI uptake without losing sight…

Muchas plazas en la oferta pública de empleo TI, pero ¿son suficientes para responder a las necesidades de la Administración digital?

Las nuevas tecnologías son una de las grandes protagonistas de la última convocatoria de empleo público a nivel estatal. A principios de mayo, el Consejo de Ministros aprobaba una oferta con 27.232 plazas. El principal destino de los futuros funcionarios estará en la Administración General del Estado y 1.700 plazas se irán al cuerpo superior…

칼럼 | 엔지니어 20명으로 포춘 500급 기업용 AI를 구축한 비결

3년여 전 필자가 아키로랩스(akirolabs)의 기술 부문 총괄을 맡았을 당시, 필자는 아직 초기 단계에 머물러 있던 조달 SaaS 플랫폼을 인수받았다. 당시 개발 업무는 전적으로 유럽 외 지역에 아웃소싱돼 있었다. 그러나 회사는 이미 초기 제품-시장 적합성(Product-Market Fit)을 확보한 상태였고, 첫 고객들도 관심을 보이기 시작했다. 이에 따라 제품 소유권 확보와 확장 가능한 개발 체계 구축이 점점 더 중요한…

앤트로픽·오픈AI IPO가 의미하는 것···IT리더의 AI 예산은 더 늘어날까

AI 업계 선두 주자인 앤트로픽(Anthropic)과 오픈AI(OpenAI)가 모두 IPO를 추진하는 것으로 알려지면서, 이들 AI 모델에 의존하는 기업의 IT 리더들은 앞으로 어떤 변화가 닥칠지 주목하고 있다. 가장 큰 관심사는 기업용 AI 서비스 비용 상승 가능성이다. 특히 최첨단 AI 모델을 사용하는 기업 고객의 부담이 커질 수 있다는 우려가 나온다. 두 기업은 상장을 통해 주식을 공개 매각함으로써 수억 달러…

오픈AI, 세션 가시성 문제는 해결했지만…AI 거버넌스 과제는 여전

기업들에게 AI 거버넌스는 끝없는 추격전과 같다. AI 모델 업데이트와 반복적인 개선이 매우 빠른 속도로 이뤄지면서, 거버넌스 프레임워크가 충분한 검증을 거치기도 전에 사실상 무용지물이 되는 경우가 적지 않다. 이 같은 한계를 개선하기 위해 오픈AI는 ‘액티브 세션(Active Sessions)’ 기능을 도입했다. 새로운 챗GPT 보안 기능인 액티브 세션은 사용자가 간단한 인터페이스를 통해 현재 로그인된 세션을 확인하고 하나 이상의 세션에서…

AI投資から成果をうむためにーーAI CoEの必要性

McKinseyの調査によれば、企業の約9割が少なくとも一つの業務領域でAIを定期的に活用している。しかしAIを企業全体にスケールできている企業はわずか3分の1だ。64%の企業がイノベーションへのプラスの影響を感じているが、収益への大きなインパクトを実感しているのは39%にとどまる。AIは主流になった。しかしその恩恵はまだ一部の企業に集中している。

AI CoEとは、組織全体でベストプラクティスを標準化する責任を持つ中央集権的なチームだ。ガバナンスや標準なしに乱立するAIソリューションを防ぎ、ビジネス部門がAIで成果を出せるよう支援する。AI CoEは一部のAI先行者だけのための特権的な組織でも、見栄えのためのプロジェクトでもない。組織のAI導入の質と安全性を大きく高める戦略的な能力だ。

なぜAI CoEが必要か

中央集権的なAI組織がなければ、以下の問題が生じる。

・サイロ化:各部門がバラバラにAIパイロットを始めるため、努力が重複し成果が断片化する

・ガバナンスの不整合:プロジェクトごとにデータガバナンス、モデルのセキュリティ、コンプライアンスが異なり、規制違反やモデルバイアスのリスクが高まる

・標準の欠如:チームが再利用可能な資産やツールを活用せずに、毎回ゼロからスタートする

・スケールが困難:小さなパイロットが独自のロードマップになり、優先順位付けや拡大の標準プロセスがない

経済的な根拠も明確だ。IDCの調査では、生成AIに投じた1ドルあたりの平均ROIは3.7ドル、ハイパフォーマーでは10.3ドルに達する。生成AIソリューションの展開にかかる期間は多くの企業で8カ月未満で、ROIは13カ月後に現れるという。適切に管理されたAIイニシアティブは例外的なリターンをもたらす——だからこそ、集中的なガバナンスと専門知識が不可欠だ。

AI CoEの構造と役割

AI CoEには予算・権限・信頼性を担保できるエグゼクティブスポンサーが必要だ。ビジネスとITのリーダーで構成する運営委員会を設け、定期的に進捗をレビューする。CoEのリーダーには深いAIの専門知識と組織横断的な影響力を持つ人物を選ぶ。チームはビジネスリーダー、データサイエンティスト、機械学習エンジニア、ガバナンス・セキュリティの専門家など多様な人材で構成する。

CoEの主な機能は以下の通りだ。

・AI戦略とユースケースの特定:ビジネスリーダーと連携し、最も価値をもたらすAIの機会を特定・優先順位付けする

・スキル開発:現在のAIスキルレベルを評価し、学習・実験プログラムを実施する

・パイロットプロジェクト:AIの手法を検証し、ビジネス価値の概念実証を行うターゲット型パイロットを主導する

・標準とガバナンス:ガバナンスフレームワークとセキュリティ標準を確立し、倫理的なAI利用を監視する

・要望の受付と優先順位付け:要求を受け付け、ビジネス価値・実現可能性・リソース需要に基づいて評価する正式なプロセスを確立する

・再利用可能な資産:将来のイニシアティブを加速するチェックリスト、テンプレート、コードライブラリを作成する

・指標と報告:導入状況、コンプライアンス、ビジネス価値を測定し、継続的改善に活用する
倫理と責任あるAIの組み込み

AIソリューションは倫理的でなければならない。CoEは責任あるAI利用に関するポリシーを策定し、モデルが透明で偏りがなく、企業の価値観を反映するようにする。トレーニングデータとモデルの出力を定期的に監査し、バイアスや意図しない害の可能性を特定・軽減する。プライバシーとデータセキュリティの原則もAIガバナンスに含めるべきだ。

官僚的なボトルネックを避ける

CoEの落とし穴の一つは、ゲートキーパーになってイノベーションを遅らせることだ。AI導入が軌道に乗ったら、CoEはゲートキーパーからアドバイザーへと役割を移行すべきだ。AIの実行はプラットフォームチームに組み込み、製品チームがガードレールの下でAIソリューションを実行できるようにする。CoEは標準設定、知識共有、メンタリングに集中し、最前線のチームが実行を担う。

継続的改善のために

AIはまだ発展途上の技術だ。CoEを設立してもすぐに時代遅れになる。以下の3つのレバーを活用して常に進化させる必要がある。

・フィードバックループ:本番環境やパイロットからユーザーとステークホルダーの声を収集し、モデル、トレーニングデータ、ガバナンスプロセスを更新する

・スキルと文化への投資:定期的なトレーニングと実践コミュニティの構築でAIリテラシーを文化に根付かせる。AIが仕事を奪うという誤解を解消し、AIツールで仕事がどう楽になるかを発信する

・指標駆動型の進化:導入状況、コンプライアンス、ROIを測定し、ボトルネックと改善の機会を見つける。中央ガバナンスが導入を遅らせているなら、より分散型のアプローチへの移行を検討する

業界での実践例

金融サービス:ある大手銀行はリテールバンキング、ウェルスマネジメント、資産運用などの事業部門ごとの分散型CoEを構築し、統一されたガバナンスと評価フレームワークを持つ中央の生成AIレイヤーで支えている。重複を減らし、協働を促進し、AIをより広くスケールさせている。

コンサルティング:Capgeminiはプロジェクト実行の標準化によって顧客プロジェクト間のばらつきを減らし、組織がスピード感を持ちながら企業全体のニーズを見失わずに運営できるようにしている。EYはセキュアなサンドボックス環境に特化したAI CoEを作り、実験から本番までの時間を短縮し、サイロ化した導入を防いでいる。

AI CoEは戦略的能力だ——サイドプロジェクトではない

AI CoEを設立すれば全ての課題を解決できるというわけではない。継続的なシニアリーダーシップの支援、機能横断的なチームワーク、組織の成熟に合わせてオペレーティングモデルを変える柔軟性が必要だ。

しかしうまく機能したとき、CoEはAIイニシアティブをビジネスの優先事項に整合させ、標準とガバナンスを確立し、人材を育て、AIソリューションの責任ある提供を加速する。AIの競争はスピードを増している。効果的なAI CoEに投資した組織が、イノベーションを競争優位に変える最も有利な立場に立つだろう。


Read More from This Article: AI投資から成果をうむためにーーAI CoEの必要性
Source: News