고객지원 챗봇 노린 ‘AI 토큰 무임승차’ 확산…기업 AI 예산 흔든다

고객 서비스를 위해 AI 에이전트를 도입한 CIO에게 또 하나의 고민이 생겼다. 외부 사용자가 시스템을 교묘히 조작해 기업 비용으로 AI 연산을 수행하도록 만드는 문제다. 이러한 AI 토큰 탈취를 최소화하기 위해 시스템을 잠그는 방법이 없는 것은 아니다. 다만 대부분의 대응책은 단점이 있으며, 자칫하면 해당 시스템의 도입 명분 자체를 약화시킬 가능성도 있다. 이 같은 오남용은 본질적으로 프롬프트 인젝션…

ITはなぜいつも責められるのか——7つの理由と、CIOにできること

ビジネス指標が期待を下回ったとき、誰かに責任を求める空気が生まれる。その矛先がITに向く理由は、ITが多くの重要な業務領域で中心的な役割を担っているからだ。だが実際のところ、IT部門は企業の生産性と効率を高めるために存在している。コストセンターどころか、適切に機能すれば競争優位の源泉になり得る。
では、なぜITはいつも責められるのか。7つの理由と、CIOにできることを見ていく。

  1. コミュニケーション不足と「よそ者」扱い

    カーネギーメロン大学テッパービジネススクールのビジネスコミュニケーション准教授Abbe Depretis氏は、多くのITプロフェッショナルは、技術的な内容を非専門家にわかりやすく伝えることが苦手だと指摘する。IT担当は技術について高い専門知識を持っているが、それを非専門家にわかりやすく説明するための時間を取らない傾向がある。IT知識の少ない経営幹部はITの仕事をなかなか理解できないため、何か問題が起きるとITに責任を押しつけやすい構造ができてしまう。「ITは、事業部門が本当の原因から目を逸らすための都合の良い標的になってしまう」とDepretis氏は言う。

    さらに、ITチームが他部門から切り離された場所に置かれていることも多く、「よそ者」として見られがちだ。「危機のとき、身内より外部者を責める方が心理的に楽だ」とDepretis氏は言う。コミュニケーションを磨き、ビジネスとの連携を強化することが、こうした根深い認識を変える第一歩だ。

  2. 目標のミスマッチ

    ソフトウェア開発のBaireSDevでCTOを務めるJustice Erolin氏は、責任の追及はテクノロジーへの期待と実装の現実のギャップから生まれることが多いと言う。経営幹部はROIと効率の視点でITを見るが、テックリーダーはITが一夜にしてコストを削減できる魔法ではないことを知っている。「プロジェクトが成果を出せないと信頼は失われる」とErolin氏は言う。

    非技術系のリーダーは有望なイニシアティブを長期戦略に組み込まず「単なる技術実験」として扱いがちだ。その結果、プロジェクトは「パイロット煉獄」——承認も廃止もされないまま止まった状態——に陥り、そのフラストレーションがITに向けられる。ITの戦略的価値についてビジネスリーダーと認識を合わせることが重要だ。

  3. ITと変更管理への過少投資

    ITマネジメントプラットフォームプロバイダーInvGateの業界アナリスト、Matt Beran氏は、テクノロジーが強力なツールであるがゆえに、非ITの側からは「魔法」のように思われていると指摘する。しかし「テクノロジーはデフォルトでは誰も救わない。適切に実装し、人々が効果的に使えるよう準備する地道な作業をして初めて機能する」とBeran氏は言う。

    好況のときにテクノロジーへの投資を怠り、不況になって機能しないと驚く企業が多い。「そのときITがスケープゴートになる。『なぜ機能しなかったのか』とITを非難する方が、『なぜ投資しなかったのか』と自問するより簡単だからだ。責任の本質はITの失敗ではなく、テクノロジーを戦略的投資として扱わなかった組織の失敗だ」とBeran氏は言う。

  4. 根本原因ではなく、目に見える症状への責任追及

    クラウド移行・インフラ管理会社Stratus10のCEO、Oscar Moncada氏は、危機の際に問題がシステム障害として表面化すると、経営幹部はITに責任を求める傾向があると言う。しかし根本原因はもっと広い範囲にあることがほとんどだ。「障害、セキュリティ侵害、パフォーマンス問題が目に見えるトリガーになるため、ITに注目が集まる。だが、ITチームが日々管理している複雑なトレードオフを周囲が理解していないため、これが問題を悪化させている」。

    CIOが犯しがちな間違いは、誰が悪いかという議論に引きずられることだ。「なぜ起きたか、なぜ見逃されたか、次回どう防ぐか——本来の事後分析はそこを問うものであり、犯人探しの場ではない」とMoncada氏は言う。そのためにも、CIOはインフラとセキュリティの実際の状態を継続的に発信することが重要だ。「リスク、制約、先送りされている課題、将来必要なことを事前に共有し、具体的な解決策とセットで提示することが重要だ。何が手つかずになっているかとその理由を経営幹部が把握していれば、問題が起きても驚かずに済む」。

  5. 曖昧な責任の境界線

    カンバーランズ大学のAI研究者Bhumika Shah氏は、テクノロジーが事実上すべてのビジネス資産に関わるようになった今、責任の境界線が不明確になっていると指摘する。「収益、顧客体験、コンプライアンスに問題が生じると、最初に目に見える形で現れるのはシステムやアプリケーションの障害だ。多くの組織でITはまだサポート部門と見なされているため、何か悪いことが起きると真っ先に責任を問われる立場になりがちだ」。

    ITリーダーが陥りがちな罠は、責められると防御的になるか、技術的な説明に終始することだとShah氏は言う。

  6. ITは組織のスケープゴートになりやすい

    ソフトウェア開発会社BoostVisionのCEO、Xi He氏も同様の見解を示す。ITはほぼすべてのビジネス活動に関わる一方、うまく機能しているときはその仕事が見えにくい。CIO、は問題が起きる前に透明性と信頼を構築することで、否定的な認識に対抗できる、とHe氏は言う。「インシデントだけでなく成果を報告し、トレードオフを説明し、技術的な意思決定をビジネスへの影響と結びつけることだ。システムの選択理由、検討したリスク、対処法を文書化するITリーダーは、次に問題が起きたときに活きる信頼を積み上げている」。

    失敗を責められたときに防御的になったり技術的な説明に終始したりするのは逆効果だ。「ビジネスの言葉で語る方が良い——何が起きたか、なぜ重要か、再発防止のために何をしているかを説明する方が理解を得やすい」とXi氏は言う。

  7. ITはコストセンターと見なされている

    車両追跡システムプロバイダーShadowGPSのCEO、Abhishek Bhatia氏は、多くの取締役会でテクノロジーはいまだに戦略的な推進力ではなくコストセンターと見なされていると言う。そのため何かが壊れると、ITが防げたはずだという前提に立ちがちだ。

    コストセンターというレッテルから脱するために、Bhatia氏はCIOに、ITを「事後対応型サポート」から「先手を打つリスク管理」へと再定義することを勧める。「危機が起きる前に技術的なリスクをビジネス言語に変換することを意味する。システムの回復力、サイバーセキュリティの態勢、技術的負債、リソースの不足について取締役会レベルで定期的に報告することが、責任の共有につながる」。


Read More from This Article: ITはなぜいつも責められるのか——7つの理由と、CIOにできること
Source: News

AI 자동화 시대, CIO가 다시 설계해야 할 ‘업무 방식’의 본질

모든 비즈니스 프로세스에는 처음 설계될 당시 존재했던 제약이 반영돼 있다. IT 임원 마리아 카도는 이렇게 설명했다. 카도는 이러한 제약이 대개 해당 프로세스를 최초로 구현하던 시점의 기술적 한계에서 비롯됐다고 전했다. 그 결과 오늘날에도 많은 기업 프로세스가 여전히 수작업을 요구하거나, 핵심 업무를 처리하기 위해 여러 컴퓨터 애플리케이션을 오가야 하는 번거로운 워크플로를 포함하고 있다고 분석했다. 그러나 인공지능과 최신…

AI in the interview room

A technical interview goes exceptionally well. The candidate answers every question with confidence, explains complex concepts fluently and demonstrates impressive knowledge of modern tools and architectures. The hiring team leaves the interview convinced they have found a strong addition to the engineering team. Weeks later, after onboarding, a different picture begins to emerge. Routine tasks…

Neglecting the cloud? Good luck with AI

An advanced cloud strategy is essential for most organizations to fully benefit from AI. Unfortunately for the majority of CIOs, their organizations still lack the cloud proficiency and investment to drive advanced deployments. Decisions to invest significantly in AI at the expense of cloud operations may only be making things worse. According to a report…

The innovation tax audit: Is your R&D actually just OpEx?

In the high-stakes world of enterprise technology, we are culturally conditioned to celebrate addition. We throw launch parties for platform modernizations, issue press releases for AI integrations and track delivery velocity as a proxy for progress. Roadmaps grow longer. Backlogs get fuller. Teams stay busy. Yet in my work advising boards and executives on capital…

Salesforce launches Headless 360 to support agent-first enterprise workflows

Salesforce is packaging its developer and AI tooling, including its vibe coding environment Agentforce Vibes, into a new platform named Headless 360, designed to help enterprise teams build agent-first workflows. The CRM software provider defines agent-first workflows as enterprise processes in which software agents, rather than human users, carry out tasks by directly invoking APIs,…