AIへの依存が、社員の思考力を奪っている？
生成AIは、その可能性とは裏腹に、大量の粗雑なコンテンツを生み出している。それでも社員はこの「ワーク・スロップ（workslop：質の低い作業成果物）」に依存しつつあり、これが怠惰さ、低い生産性、品質管理の崩壊を招き、信頼性が損なわれていくとHarvard Business Reviewのブログは警告する。専門家は、手遅れになる前に企業が今すぐ行動するよう求めている。
「スロピフィケーション（slopification:粗雑化）がビジネスプロセス全体でスケールかつ連鎖的に起きると、そのプロセス自体とアウトプットが劣化し始める。やがて人々は自分の仕事を支えるプロセスへの信頼を失い始める」とオックスフォード大学サイードビジネススクール教授のMatthias Holweg氏とアナリストのThomas H. Davenport氏は書く。彼らはこの組織レベルの現象を「ナレッジ・デケイ（knowledge decay：知識の劣化）」と呼ぶ。
3つの主な課題——検証、妥当性確認、エントロピー
Holweg氏とDavenport氏は、職場でのAI生成コンテンツに関してナレッジ・デケイを防ぐための3つのポイントを挙げる。
第一のポイントは「検証（Verification）」だ。
人間が作成した本物のコンテンツと、誤りを含む可能性のあるAI生成コンテンツを「切り離す」ことだ。これは批判的思考と追加調査が必要になるため、時間がかかる。多くの場合、その労力がAI活用で得られた効率を相殺する。
採用を例に取ると、候補者はAIで履歴書を書くだけでなく、AIのランキングアルゴリズムに最適化されたプロンプトで上位に浮上させる。さらに、面接でも隠れてAIを使ってリアルタイムで回答を生成するケースまである。こうした候補者は組織に不適合な人材である可能性がある。その結果、採用担当者はAIが使えないオンサイト面接に多くの時間を割かざるを得なくなる。
第二のポイントは「妥当性確認（Validation）」だ。
AIをワークフローで使う場合に、人間がどこでどう本当の価値を提供したかを確認することだ。たとえばコンサルティング会社はAIで標準的なレポートやスライドを簡単に作成できるが、クライアントが対価を払っているのは人間の専門的な洞察だ。「人間の専門家は今や、提出物の品質だけでなく、実際に人間の知的作業がそれを生み出したことも正当化しなければならない」と両氏は強調する。
第三のポイントは「知識エントロピー（Knowledge Entropy）」だ。
知識がAIを何度も繰り返し通過するにつれ、最初に作成された「真実のデータ」から遠ざかっていく——「AIベースの伝言ゲーム」のリスクだ。LLMは確率的で「コンテキスト非依存」の統計モデルであり、「事実や真実の概念を持たず、最も可能性の高いアウトプットを予測するだけだ」と両氏は書く。さらにLLMが他のモデルが生成した合成データで学習されると、そのデータがモデルを繰り返し通過することで精度と多様性に影響を与える。これはモデル崩壊（または、生成的近親交配）と呼ばれる。
企業が今すぐ取れる対策
両氏は、モデルの設計方法と使用に関する明示的なルールの両面で「根本的な転換」を主張する。最初の、そして最も難しいステップの一つは、社員のAI利用を制限することだ——真に価値を生む場面にのみ適用すべきだと両氏はアドバイスする。
たとえば採用で、候補者が自由に履歴書を作れる場合、生成AIで「最適化」するのは必至だ。ナレッジ・デケイを防ぐために、採用担当者はAIが生成できない事実に基づく回答を求める構造化文書に依拠すべきだ——特定の役職、完了したプロジェクト、関わったチームメンバー、担当サプライヤー、管理した予算などを聞く形式だ。
生成AIの利用が許可される、または避けられない場合、組織はどんな価値が付加されているかを定義し、その影響を明確にすべきだ。「コンテンツをすべて人間が作る必要はないが、AIを使うなら、なぜ、どのように使うかを明確にする」と両氏は書く。
アーキテクチャの観点では、構造化データと非構造化データの両方の履歴を追跡し、「真実のデータ」情報を理解することが重要だ。顧客インタビューなどの素材は重要な事実、感情、コンテキストを提供する——AIがそれを変更・要約した場合、元のデータを特定・記録し、検証可能な本物のコンテンツに立ち返れるようにしておく必要がある。
両氏は、汎用的でエラーを多く含むパブリックLLMは「ほとんど実質的な価値を加えない」と指摘する。一方、企業固有データで学習された小規模言語モデル（SLM）や独自モデルは人間の仕事を補完できる。「生成AIの野放しの普及に対処しなければ、50年前に企業のコンピューター導入時に起きた『生産性パラドックス』——技術投資が増えても生産性が上がらない現象——を繰り返すことになる」と両氏は警告する。
「人的資本」と「トークン資本」の融合
MicrosoftのCEO、Satya Nadella氏は人間とAIの最善を組み合わせるアプローチを「ヒューマンキャピタル（人的資本）」と「トークンキャピタル（トークン資本）」の組み合わせと表現する。前者は人間の「知識、判断力、人間関係、独創性、パターン認識」であり、後者は構築・所有されたAIの能力だ。機会はその二つを学習ループの中で融合させることにある。
このループでは、人間がAIシステムを導き、目標を設定し、パターンを特定することでAIが「空回り」しないようにする。社内評価により企業独自のベンチマークに対してAIが改善しているかを判断でき、「クエリ可能な」制度的記憶を作り出し、トークンの使用を減らしてコストを節約できる。「改善されたワークフローはすべてより良いトレーニングシグナルを生み、企業固有の暗黙知の蓄積を加速させる」とNadella氏は述べている。
Read More from This Article: AIへの依存が、社員の思考力を奪っている？
Source: News