If Jensen Huang is right that the era of general-purpose computing is coming to an end, then we are witnessing a transformation as profound as the shift from horsepower to steam power two centuries ago. At the heart of this new revolution are the converging developments across AI and data infrastructure, where unprecedented computational power…
近年、日本のスタートアップエコシステムにおいても「ストックオプション（以下、SO）」は一般的な用語となりました。メルカリやラクスルといった有力スタートアップが上場し、SOによって数千万円〜数億円単位の資産を形成した従業員（いわゆる「億り人」）が多数生まれたことで、その威力は広く知られるようになっています。 しかし、SOは単なる「宝くじ」ではありません。経営者にとっては、キャッシュアウトを抑えながら優秀な人材を採用し、組織の視座を「経営者視点」に引き上げるための高度な資本政策ツールです。一方、従業員にとっては、労働対価としての給与に加え、事業成長の果実を共有し、人生の選択肢を広げるための重要な資産形成手段となります。 一方で、仕組みを正しく理解しないまま導入・受諾し、後々トラブルになるケースも後を絶ちません。「思ったより利益が出なかった」「税金で破産寸前になった」「退職したら全て没収された」といった悲劇は、知識不足から生じます。 本記事では、これからSOを導入しようと考えている経営者、あるいはSOを提示された候補者や従業員の方々に向けて、その本質的な仕組みと価値をフラットな視点で解説します。 1. ストックオプション（SO）とは何か？基本の仕組みをおさらい ストックオプション（新株予約権）とは、一言で言えば「あらかじめ決められた価格で、会社の株式を購入できる権利」のことです。 ここで最も重要なのは、「株式そのものがもらえるわけではない」という点です。「株式を買う権利」が付与されるだけであり、実際に利益を得るためにはいくつかのステップを踏む必要があります。 SOによる利益（キャピタルゲイン）が得られる基本的なメカニズムは、以下の4ステップで構成されます。 Step 1：権利付与（Grant） 会社から対象者（従業員や取締役など）に対して、SOが割り当てられます。 この時、「将来、いくらで株を買えるか」という価格（＝行使価額）が決定されます。 例：今の株価（時価）が100円なので、将来いつでも「1株100円」で買える権利をあげます。 Step 2：権利確定（Vesting） SOをもらってすぐに権利を使えるわけではありません。通常は、入社後一定期間の勤務や、特定の成果達成を条件に権利が確定します。これを「ベスティング（Vesting）」と呼びます。 例：入社してから2年経ったので、持っている権利の50%が行使可能になりました。 Step 3：権利行使（Exercise） 会社の事業が成長し、株価が上昇したタイミングで、権利を行使します。 例：会社の株価が「1株10,000円」になりました。あなたは権利を行使して、会社に「1株100円」を支払い、株を取得します。この時点で、実質的な価値は10,000円あるものを100円で手に入れたことになります。 Step 4：株式売却（Sale） 手に入れた株式を、M&AやIPO（新規上場）といった流動化イベント（Exit）の際に売却し、現金を手にします。 利益の計算式： （売却価格 10,000円 − 行使価額 100円）× 株数 ＝ 利益 このように、会社の企業価値（株価）が上がれば上がるほど、権利を持っている個人の利益も青天井に増えていく仕組みです。逆に言えば、会社の成長なしには1円の価値も生まない、完全成果報酬型のインセンティブと言えます。 2. 経営者（会社）にとっての導入メリット なぜ経営者は、自らの持分比率を下げ（希薄化させ）てまで、従業員にSOを配るのでしょうか。そこには明確な3つの経営戦略上のメリットがあります。 ① キャッシュアウトなしでの採用競争力強化 創業期や急成長期のスタートアップは、常に資金（キャッシュ）が不足しています。GoogleやAmazonのようなテックジャイアント、あるいは国内のメガベンチャーが高額な年収を提示して人材を募集している中で、資金力のないスタートアップが同じ土俵で戦うのは不可能です。 しかし、SOを活用すれば、「現在の給与は市場相場より低いかもしれないが、将来の上場時には数千万円のリターンが得られるアップサイド（上振れ余地）」を提示できます。これにより、手元のキャッシュを温存しながら、リスクテイカーである優秀なCFOやエンジニアを惹きつけることが可能になります。これは、時間とリスクを資本に変える「錬金術」とも言えるでしょう。 ② 従業員のオーナーシップ醸成 SOを付与された従業員は、潜在的な株主となります。これにより、単なる「雇われの労働者」というマインドセットから、「会社のオーナーの一人」という意識へと変化することが期待されます。 「自分の給料分だけ働けばいい」ではなく、「どうすれば会社の企業価値が上がるか？」「無駄なコストを削って利益を出そう」という経営者と同じ視点で日々の業務に取り組むようになります。全員がこの視座を持つ組織は、指示待ち族の多い組織に比べて圧倒的に強い推進力を持ちます。 ③ 業績向上への強力なインセンティブ SOは株価と連動するため、会社と従業員の利害（インセンティブ）が完全に一致します。 一般的なボーナスとは異なり、会社の企業価値そのものを上げなければリターンが得られません。そのため、短期的な売上だけでなく、中長期的な事業成長や組織強化に対してもコミットメントが生まれます。特にIPOという「共通のゴール」に向かってチームの一体感を醸成する上で、SOは象徴的な役割を果たします。 3. 従業員にとってのメリットとリスク 働く個人にとって、SOは人生のフェーズを変えるチケットになり得ますが、同時にリスクも存在します。良い面ばかりを見るのではなく、構造的なリスクを理解しておくことが重要です。 メリット：労働所得の限界を超えた資産形成 最大のメリットは、給与所得（労働の対価）だけでは達成困難な規模の資産を一括で築ける可能性です。…
While 2025 started with high expectations for AI and fears of job loss, businesses have realized that extracting meaningful value from AI requires significant human effort. With this reality check, organizations pushed through their learning curve and now, in IT operations, AI is effectively everywhere. We recently surveyed 1000+ IT professionals in collaboration with ITSM.tools…
LLM学習は、正解トークンの確率を上げる方向にモデルの重みを更新し続けるプロセスだ。更新の基本は、誤差が減る方向へ重みを少し動かすことにある。ただしLLMはパラメータが膨大で、勾配のスケールやノイズが層や時期によって大きく変わる。そこで単純な更新よりも、勾配の平均的な大きさや過去の傾向を見ながら調整する更新法が使われる。
実務でよく使われるのは、勾配の履歴を使って更新幅を自動調整するタイプの最適化である。直観としては、よく揺れる方向には慎重に、小さくしか動かない方向には積極的に、という調整を行う。これにより学習が安定しやすくなる。
学習率は、1回の更新でどれだけ重みを動かすかを決める。大きすぎれば発散して損失がNaNになり、小さすぎればいつまでも良くならない。LLMの学習では、学習の序盤に特に不安定になりやすい。そこで多くの学習では、最初は小さく始めて徐々に上げる「ウォームアップ」が使われる。直観的には、いきなり全力で走るのではなく、体を温めてから速度を上げるイメージだ。
その後は、徐々に学習率を下げていくスケジュールがよく使われる。学習の後半では、既にそれなりに良い解に近づいているため、細かく調整して収束させたい。学習率を下げるのは、そのための制御である。こうしたスケジュール設計は、単に早く学習するためだけでなく、到達点の品質にも影響する。
LLM学習は計算量が巨大なので、速度とメモリを稼ぐために混合精度が使われることが多い。これは、一部の計算を低精度で行い、必要な部分だけ高精度を保つ工夫である。低精度は速いが、表現できる数の範囲が狭く、丸め誤差やオーバーフローが起きやすい。そこで学習では、数値が壊れないようにいくつかの安全策を入れる。
代表的なのが、勾配が大きくなりすぎたときに上限を設けるクリッピングだ。直観的には、急激な更新がモデルを壊す前にブレーキをかける。また、低精度で小さな値がゼロに潰れる問題を避けるために、計算のスケールを一時的に持ち上げる手法も使われる。これらはすべて、学習を「最後まで走らせ切る」ための工学である。
学習は、一定量のデータをまとめて処理し、その平均的な誤差に基づいて更新する。この「まとめて処理する量」がバッチサイズだ。バッチが大きいと更新が安定しやすいが、メモリを食い、計算資源が必要になる。バッチが小さいとノイズが大きくなり、学習が不安定になる場合がある。
実務では、GPUメモリの制約で一度に大きなバッチを載せられないことが多い。その場合に使われるのが勾配蓄積で、複数回の小さなバッチ処理の結果を足し合わせてから一回更新する。これにより「見かけのバッチサイズ」を大きくできる。ただし、蓄積回数が増えると更新頻度が下がるため、学習率やスケジュールの調整が必要になる。
LLM学習では、単一GPUではモデルもデータも載り切らない。そこで複数GPU、複数ノードで分散して学習する。分散のやり方には大きく三つの発想がある。
一つはデータ並列で、同じモデルを各GPUに持たせ、違うデータをそれぞれ処理し、最後に勾配を集めて平均する。これは概念が分かりやすいが、モデルが大きくなると各GPUに載らない問題が出る。
二つ目はモデルの内部計算を分割する並列化で、巨大な行列演算などを複数GPUに分けて計算する。これによりモデルを物理的に分割して保持できるが、GPU間の通信が増えやすく、設計が難しくなる。
三つ目は層を分割してパイプライン化する方法で、前半の層をGPU群A、後半の層をGPU群Bが担当し、ミニバッチを流れ作業で処理する。これによりメモリを分散できるが、パイプラインの詰まりや待ち時間の調整が重要になる。
現実の大規模学習では、これらを組み合わせる。どれをどう組み合わせるかが、性能とコストを支配する。
LLM学習は時間もコストも大きい。途中で数値が壊れて停止すると損失が甚大になる。だから学習では、損失の推移だけでなく、勾配の大きさ、更新のスケール、NaNの兆候、各層の統計などを観測し、異常を早期に検知する。チェックポイントをこまめに保存して復旧できるようにするのも基本である。
さらに研究や実務の改善では再現性が重要になる。乱数シード、データのシャッフル、分散設定、混合精度の挙動など、微妙な差が結果を変えることがある。完全な再現は難しくても、「何が変わったか」を追える形でログと設定を残すことが、学習工学の核心になる。
LLM学習は、次トークン予測という単純な目的を、巨大な計算で実現するプロセスだが、成功の鍵は学習率、安定化、精度、バッチ、分散の設計にある。最適化は重みを正しい方向へ導き、学習率スケジュールはその道筋を制御する。混合精度とクリッピングは壊れやすさを抑え、バッチと蓄積は計算資源の制約を吸収する。分散学習は、そもそも学習を可能にする土台だ。モデルを理解するだけでは足りず、学習を「回し切る」ための工学を理解して初めて、LLMを作る側の視点が手に入る。
Read More from This Article: LLMはどうやって学習されるか：学習率、最適化、分散学習、安定化の基本
Source: News
For most of this past year, I’ve sat across from CEOs and executives discussing their next big initiatives, from new markets and AI to anything that might give them an edge. Despite the optimism, the moment we turned to strategy, their confident tone softened, as if conviction ran out halfway through the sentence. And I’ve…
Despite rising investment, many enterprises in compliance-driven industries such as banking and capital markets, life sciences, and government are struggling to scale artificial intelligence (AI). Compliance demands, data privacy requirements, and unpredictable infrastructure costs are slowing or stalling progress. The problem isn’t ambition — it’s architecture. Public cloud environments aren’t always built to handle the…
When mergers and acquisitions grab headlines, the cybersecurity posture of the involved organization is rarely scrutinized, unless one of the parties suffers a breach. But once the deal is done, a key factor that determines how well two companies become one is the gap between what they believe is the state of their security posture…
Cyber threats are rising, with a 44% year-on-year increase in cyber-attacks underlining how important security is in the age of AI. Despite this, many businesses are failing to upgrade legacy IT infrastructure – and leaving themselves vulnerable. “I find it very strange the organisations that I speak to where their ability to just patch in…
The acquisition of VMware by Broadcom and subsequent licensing changes have forced many businesses to pay two to three times more for virtualisation, according to Gartner – prompting many IT leaders to rethink. The cost implications of VMware licensing changes have left many organisations in “a very painful place,” says Rhys Powell, senior black belt,…
Moving to the cloud promises faster, smoother application delivery – but IT leaders must ensure they don’t sacrifice flexibility in the process. Recent disruptions in the form of virtualisation license changes and the push for AI make agility more important than ever, says Rhys Powell, senior black belt, Managed Cloud Services at Red Hat, in…