골드만삭스 리서치(Goldman Sachs Research)의 ‘데이터센터 수요 보고서’에 따르면, 데이터센터가 필요로 하는 글로벌 전력 수요가 2027년까지 50% 증가할 전망이다. 또 2030년의 수요는 2023년과 비교해 165% 증가할 것으로 분석됐다. 이 투자사의 선임 주식 리서치 애널리스트인 제임스 슈나이더는 이번 데이터센터 수요 보고서에서 오늘날 기술 업계가 에너지 효율성에 초점을 맞추고 있다고 진단했다. 저가형 하드웨어에서 대규모 AI 모델링 기능을 제공한다는…
최근 C++의 메모리 안전성 문제가 논란이 되면서, 트랩C(TrapC)와 세이프C++(Safe C++) 같은 프로젝트에 대한 관심이 높아지고 있다. 다양한 시도가 이어지고 있지만, 스트롭스트룹은 여전히 C++에서 프로파일을 도입하는 것이 안전성을 확보하는 핵심이라고 주장했다. 여기서 말하는 프로파일은 C++의 특정 기능을 제한하거나 조정하여, 더 안전한 코드를 작성할 수 있도록 하는 일련의 규칙이나 설정을 말한다. 직접적인 포인터 연산을 금지하거나 자동 메모리…
이번 컨소시엄에 참여하는 15개의 기관은 앞으로 AI를 활용한 연구와 교육 혁신을 위해서 협력하게 된다. 이를 통해 차세대 발견을 촉진하고 다음 세대를 위해 AI의 미래를 준비하는 것이 목표다. 컨소시엄 창립 파트너로는 캘리포니아 공과대학교(Caltech), 캘리포니아 주립대학 시스템(The California State University system), 듀크 대학(Duke University), 조지아 대학(The University of Georgia), 하버드 대학(Harvard University), 하워드 대학(Howard University), 매사추세츠 공과대학(Massachusetts…
In the fast-paced world of technology, it’s rare for an idea to capture the attention of CIOs and IT leaders universally—but the concept of the “café-like branch” has done just that. This new approach to branch office design and connectivity is rapidly becoming a top priority for organizations that want to balance security, connectivity, and…
AWS、マイクロソフト、グーグルは引き続きエンタープライズ・クラウド市場を支配しているかもしれないが、特に急成長しているAI時代には、専門的なワークロードやユースケースを持つ組織やイノベーターにとって貴重なパートナーであることを証明する第二層のクラウド・プロバイダーが続々と登場している。 Athos Therapeuticsもそのような企業のひとつだ。臨床段階のバイオテクノロジー企業であるAthos Therapeuticsは、これまでAIワークロードを構内で実行していたが、Vultr Cloud GPUを選択した。Vultr Cloud GPUは、AthosがデルのNvidia搭載HGX H100 PowerEdgeサーバー上で実行するGPU-as-a-サービスであり、自社開発のAIモデルをトレーニングし、自己免疫疾患や癌性疾患の解決を目的としたAI搭載精密医療プラットフォームを構築する。 昨年夏に契約を結ぶ前に、Athos、Vultr、Dellの3社は、Athosのニーズを満たすパイロットプロジェクトで協力したと、AthosのAIおよびML担当副社長June Guo氏は言う。 グオ氏は、Athosが小規模なオンプレミスのインフラを捨てて、Vultrの専門的なクラウドプラットフォームを採用した理由をいくつか挙げている。Athosがオンプレミスで膨大な電力とインターネットを使用していることや、大規模なモデルを訓練するためのセキュリティの必要性などだ。Vultrへの移行は、コスト削減にもつながったという。 「以前は、これらのAIアルゴリズムをトレーニングするためにオンプレミスのサーバーを使用していましたが、停電やインターネット帯域幅の問題などのインフラ問題が発生したため、これらの問題に対処するベンダーを探し始めました」とGuo氏は言い、GPU-as-a-Serviceモデルへの切り替えは、Athosの精密治療プラットフォームの開発を加速させるのにも役立ったと述べている。 ニッチなニーズ、ニッチなソリューション Vultr、IBM、Alibaba、Akamai、OVHcloud、Tencent、Huawei は、コスト削減と AI モデルのトレーニング、チューニング、推論サービスの柔軟性を提供し、知的財産、ゲノミクスデータ、独自の AI アルゴリズムに必要なセキュリティと機密性を提供する一握りのセカンドティアクラウド IaaS プレーヤーのひとつであるとアナリストは述べている。 「Vultr、Akamai、IBM、Alibaba、Tencent、Huaweiのような第二級のクラウドプロバイダーは、ハイパースケーラーが広範で画一的なアプローチをとるのとは対照的に、ニッチ市場と特定の顧客ニーズに焦点を当てることで差別化を図っている。これらのプロバイダーは、専門性、柔軟性、コスト効率が最も重要な分野で成功を収めているとアナリストは語る。 知的財産の保護は、AthosがVultrのGPUクラウドに移行した重要な理由であり、そうすることで業界の規制やコンプライアンスに準拠しながら、モデルIPをよりよく保護することができるからだとGuo氏は言う。また、GPU-as-a-serviceモデルは、大量のゲノムデータのダウンロード、インターネットアップデート、Nvidiaカードの入れ替えなど、AIインフラストラクチャの絶え間なく進化するメンテナンス要件を最小限に抑えることができるという。 Athosは、AWS、Google Cloud、Microsoft Azureの3大ハイパースケーラのいずれかを選択することもできたが、アルゴリズムのトレーニングと様々なタイプの科学的オミックスデータのスケーリングは、これらのプラットフォームでは法外なコストがかかるとGuo氏は語る。 Athosのデータはヒトの血液、便、組織サンプルに由来し、マルチオミクスのデータ構造はテキスト、音声、動画とは異なるため、Athosは標準的なAIモデルを使用することができない。精密治療に使用されるデータは多種多様で大量であるため、アトスは独自のAIアルゴリズムとAIモデルを構築する必要がある。 さらに、Vultrとデルは、Athosの自律型AI分析プラットフォームとデータレイクに対して、ほとんどのクラウドベンダーが提供できるよりもコスト効率の高いエンジニアリングサポートを提供することができた、とGuo氏は言う。 Athosにとって、VultrのCloud GPUプラットフォームは、AthosのAIモデルのトレーニング、微調整、推論サービスの実行など、すべてをこなす。また、Athosの知的財産、大規模なゲノムデータセット、独自のAIアルゴリズムに必要なセキュリティと機密性も提供する。 クリーブランド・クリニックおよびレイヒー病院・医療センターと提携しているAthos Therapeutics社は、数十億のパラメーターとマルチオミクスデータを持つ複数のモデルを開発し、25,000人以上の患者の分析を行ってきた。VultrとDellのクラウドパートナーシップは、その道を切り開くのに役立っている。 「以前使用していたオンプレミスのサーバーと比較すると、その高速化には驚かされます。以前使っていたオンプレミスのサーバーと比べると、加速度は驚くべきものです。」 イノベーションの選択肢は豊富 AIのゴールドラッシュは、純粋なGPU-as-a-Serviceを提供するニッチプレーヤーや、クラウド上のGPUを含む大手3大ハイパースケーラーと同様にクラウドオプションの充実したメニューをホストするセカンドティア・プロバイダーの台頭をもたらした。IDCのアナリストであるDave McCarthy氏によると、GPU-as-a-Serviceは、GPUサービスモデルのみを提供するCoreWeaveのような新興企業の登場により、新しい用語として登場したが、AWS、Microsoft、Googleのような大手企業は、何年も前から提供している。 Vultrは、GPU-as-a-Service以外にもさまざまなクラウドサービスを提供しているため、大手3社のハイパースケーラに「より近い」とマッカーシーは言う。2014年にローンチしたVultrは、開発者たちによって設立され、独自のコントロールペインと自動化を提供し、顧客が迅速にスケーリングできるように初期のクラウドプラットフォームを設計した。このプラットフォームは当初、ゲーム会社やSaaSの新興企業に大人気だった。 Vultrが成長し、規模を拡大し、C-suiteを雇用し、NvidiaやDellとパートナーシップを結ぶにつれて、同社は現在、AIワークロードをサポートする柔軟でスケーラブルなグローバルクラウドコンピュート、クラウドGPU、ベアメタル、クラウドストレージソリューションで世界中の企業をターゲットにしている。 例えば、VultrのCPU-a-serviceは、AI/MLやハイパフォーマンス・コンピューティング向けに、AMDのInstinct MI300Xアクセラレータや、GH200、HGX H100、A100、L40S、A40、A16などのNvidia GPUへのアクセスを提供している、 クラウドの専門家であるリンティカム氏は、Vultr はわかりやすい価格設定とシンプルさで開発者、新興企業、中小企業にアピールし、アカマイはメディア、ゲーム、遅延の影響を受けやすいアプリケーション向けのエッジコンピューティングとコンテンツデリバリーで優位に立っていると指摘する。「IBM はハイブリッド・クラウド・ソリューションでリードしており、米国および EU のヘルスケアや金融など、コンプライアンスを重視する業界を中心に、レガシーシステムを管理する企業をターゲットとしています」とのこと。 地域的には、アリババ、テンセント、ファーウェイがアジアで圧倒的な強さを見せているという。 米国や欧州の企業にとって、第2層のクラウドプロバイダーの魅力は、ベンダーの多様性、コスト削減、AWSやGoogle Cloud Platform、Azureのような拡張性や複雑さを必要としないAIや特殊なワークロードをサポートできる点にあることが多い、とリンティカム氏は付け加える。 アクセンチュアのCloud Firstアナリストであるスラブ・スリバスタバ氏によると、二番手のクラウドプレイヤーは、中小企業、地域企業、規制産業向けにさまざまな専門サービスを提供しており、AI/MLのトレーニングや推論のユースケースでコストを抑えられるなどの主なメリットがあるという。スリヴァスタヴァ氏によると、AIモデルをトレーニングするためのハイパースケーラのGPUコンピューティングインフラのコストは、Vultrのような専門プロバイダーが提供する同じリソースよりもはるかに高いのが一般的だという。…
The banking, financial services, and insurance (BFSI) sector is facing a storm. In recent decades, the widespread adoption of the internet and the subsequent smartphone revolution have empowered consumers and businesses to look beyond incumbent providers of financial services. Digital-first startups have changed expectations – fuelling demand for faster transactions and innovative services. These new…
The biggest challenge enterprises face when it comes to implementing AI is seamlessly integrating it across workflows. But AI itself presents a solution in the form of an orchestration layer embedded with AI agents. AI requires massive datasets, customized models, and ongoing fine-tuning. While its potential is broad, that makes it difficult to pinpoint its…
Essential to global prosperity yet subject to economic and geopolitical forces, companies across the entire energy value chain are under pressure to operate at high levels of safety, efficiency, and uptime. It’s the same story across all industries. According to a recent survey by Foundry, nearly all respondents (97%) reported that their organization is impacted…
AI’s transformative potential introduces technological ethical dilemmas like bias, fairness, transparency, accuracy/hallucinations, environment, accountability, liability and privacy. Likewise, behavioral ethical dilemmas such as automation bias, moral hazard, self-misrepresentation, academic deceit, malicious intent, social engineering and unethical content generation are typically out of the passive control of technology. By proactively addressing both the technical and the…
En 2024, BBVA fue una de las grandes compañías españolas que optó por contratar a la tecnológica OpenAI la distribución de licencias de la versión para empresas de ChatGPT entre sus empleados. A día de hoy, como contaba esta semana en el MWC de Barcelona Álvaro Martín, responsable del área de datos para Empresas y…