Facebookやインスタグラムの親会社であるMetaは2024年7月23日(米国時間)に、オープンソースの大規模言語モデル(LLM)の最新版「Llama 3.1」を発表しました。
Llama 3.1 には、8B(80億パラメータ)、70B(700億パラメータ)、そして最大の405B(4050億パラメータ)の3つのバリエーションが含まれています。Metaによれば405BはOpenAIのGPT-4oやAnthropicのClaude 3.5 Sonnetなど最先端モデル(フロンティアモデル)に匹敵する性能を有するとのことです。
405Bの学習には、NVIDIAのH100 GPUが16,000個と15兆トークンのデータが使用され数ヶ月の期間を要したとのことです。H100チップは価格が1個3万ドル程度といわれているので、チップだけでも4.8億ドル(1ドル145円換算で約700億円)ものコストがかかっていることになります。データセンター関連などを含めると、トータルではこの倍以上の額が投じられているとみられます。
Metaはなぜこのような多額の投資を行って開発した高性能で市場価値の高いLLMを無償で公開するのでしょうか?
本記事では、この戦略の背景と、それが業界にもたらす影響について考察します。
なぜMetaはLLMをオープンソース化するのか:ザッカーバーグCEOの説明
Metaの創業者兼CEOであるマーク・ザッカーバーグは、「オープンソースAIが進むべき道(Open Source AI Is the Path Forward)」と題された公開書簡で、オープンソースAIのメリットを強調しています。ザッカーバーグCEOの主な論点を以下にまとめます。
開発者や企業にとってのオープンソースAIの利点
独自のモデル作成の自由
組織(企業や政府)は自社の特定のニーズに合わせてモデルをファインチューニングできる。大規模なモデルを自社のデータで追加学習させ、より小さな特化型モデルに蒸留することも可能。
ベンダーロックインの回避
組織は特定のプロバイダーに依存せず、モデルを自由に使いコントロールできる。プロバイダーの条件変更やサービス停止のリスクを軽減し、複数のサービス間で容易に移行できる。
データの保護
センシティブなデータを扱う組織は、モデルをローカルで実行し、データを外部に送信せずに処理できる。これにより、データ漏洩のリスクを大幅に減少できる。
コスト効率の良さ
Llama 3.1 405Bは、GPT-4のようなクローズド型モデルと比較して約50%のコストで推論を実行できるため、大幅なコスト削減が可能。
Meta自身にとってのオープンソースAIの利点
最高の技術へのアクセス確保
Metaは人々に最高のエクスペリエンスとサービスを提供するために最高の技術にアクセスできなければならない。オープンソース化により、幅広い開発者コミュニティからの貢献を受けられ、技術の急速な進歩が期待できる。
競合他社の閉鎖的エコシステムからの独立
特定の競合他社のプラットフォームに制約されることなく、自社のサービスを自由に開発・改良できる。アップル社のプラットフォーム上でサービスを提供するときの課金、その他さまざまな制限があることが、Metaがオープンなエコシステムの重要性を認識する原体験となっている。
長期的な競争優位性の確保
オープンソースエコシステムを育成することで、持続可能な技術的優位性を確保し、業界標準となることを目指せる。
オープンソースAIが世界にとって良い理由
AIの恩恵をより多くの人々に届ける
スタートアップや資源の少ない国々の研究者も、最先端のAI技術にアクセスできるようになる。
権力の集中を防ぐ
少数の大企業だけでなく、多様な組織がAI技術を活用できるようになり、技術の民主化が促進される。
安全性の向上
オープンソースモデルは広く精査されるため、特に意図しない危害に対してより安全になる可能性が高い(安全性に関する議論については後述)。
このように、ザッカーバーグCEOは、あらゆる面から、オープンソースのAIは、このテクノロジーを活用し、すべての人に最大の経済的機会と安全をもたらすベストな方法だと結論づけています。
オープンソースAIによる最先端LLMのコモディティ化
AI業界の動向に詳しいマーケティングAIインスティテュートのポール・レッツァーはブログで、「このような強力なモデルをオープンソース化することで、Metaは本質的に最先端モデル市場をコモディティ化しようとしており、OpenAIやAnthropicのような競争相手の収益源を弱体化させようとしている」といっています。OpenAIやAnthropicは、モデルへのアクセス権販売を主な収益源としています。
一方、Metaのビジネスモデルはこれとは異なり、AIモデルやクラウドサービスの販売に依存していません。そのため、Metaはこのようなオープンソース戦略を取ることができるのです。Metaの狙いは、Facebookやインスタグラム上でのMeta AIアシスタントなどの新サービス導入と、ウェアラブル・スマートグラスなどの新プラットフォーム展開にLlamaを活用することであり、LLM自体から収益をあげることではありません。
Infoweekの記事によれば、既にコモディティ化の影響は出ています。OpenAIは最近、API経由のアクセス料金が従来モデルよりも安価なGPT-4o miniの提供を開始していますが、今後さらにAPIアクセス料金の値下げは続くだろうと予測されています。
下記の図のように、Llamaのようなオープンソース型LLMとOpenAI、Anthropic、Googleからのクローズド型LLMとの性能のギャップは確実に縮まってきています。
出典・引用:機械学習研究者Maxime Labonne氏のX投稿
各社とも次のフロンティアモデルの開発に莫大な投資を継続しています。各社のモデルの性能の差が縮小し、性能は漸進的にしか改善しない最近の傾向が続くのか、それとも誰かがChatGPT(GPT4)が登場した時のような非連続的なブレークスルーを起こせるのかが注目されます。
AI安全性や国家安全保障上の懸念
強力なAIシステムには、犯罪者による悪用、誤情報や偽情報の拡散、国家安全保障上のリスク、コントロール不能になったAIによる人類存亡リスクなど、さまざまなリスクがあることが指摘されています。オープンソースは悪意のある利用を容易にし、安全性の担保を困難にするので制限すべきであり、クローズドで危険性を厳しく監視すべきだという議論が、米国やEUなどの国家レベルやカリフォルニア州のレベルで起きています。
参考:Mark Zuckerberg Just Intensified the Battle for AI’s Future|Time.com
これに対して、ザッカーバーグCEOは前述の公開書簡の中で、オープンソースモデルは透明性が高く、広範な精査が可能なため、むしろ安全性は高まると主張しています。歴史的にみてもオープンソースソフトのLINUXの安全性は商用UNIXよりも安全性は高かったと補足しています。
また、悪意のある行為者による意図的な危害に対しても、オープンソースが有効だと主張しています。オープンソースによって誰もが同じ世代のモデルにアクセスできるので、より多くの計算資源を持つ政府や機関が、より少ない計算資源しか持たない悪意の行為者をチェックすることができるというのです。
高度なAI技術が中国など米国に敵対的な国家の手に渡ってしまうという安全保障上のリスクについて、ザッカーバーグCEOは、多くのテクノロジー企業は中国のスパイ活動を防げるようなセキュリティレベルに達していないと指摘します。クローズドモデルだけの世界では、少数の大企業と敵対的な国家が最先端モデルにアクセスできる一方、新興企業や大学、中小企業はチャンスを逃してしまう可能性が高くなり、技術革新を阻害し、長期的には米国の競争力を弱めることになると主張しています。
ザッカーバーグCEOはまた、(OpenAIのような)クローズドモデルのプロバイダーは最先端モデルへのアクセス権を売ることがビジネスモデルなので、それが、彼らがオープンソースの危険性を訴えるロビー活動を行う理由になっていると示唆しています。一方で、オープンソースAIを支持するベンチャーキャピタルやスタートアップの陣営も、現在、カリフォルニア州議会で審議されているAI規制法案に反対する働きかけを積極的に展開しています。
米政権は7月30日に公開した報告書で、オープンソースAIにAIセーフティに関する懸念はあるものの、真の利点もあるため当面制限を加えることはしないと表明しました。
しかし、報告書は、米国当局は潜在的な危険性を監視し続け、「リスクが高まった場合に政府が行動できるようにするための措置を講じなければならない」とも述べており、今後、オープンソースAIの規制をめぐる議論がどのように進んでいくかは予断を許しません。
おわりに
Metaのオープンソース戦略は、AI産業の未来に重要な意味を持つことになりそうです。私たち利用者にとって、オープンソースAIは、独自のニーズに合わせたモデルの調整の自由、ベンダーロックインの回避、自社データの保護、低コストなど大きなメリットをもたらしてくれる可能性があります。
一方で、次のようなポイントについては注意して見ていく必要があります。
- オープンソースモデルが今後ともクローズドモデルに匹敵する性能と機能を提供し続けられるか?
- AIセーフティの観点からの問題はないか?
- 各国のAI規制がオープンソースAIに制限を与えることにならないか?
- ツール開発者やサービス提供者など、オープンソースAIのエコシステムがどのように発展していくか?
オープンソースAIの進化は、より多くの企業がAIの恩恵を受けられる機会を提供すると同時に、安全性や法規制など今後の展開が不透明な側面もあります。
マーケターは、これらの動向を注視しつつ、自社のマーケティング戦略にAIを効果的に取り入れる方法を模索していくべきでしょう。