人工知能分野における最新の画期的な動きとして、AppleはOpenELM（Open-source Efficient Language Models）という名称で、オープンソースの大規模言語モデル（LLM）を発表しました。

これらのモデルの特徴は、クラウドサーバーに依存するのではなく、デバイス上で実行できることです。このリリースは、開発者や研究者にとってAIをより身近で効率的なものにするための重要な一歩です。

OpenELMモデル

OpenELMのリリースは全部で8つのモデルで構成されており、そのうちの4つはCoreNetライブラリを使用して事前に訓練され、残りの4つは命令チューニングされたモデルです。

Appleの研究者は、精度と効率を最適化するために、レイヤーごとのスケーリング戦略を採用しました。これらのモデルは現在、AIコードを共有するための人気コミュニティプラットフォームであるHugging Face Hubで公開されています。

透明性とコラボレーション

通常とは異なり、Appleは最終的な学習済みモデルだけでなく、コード、学習ログ、モデルの複数のバージョンも提供しています。この透明性の高さは、自然言語AIの分野において、より迅速な進歩と信頼性の高い結果を促進することを目的としています。

トレーニング前の設定や複数のチェックポイントを含む、トレーニングと評価のための完全なフレームワークを共有することで、Appleはコラボレーションとオープンな研究を奨励しています。

精度と効率の向上

OpenELMモデルは、言語モデリングにおいて最先端の性能を発揮します。レイヤー単位のスケーリング戦略により、変換モデルの各レイヤー内でパラメータが効率的に割り当てられ、精度が向上しています。

例えば、約10億のパラメータバジェットで、OpenELMはOLMoと比較して2.36%の精度向上を示しています。

オープンリサーチコミュニティの強化

AppleがOpenELMモデルをリリースする最大の目的は、最先端の言語モデルをオープンな研究コミュニティに提供し、充実させることです。

これらのモデルへのアクセスを提供することで、研究者はリスク、データ、モデルの偏りをより効果的に調査することができます。さらに、開発者や企業は、モデルをそのまま使用したり、特定のニーズに合わせて修正を加えたりすることができます。

優秀な人材の採用

情報のオープンな共有は、Appleが優秀なエンジニア、科学者、専門家を惹きつけるための重要なツールとなっています。Appleは、研究者がこれらのモデルを使った研究に基づいた論文を発表できるようにすることで、従来の秘密主義的なポリシーでは困難であったような機会を提供しています。

このような透明性の向上とコラボレーションへのシフトにより、AppleはAI研究の優秀な頭脳にとって、より魅力的な雇用主としての地位を確立することになるでしょう。

Appleデバイスへの将来的な影響

Appleはまだこれらの高度なAI機能を自社のデバイスに統合していませんが、噂によると、次期iOS 18にはいくつかの新しいAI機能が含まれるようです。さらに、Appleはユーザーのプライバシーを確保するために、大規模な言語モデルをデバイス上で実行する予定だと言われています。

OpenELMのリリースは、近い将来、よりインテリジェントでセキュアなAppleデバイスへの道を開く、これらのエキサイティングな開発の先駆けかもしれません。

(Via MacRumors.)