Docker Model Runner登場、Dockerコンテナと同じように任意の大規模言語モデルをDocker Hubから選んで簡単に導入、実行可能に

今回は「Docker Model Runner登場、Dockerコンテナと同じように任意の大規模言語モデルをDocker Hubから選んで簡単に導入、実行可能に」についてご紹介します。

関連ワード （保存、生成、管理等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

Docker Desktop 4.40の新機能として、Dockerコンテナと同じように任意の大規模言語モデルをDocker Hubから取得し、ローカル環境にインストール、簡単に実行できる「Docker Model Runner」β版が登場しました。

先月（2025年3月）に行われたJavaOne 2025の基調講演でのDocker Model Runner発表の様子

Docker Model RunnerはNVIDIA GPUとApple SilliconによるGPUアクセラレーションに対応。インストールされた大規模言語モデルは、事実上の標準的なAPIとなっているOpenAI API経由でアクセスできます。

これにより、従来手間のかかるライブラリの導入や環境設定が求められていた大規模言語モデルの導入が手間なく簡単にできるようになり、入れ替えも容易で、すぐに生成AIを活用したアプリケーションの開発に取りかかれるようになります。

OCIアーティファクトで大規模言語モデルをパッケージング

Docker Model Runnerで用いられる大規模言語モデルのパッケージは、それぞれがコンテナの標準仕様であるOCIアーティファクトとなっており、Dockerコンテナ内でセキュアに実行されます。

そのためDocker Hubだけでなく他のコンテナレジストリでも保存、取得、バージョン管理ができると同時に、従来のCI/CDワークフローの中でもそのまま扱えると説明されています。

Docker HubにはすでにDocker公式によってMetaのllama3.3、マイクロソフトのPhi4、Mistral AIのMistral、GoogleのGemma3、DeepSeekなどのパッケージが公開されています。

Docker Hubで公開されている大規模言語モデルのパッケージ

ユーザーによる操作は下記のようにDocker CLIのコマンドから行います。

Docker Model Runnerは現時点でMac版のDocker Desktop 4.40でβ版として提供されています。Docker社はWindowsへの対応も明言しており、間もなくWindows版の提供も行われる見通しです。