Ollamaしたい（ollama）

$ ollama run <モデル名>

ollamaはローカルで大規模言語モデル（LLM）実行できるツールです。 Mistral、 LlaMA、 CodeLlama、 Gemma などのモデルが簡単に使えるように設計されています。

インストールしたい

$ brew install --cask ollama-app
$ ollama --version
ollama version is 0.12.5

Homebrewでollamaをインストールできます。 アプリも使いたい場合はollama-appをインストールします。

モデルを取得したい（ollama pull）

$ ollama pull <モデル名>
$ ollama pull gpt-oss:20b

ollama pullで利用したいモデルを取得します。

注釈

gpt-oss:20bは13GBありました。

モデルを一覧したい（ollama list）

$ ollama list
$ ollama ls

ollama list（もしくは ollama ls）で取得済みのモデル一覧を表示できます。

モデルを削除したい（ollama rm）

$ ollama rm <モデル名>

ollama rmでモデルを削除できます。

モデルと対話したい（ollama run）

$ ollama run <モデル名>

ollama runでモデルと対話できます。

APIサーバーしたい（ollama serve）

$ ollama serve <モデル名>

ollama serve（もしくは ollama start）でモデルのAPIサーバーを起動できます。