カテゴリー: 未分類

すでに日本語が使えるモデルが公開されていました。
https://ollama.com/library/gemma

LLM(大規模言語モデル)が皮肉にも量子化技術によりどんどん小型化しているようです。
とりあえず Gemma の 7b(70億パラメータ)版を動かしてみました。

家の Ubutu 22.04 のマシンに Ollama 入れたらすんなり Llama2 が動いた。
Ollama のインストールは “curl https://ollama.ai/install.sh | sh”