Dify

経緯 最近Difyが流行っているらしい。自宅のWindows11上のWSLで試してみた記録です。最初はWSL上のKVMでやってみたのですが、4GBのMemoryのVMでは動かなかったので、WSL上のLXDで動かしました。このためにメモリを20GB(16GB+4GB)から32GB(16GB+16GB)に増やしました。環境は約4年前くらいに7万円で買ったAMD Ryzen 5 5500UのノートPCです。 別にWSL上の環境がいくら汚れてもよいと言う人はLXDを使う必要はないです。ここではLXD上のUbuntuの環境はできているものとします。 ollamaをdockerで動かす。 https://ollama.com/download/linux によると、 curl -fsSL https://ollama.com/install.sh | sh でインストールするのが公式みたいですが、Dockerで試しました。DockerはUbuntuの標準パッケージを使いました。 sudo apt install docker.io https://hub.docker.com/r/ollama/ollama の通り docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama dockerでollamaコンテナ上でollamaコマンドが動作するようになったら、https://ollama.com/library/gpt-oss:latest の通り、ollama run gpt-ossを動かすとモデルがない場合は勝手にダウンロードされる。つまり以下のコマンドを打つ。 docker exec -it ollama ollama run gpt-oss この時点でCLIで問い合わせができるようになっている。 /byeでollamaのプロンプトからは抜けれる。 Difyのインストール https://docs.dify.ai/ja-jp/getting-started/install-self-hosted/docker-compose の通りdocker composeを使って立ち上げます。 Docker composeをUbuntu標準パッケージを使って入れます。 sudo apt install docker-compose-v2 その後、 git clone https://github.com/langgenius/dify.git cd dify/docker cp .env.example .env docker compose up -d LXC上のDifyにWSLを動かしているWindowsからアクセスする。 Windows上のブラウザ(Edge/Chrome)からアクセスするために、一時的にSSHを使ったPort Forwardをします。 ssh -L 自分のport番号:localhost:接続先サーバのport番号 接続先IPアドレス...