はじめてのKapitsa

Apple Siliconに特化したLocal LLM Kapitsaの構築手順です。

構築

• kapitsaをインストールします:

curl -fsSL https://raw.githubusercontent.com/nace-ai/kapitsa/main/install.sh | bash

• モデルをインストールします:

kapitsa pull 9b

起動

kapitsa serve --model 9b --host 0.0.0.0 --api-key local-secret

使用例

Ollama

• 下記で各種設定を入れます:
  • API Provider: OpenAI Compatible
  • Base URL: http://{kapitsaサーバのIP}:8000/v1
  • OpenAI Compatible API Key: local-setcet
  • Model ID: 9b

Claude Code

• 環境変数をセットします:

export ANTHROPIC_BASE_URL=http://{kapitsaサーバのIP}:8000
export ANTHROPIC_API_KEY=local-secret

• Claude Codeを起動します:

claude --model 9b