Setup Ollama

Installer Ollama, pull en Gemma 4-model, og pege Cartwright på det. ~10 minutter.

1. Installer Ollama

Download fra ollama.com/download eller via Homebrew:

brew install ollama

Start service:

brew services start ollama

curl -fsSL https://ollama.com/install.sh | sh

Service starter automatisk. Verificér med:

systemctl status ollama

Download installer fra ollama.com/download/windows. Service starter automatisk.

2. Pull en model

Hurtigste vej: spring til Pull fra admin-UI — admin har en knap der pull'er modellen og viser progress live, så du aldrig skal åbne terminalen igen efter Ollama er installeret.

Hvis du foretrækker terminal: anbefalet til Cartwright admin er Gemma 4 e4b (sweet spot mellem kvalitet og hardware-krav).

# Apple Silicon (M1/M2/M3/M4)
ollama pull gemma4:e4b-mlx

# Linux / Intel Mac / Windows
ollama pull gemma4:e4b

Det downloader ~9.6 GB. Hvis du har en kraftigere maskine:

# 26B model — bedst kvalitet, kræver 32GB+ RAM
ollama pull gemma4:26b

# Lille variant — kører på 8GB laptops, men kun læs-only tools
ollama pull gemma4:e2b

Har du allerede Gemma 3 pulled fra før? Det virker stadig — Cartwright's MODEL_CAPABILITIES har entries for både Gemma 3 og 4. Du kan migrere over tid uden at miste konfiguration.

Se Model Selection for at forstå trade-offs.

3. Sæt CORS-tilladelse (vigtigt)

Hvis Cartwright admin kører i en anden origin end Ollama (typisk når du bruger next dev på localhost:3000), skal Ollama eksplicit tillade requests fra den origin:

# Stop service
brew services stop ollama

# Start med OLLAMA_ORIGINS sat
OLLAMA_ORIGINS=* ollama serve

For permanent: tilføj til ~/.zshrc eller ~/.bash_profile:

export OLLAMA_ORIGINS=*

Genstart terminal og brew services restart ollama.

sudo systemctl edit ollama

Tilføj:

[Service]
Environment="OLLAMA_ORIGINS=*"

Genstart:

sudo systemctl restart ollama

Sæt environment-variabel via System Settings → Advanced → Environment Variables. Tilføj:

OLLAMA_ORIGINS=*

Genstart Ollama-service via System Tray.

OLLAMA_ORIGINS=* tillader CORS fra alle origins. På en delt maskine eller server, snæver det ind til præcis det Cartwright-domæne du bruger — fx OLLAMA_ORIGINS=http://localhost:3000,https://min-shop.dk.

4. Tilslut Cartwright

I admin:

Åbn /admin/integrations
Find sektionen "AI provider"
Vælg Local (eller Auto hvis du også vil have cloud-fallback)
Indsæt endpoint: http://localhost:11434/v1
Klik "Hent modeller" — du skulle se din pullede model i listen. Har du ingen modeller endnu? Anbefaling-kortene viser tre Gemma 4-varianter med "Pull this model"-knap — se Pull fra admin-UI.
Vælg modellen
Klik "Gem settings"
Klik "Test forbindelse" — du skulle få "✓ local · gemma4:e4b-mlx · ~800ms"

5. Verificér

Status-pill nederst-højre i admin viser nu 🔒 Local AI · gemma4:e4b-mlx.

Gå til /admin/integrations/ai-test, klik "Kør alle 3". Hver canned prompt skulle besvares af din lokale Gemma med latency mellem 0.5-8 sekunder (første kald er langsomst pga. model-load; MLX-varianten er markant hurtigere på M-series Macs end ikke-MLX).

Gå til /admin/audit og find seneste rows — de viser nu provider="local", model="gemma4:e4b-mlx". Det er din bekræftbarhed på at intet gik til Anthropic.

Hvis du støder ind i problemer

Se Troubleshooting.