Ollama — kör AI-modeller lokalt

Ollama

Ollama är ett open-source-verktyg som gör det enkelt att köra stora språkmodeller (LLM) lokalt på din dator. Det eliminerar behovet av molntjänster och ger dig full kontroll över dina data.

Vad kan du använda Ollama till?

• Lokal AI-assistans: Få svar på frågor utan att skicka data till molnet
• Kodning: Få hjälp med programmering och kodgenering
• Textgenerering: Skriva texter, sammanfattningar och innehål
• Dataprivacy: Håll känslig data privat på din egen maskin
• Offline-användning: Fungerar utan internetanslutning
• API-integration: Integrera AI i dina egna applikationer

Hur kommer du igång?

1. Installera Ollama:

   Besök ollama.ai och ladda ner installationsprogrammet för ditt operativsystem (Windows, macOS eller Linux).



2. Kör installationen:

   Följ installationsguiden och installera Ollama på din dator.

   curl -fsSL https://ollama.com/install.sh | sh


3. Öppna terminalen:

   Öppna din terminal eller kommandotolk.



4. Ladda ner en modell:

   Kör kommandot nedan för att ladda ner en språkmodell (t.ex. Mistral):

   ollama pull mistral


5. Kör Ollama:

   Starta en chattession med kommandot:

   ollama run mistral


6. Ställ en fråga:

   Skriv din fråga eller prompt och tryck Enter för att få ett svar från modellen.

Andra användbara kommandon:

• ollama list – Visa alla installerade modeller
• ollama rm [modellnamn] – Ta bort en modell
• ollama serve – Starta Ollama-servern för API-anrop