Wie man Llama 4 herunterlädt, installiert und startet

LLama 4 — das ist eine neue Serie von Sprachmodellen von Meta*, entwickelt für Texte, Code, Dialoganfragen und andere Aufgaben der Verarbeitung natürlicher Sprache. Sie wird als offene Alternative zu GPT-4 positioniert. Sie kann für Chatbots, Texterstellung, Dokumentenanalyse, Aufgabenautomatisierung und andere Szenarien verwendet werden, in denen eine hochwertige Sprachgenerierung benötigt wird.

⚠️ Warnhinweis

Bevor Sie mit der Installation fortfahren, beachten Sie einige wichtige Punkte:

Die Modelle von LLaMA 4 sind sehr groß — von 100 bis 220 GB. Sie benötigen viel Speicherplatz.

Die Modelle nutzen die Mixture-of-Experts-Architektur und erfordern leistungsstarke Hardware — auf der CPU laufen sie langsam, und auf den meisten Laptops starten sie nicht direkt.

Zum Zeitpunkt der Veröffentlichung stellt Meta nur Gewichte im .safetensors-Format bereit, die sich nicht über llama.cpp ausführen lassen. Für den Start benötigen Sie transformers, text-generation-webui oder eine Anpassung für Lösungen von Drittanbietern.

Selbst die Installation und der Download dauern eine Weile — stellen Sie sicher, dass Sie eine stabile Internetverbindung haben.

Fehler

Während der Installation und des Starts des Modells werden mit hoher Wahrscheinlichkeit Fehler auftreten: Bibliotheksversionskonflikte, zu wenig Speicher, ein falscher Dateipfad, Importfehler — all das gehört dazu.

Fügen Sie die Fehlermeldung in einen beliebigen Chatbot ein, zum Beispiel:

ChatGPT von OpenAI;

Claude von Anthropic;

Grok von xAI.

Erklären Sie, dass Sie LLama 4 lokal installieren, und bitten Sie darum, den Fehler zu analysieren.

Zugriff auf Llama 4 erhalten

Der Zugriff auf die Modelle Llama 4 Scout und Maverick wird ohne Einschränkungen bereitgestellt. Öffnen Sie die offizielle Seite, wählen Sie Download models und füllen Sie die Angaben aus:

Vorname;

Nachname;

Geburtsdatum;

E-Mail;

Land;

Firmenname — kann erfunden sein oder eine bestehende Firma genannt werden;

Position — wählen Sie beliebig aus der Liste.

Llama 4 installieren

Nach dem Ausfüllen der Daten erhalten Sie eine Request-ID und eine Anleitung zum Herunterladen der Modelle. Der Download ist innerhalb von 48 Stunden bis zu 5-mal über eindeutige Links möglich. Diese werden an die angegebene E-Mail-Adresse gesendet.

Ordner für das Modell vorbereiten

✅ macOS:

`cd ~/Downloads mkdir -p llama/models cd llama/models`

💻 Windows, cmd:

`cd %USERPROFILE%\Downloads mkdir llama\models cd llama\models`

Statt %USERPROFILE% müssen Sie den Namen Ihres Windows-Profils eingeben, zum Beispiel Admin.

LLaMA 4 Scout oder Maverick per curl oder Invoke-WebRequest herunterladen

Meta stellt einen eindeutigen Download-Link für das Modell bereit, der 48 Stunden gültig ist. Er sieht ungefähr so aus:

Versuchen Sie nicht, den Link aus der Anleitung zu verwenden, er ist ungültig

https://llama4.llamameta.net/?Policy=eyJTdGF0ZW1lbnQiOlt7InVuaXF1ZV9oYXNoIjoicGgxeGRqOGx3bHIwYTU2YWVpMjM5ZDNpIiwiUmVzb3VyY2UiOiJodHRwczpcL1wvbGxhbWE0LmxsYW1hbWV0W70z-gRaD4DsMGSiu4i55xt4nIohvUC6QB5weJBShoYdiLhcCUQii6-ZyAgBgBcOl67-5wWEhoLwnlkJf5s4XvZaMYqKCJ6SGMK9MidUsVk12NUoBhEwh7kzlvBXbqElbeF%7E26dE1N8v3lS0rLD3OJ3Hk636bNb78GuRqNgQYt21vuA7PuGjKJsMlUyc7Ds7JJMOjpim5ihr4xQQmk-sjUJOlbMNDaKXnUBQ-UytMAwAxw3d9uL2JJ7u2y9A\_\_&Key-Pair-Id=...&Download-Request-ID=...

Wichtig: Ändern Sie die URL nicht und fügen Sie kein * in die Adresse ein! Das führt zu einem 403-Fehler.

✅ macOS:

curl -L -o llama-4-scout-17b-instruct.safetensors "Link"

💻 Windows PowerShell:

Invoke-WebRequest \\ -Uri "Link"`

Oder 💻 Windows cmd + wget:

wget "Link" -O llama-4-scout-17b-instruct.safetensors

**Ergebnis: Datei **`.safetensors`

Nach erfolgreichem Download erhalten Sie die Datei:

llama-4-scout-17b-instruct.safetensors

Größe: je nach Version 100 bis 220 GB.

Was nach dem Download von .safetensors zu tun ist

Die heruntergeladene Datei .safetensors enthält die Gewichte des Modells LLaMA 4. Sie kann auf mehrere Arten gestartet werden — je nach Ziel und den Möglichkeiten des Computers.

Variante 1. transformers von Hugging Face auf der CPU verwenden

Diese Methode eignet sich zum Testen oder für kurze Anfragen. Sie funktioniert auf der CPU, ohne Grafikkarte.

Schritt 1. Abhängigkeiten installieren

✅ macOS:

pip install transformers accelerate sentencepiece

💻 Windows (cmd oder PowerShell):

pip install transformers accelerate sentencepiece

Schritt 2. Minimaler Code zum Starten des Modells

Erstellen Sie eine Datei run\_llama.py mit folgendem Inhalt:

from transformers import AutoTokenizer, AutoModelForCausalLM import torch model_path = "./llama-4-scout-17b-instruct.safetensors" # Pfad zum Modell tokenizer = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct", use_fast=False) model = AutoModelForCausalLM.from_pretrained( model_path, torch_dtype=torch.float32, # CPU low_cpu_mem_usage=True, device_map="auto", ) prompt = "Erkläre kurz, wie das neuronale Netz LLaMA 4 funktioniert." inputs = tokenizer(prompt, return_tensors="pt") with torch.no_grad(): outputs = model.generate(**inputs, max_new_tokens=150) print(tokenizer.decode(outputs[0], skip_special_tokens=True))

❗ meta-llama/Meta-Llama-3-8B-Instruct wird hier nur zum Laden des Tokenizers verwendet — ersetzen Sie es, falls Meta den LLaMA-4-Tokenizer separat veröffentlicht.

Starten:

python run_llama.py

Variante 2. Mit WebUI verbinden (text-generation-webui)

Wenn Sie eine bequeme grafische Oberfläche im Browser möchten, können Sie text-generation-webui verwenden:

Repository klonen:

git clone https://github.com/oobabooga/text-generation-webui cd text-generation-webui

Kopieren Sie das .safetensors-Modell in den Ordner models/llama4

Starten Sie:

python server.py --model llama4

Diese Option erfordert die Installation zusätzlicher Bibliotheken. Sie eignet sich für fortgeschrittene Nutzer und Server mit GPU.

Anwendungsbeispiele für LLama 4

Auch wenn Sie kein Entwickler sind und LLaMA 4 nicht in Produktion einsetzen, können Sie damit einfache, aber interessante Aufgaben direkt auf Ihrem Computer lösen.

Einen lokalen Chatbot erstellen

Starten Sie LLama 4 im Instruct-Modus und stellen Sie ihr Fragen in jedem gewünschten Stil — von geschäftlich bis alltäglich. Das Modell kann:

komplexe Themen einfach erklären;

bei Texten helfen — E-Mails, Plänen, Lebensläufen;

Dialoge in bequemer Form führen, auch ohne Internet.

Beispielanfrage:

Erkläre einfach, wie Kryptowährungen funktionieren.

Geschichten, E-Mails und Ideen generieren

Mit LLaMA 4 können Sie schreiben:

kurze Geschichten und Szenen für Bücher;

motivierende Texte;

Skripte für Videos, TikTok oder Podcasts.

Beispielanfrage:

Erfinde eine lustige Geschichte.

*Meta - in der Russischen Föderation verboten.