diff --git a/README.md b/README.md index 4522d83..6e0cb61 100644 --- a/README.md +++ b/README.md @@ -1,2 +1,32 @@ # glpi-ai-deployment +Installation +chmod +x install-ollama-debian13-amd.sh +sudo ./install-ollama-debian13-amd.sh + +Das Skript: + +prüft Debian 13 und die AMD-GPU +install +richtet die AMD-/ROCm-Bibliotheken ein +fügt den ollama-Benutzer zu render und video hinzu +konfiguriert die API auf 0.0.0.0:11434 +aktiviert den systemd-Dienst +prüft API, Listener und GPU-Erkennung +verändert keine Firewall-Regeln + +Ollamas Installer erkennt AMD-GPUs und lädt das zusätzliche ROCm-Paket automatisch. Debian 13 wird von den aktuellen ROCm-Unterlagen unterstützt. vollständiger systemweiter ROCm-Installation + +Normalerweise reichen die von Ollama mitgelieferten ROCm-Laufzeitbibliotheken. Für eine vollständige ROCm-7.2.4-Installation: + +sudo INSTALL_SYSTEM_ROCM=1 ./install-ollama-debian13-amd.sh +Modell direkt herunterladen +sudo MODEL='' ./install-ollama-debian13-amd.sh +Test von einem anderen Rechner +curl http://SERVER-IP:11434/api/tags + +OpenAI-kompatibler Endpunkt: + +http://SERVER-IP:11434/v1 + +OLLAMA_HOST=0.0.0.0:11434 ist die offizielle Methode zur Netzwerkfreigabe. Die lokale Ollama-API hat jedoch keine eingebaute API-Authentifizierung. Port 11434 daher nicht ungeschützt ins Internet freigeben. \ No newline at end of file