1.2 KiB
glpi-ai-deployment
Installation chmod +x install-ollama-debian13-amd.sh sudo ./install-ollama-debian13-amd.sh
Das Skript:
prüft Debian 13 und die AMD-GPU install richtet die AMD-/ROCm-Bibliotheken ein fügt den ollama-Benutzer zu render und video hinzu konfiguriert die API auf 0.0.0.0:11434 aktiviert den systemd-Dienst prüft API, Listener und GPU-Erkennung verändert keine Firewall-Regeln
Ollamas Installer erkennt AMD-GPUs und lädt das zusätzliche ROCm-Paket automatisch. Debian 13 wird von den aktuellen ROCm-Unterlagen unterstützt. vollständiger systemweiter ROCm-Installation
Normalerweise reichen die von Ollama mitgelieferten ROCm-Laufzeitbibliotheken. Für eine vollständige ROCm-7.2.4-Installation:
sudo INSTALL_SYSTEM_ROCM=1 ./install-ollama-debian13-amd.sh Modell direkt herunterladen sudo MODEL='' ./install-ollama-debian13-amd.sh Test von einem anderen Rechner curl http://SERVER-IP:11434/api/tags
OpenAI-kompatibler Endpunkt:
OLLAMA_HOST=0.0.0.0:11434 ist die offizielle Methode zur Netzwerkfreigabe. Die lokale Ollama-API hat jedoch keine eingebaute API-Authentifizierung. Port 11434 daher nicht ungeschützt ins Internet freigeben.