README.md aktualisiert
This commit is contained in:
30
README.md
30
README.md
@@ -1,2 +1,32 @@
|
||||
# glpi-ai-deployment
|
||||
|
||||
Installation
|
||||
chmod +x install-ollama-debian13-amd.sh
|
||||
sudo ./install-ollama-debian13-amd.sh
|
||||
|
||||
Das Skript:
|
||||
|
||||
prüft Debian 13 und die AMD-GPU
|
||||
install
|
||||
richtet die AMD-/ROCm-Bibliotheken ein
|
||||
fügt den ollama-Benutzer zu render und video hinzu
|
||||
konfiguriert die API auf 0.0.0.0:11434
|
||||
aktiviert den systemd-Dienst
|
||||
prüft API, Listener und GPU-Erkennung
|
||||
verändert keine Firewall-Regeln
|
||||
|
||||
Ollamas Installer erkennt AMD-GPUs und lädt das zusätzliche ROCm-Paket automatisch. Debian 13 wird von den aktuellen ROCm-Unterlagen unterstützt. vollständiger systemweiter ROCm-Installation
|
||||
|
||||
Normalerweise reichen die von Ollama mitgelieferten ROCm-Laufzeitbibliotheken. Für eine vollständige ROCm-7.2.4-Installation:
|
||||
|
||||
sudo INSTALL_SYSTEM_ROCM=1 ./install-ollama-debian13-amd.sh
|
||||
Modell direkt herunterladen
|
||||
sudo MODEL='<modellname>' ./install-ollama-debian13-amd.sh
|
||||
Test von einem anderen Rechner
|
||||
curl http://SERVER-IP:11434/api/tags
|
||||
|
||||
OpenAI-kompatibler Endpunkt:
|
||||
|
||||
http://SERVER-IP:11434/v1
|
||||
|
||||
OLLAMA_HOST=0.0.0.0:11434 ist die offizielle Methode zur Netzwerkfreigabe. Die lokale Ollama-API hat jedoch keine eingebaute API-Authentifizierung. Port 11434 daher nicht ungeschützt ins Internet freigeben.
|
||||
Reference in New Issue
Block a user