Am einfachsten unter Debian 13:

sudo apt update
sudo apt install radeontop rocm-smi htop
Live-Ansicht mit radeontop
sudo radeontop

Zeigt GPU-Gesamtauslastung sowie Compute-, Speicher- und weitere GPU-Einheiten. radeontop ist direkt in Debian 13 verfügbar.

Für Ollama/ROCm empfohlen
watch -n 1 'rocm-smi --showuse --showmemuse --showtemp --showpower'

Oder kompakter:

watch -n 1 'rocm-smi -u --showmemuse -t -P'

Damit siehst du jede Sekunde:

GPU-Auslastung
VRAM-Auslastung
Temperatur
Leistungsaufnahme

Diese Parameter werden von rocm-smi unter Debian 13 unterstützt.

Ollama-Prozesse anzeigen
watch -n 1 'rocm-smi --showpids --showuse --showmemuse'

Parallel in einem zweiten Terminal beispielsweise:

ollama run llama3.2

Falls du Zugriffsfehler bekommst:

sudo usermod -aG render,video "$USER"

Danach einmal abmelden und wieder anmelden.