GPU

KoaVM passa le schede video dei nodi alle VPS: per l'intelligenza artificiale, il calcolo, la grafica e i desktop remoti. Ci sono tre modi, gli stessi che Incus offre per le macchine virtuali:

• GPU intera (passthrough): la scheda passa tutta a una VPS. Una scheda, una VPS. Va bene con qualsiasi GPU (NVIDIA, AMD, Intel).
• vGPU: la scheda si divide in parti uguali, ognuna con un profilo (per esempio NVIDIA L4-4Q). Serve il driver del produttore sul nodo: per NVIDIA il driver host NVIDIA vGPU con la sua licenza, per la grafica Intel GVT-g.
• SR-IOV: la scheda offre delle funzioni virtuali (VF), una per VPS (AMD MxGPU, Intel Data Center Flex, alcune NVIDIA).

Le GPU non vanno mai in overbooking: una parte di scheda è di una VPS sola.

Preparare il nodo

Per passare una GPU a una VPS il server deve avere l'IOMMU acceso:

1. nel BIOS del server accendi VT-d (Intel) o AMD-Vi / IOMMU (AMD);
2. nel sistema del nodo aggiungi intel_iommu=on iommu=pt (Intel) o amd_iommu=on iommu=pt (AMD) a GRUB_CMDLINE_LINUX in /etc/default/grub, poi update-grub e riavvia il nodo (sposta prima le VPS su un altro nodo).

Il modulo vfio-pci è già nel kernel di Debian e Ubuntu. Per la GPU intera non serve altro: Incus stacca la scheda dal driver del nodo quando la VPS si accende.

Abilitare le GPU

In Nodi, sotto il nodo, la sezione GPU mostra le schede che Incus vede: modello, indirizzo PCI, driver, profili vGPU e VF SR-IOV, chi le usa.

• Per le VPS: una scheda si dà alle VPS solo se la abiliti. Anche la scheda video del server (BMC, ASPEED o Matrox) compare nell'elenco: è segnata «scheda del server» e non si può abilitare.
• Controlla il nodo: guarda se l'IOMMU è acceso, se c'è vfio-pci e in quale gruppo IOMMU è ogni scheda, e dice cosa fare se manca qualcosa. Se una scheda è in un gruppo con altri dispositivi, questi passano alla VPS insieme a lei: di solito è l'audio HDMI della stessa scheda, e va bene.

Togliendo una scheda le VPS che la usano la tengono; le VPS nuove non la prendono più.

Piani con GPU

In Clienti e piani, nel piano, la sezione GPU:

• GPU per VPS: quante (0 = nessuna, fino a 8);
• Tipo: GPU intera, vGPU o SR-IOV;
• Modello: un modello preciso (es. NVIDIA L4) o qualsiasi GPU abilitata;
• Profilo vGPU: solo per le vGPU, il profilo da dare a ogni VPS.

Quando crei una VPS con questo piano il pannello sceglie un nodo con GPU uguali libere e le assegna alla VPS. Se nessun nodo le ha, la creazione si ferma e dice perché. Il cliente vede nella sua VPS quale GPU ha.

La RAM delle VPS con GPU resta bloccata tutta (il passaggio della scheda fissa la memoria della VPS): per queste VPS il pannello controlla che la loro RAM stia nell'85% della RAM vera del nodo, oltre al posto con l'overbooking.

Cosa cambia per le VPS con GPU

• Spostamento tra nodi: solo a freddo, verso un nodo con una GPU uguale libera (il pannello la prende appena metti in coda lo spostamento). Lo stato di una GPU non si sposta a caldo.
• Alta affidabilità: il nodo di riserva deve avere una GPU uguale libera. La GPU si prende quando la VPS riparte: se in quel momento non c'è, la VPS non riparte e la pagina Alta affidabilità dice perché.
• Cambio piano: il piano nuovo deve avere la stessa GPU della VPS. Per un'altra GPU crea una VPS nuova.
• Modificare la GPU di un piano vale per le VPS nuove: quelle già create tengono la loro.
• Soccorso, snapshot e backup funzionano come sempre.
• Le zone dei fornitori (Hetzner Cloud, Contabo, Scaleway) non hanno GPU dal pannello.