La GPU universale per le applicazioni basate sull'intelligenza artificiale.
Gestisci carichi di lavoro diversi all’interno della stessa architettura. Passa senza difficoltà dalla calibrazione dei modelli di linguaggio di grandi dimensioni (LLM) all’inferenza ad alta velocità, passando per il rendering 3D complesso.
A partire da 1,47 € all'ora. Adatta la potenza di calcolo alle tue esigenze specifiche configurando il numero di GPU (da 1 a 8 GPU per nodo).
Gestisci facilmente la tua infrastruttura di IA. Le nostre GPU sono integrate in Kapsule (il nostro servizio Kubernetes interamente gestito da Scaleway) per garantire l'implementazione e la gestione automatizzate dei cluster.
L'L40S è il motore universale dell'era dell'IA. Colma il divario tra l'inferenza di largo consumo e lo sviluppo di fascia alta, offrendo i 48 GB di memoria video e la densità di calcolo necessari per eseguire una regolazione fine dei parametri (PEFT) su modelli da 70 miliardi di parametri, oppure per gestire il flusso di lavoro a un costo nettamente inferiore rispetto a quello dell’hardware dedicato esclusivamente al calcolo.
Ottimizzate i vostri modelli in poche ore: grazie ai suoi 48 GB di memoria per scheda, la GPU L40S consente di personalizzare in modo efficiente i modelli di base e di eseguire operazioni intensive di quantizzazione e PEFT per ottimizzare modelli da 70 miliardi di parametri, senza dover investire in cluster H100.
Sfruttate i modelli di IA generativa ad alta velocità. Un solo L40S fornisce risposte istantanee per applicazioni di chat e RAG, elaborando sequenze di input complesse per modelli da 2 a 7 miliardi e fino a 13 miliardi con bassa latenza.
Grazie ai suoi core RT di terza generazione, l'L40S offre prestazioni di rendering fino a 2,4 volte superiori rispetto alle generazioni precedenti, rendendolo lo strumento ideale per le attività fondamentali di rendering e grafica.
Unità di elaborazione grafica
Tensor Core NVIDIA L40S.
Architettura
NVIDIA Lovelace 2022.
VRAM
48 GB di GDDR6 per GPU (864 GB/s).
Unità centrale di elaborazione
8-64 vCPU AMD EPYC™ 7413
Frequenza del processore
2,65 GHz.
Memoria ad accesso casuale
96-768 GB.
Digitalizzare la RAM
Double Data Rate 4
Larghezza di banda di rete
Fino a 20 Gbps.
Archiviazione
Block Storage e Scratch locale NVMe.
GPU ad alte prestazioni
Tensor Core di quarta generazione, RT Core di terza generazione.
Accordo standard sulla lingua
99,5%.
| Option and value | Price |
|---|---|
| ZonePAR-2 | |
| Instance1x | 0€ |
| Volume10GB | 0€ |
| IPv4 flessibileNo | 0€ |
DC5 è uno dei data center più ecologici d’Europa, alimentato interamente da energia eolica e idroelettrica rinnovabile (certificata GO), con un sistema di raffreddamento ultra-efficiente che utilizza la ventilazione diretta e il raffreddamento adiabatico. Con un PUE di 1,16 (rispetto alla media del settore pari a 1,55), riduce il consumo energetico fino al 30% rispetto ai data center tradizionali.
Inferenza gestita - Distribuzioni dedicate
Implementate modelli di IA in un’infrastruttura dedicata, con sicurezza su misura e prestazioni prevedibili.
GPU PCIe H100
Potenza dedicata all'inferenza e alla calibrazione dei modelli di IA.
GPU H100-SXM
Accelerate lo sviluppo di applicazioni di intelligenza artificiale grazie alle istanze GPU H100-SXM.
La dipendenza è nemica della resilienza. I vostri clienti desiderano che i loro dati siano ospitati da un fornitore regionale. Acquisite maggiore autonomia grazie ai nostri strumenti e alla nostra infrastruttura multi-cloud.
Ricicliamo le nostre apparecchiature, utilizziamo esclusivamente energie rinnovabili e riduciamo al minimo il nostro consumo idrico. Inoltre, il nostro indice di efficienza energetica (PUE) è disponibile online e in tempo reale, così potrete verificarlo voi stessi.
Ogni ecosistema cloud completo deve essere assolutamente affidabile. Ecco perché offriamo 10 zone di disponibilità in quattro diverse regioni.
Il prezzo della nostra istanza GPU comprende la vCPU, la RAM necessaria per prestazioni ottimali e uno spazio di archiviazione temporaneo (Scratch Storage) da 1,6 TB. Non include lo spazio di archiviazione a blocchi (Block Storage) né l'IP flessibile.
Per avviare l’istanza GPU L40S, vi consigliamo vivamente di configurare un volume aggiuntivo di Block Storage, poiché lo Scratch Storage è uno spazio di archiviazione temporaneo che viene cancellato allo spegnimento della macchina. Lo scopo dello Scratch Storage è quello di accelerare il trasferimento dei dati verso la GPU.
Se desiderate ulteriori informazioni sull’utilizzo della memoria temporanea, cliccate qui
In caso di dubbi sul prezzo, usa il calcolatore: è fatto apposta per questo!
Per individuare la configurazione cloud GPU più efficiente, è necessario adattare l’hardware alle vostre specifiche esigenze tecniche. I fattori chiave da valutare sono i seguenti:
Tipo di carico di lavoro: state eseguendo inferenza, calibrazione o addestramento distribuito?
Memoria GPU (VRAM): i modelli di linguaggio di grandi dimensioni (LLM) e i set di dati voluminosi richiedono una maggiore quantità di VRAM (ad esempio 48 GB o 80 GB) per evitare errori dovuti a memoria insufficiente.
Scalabilità e interconnessioni: le vostre GPU devono comunicare ad alta velocità (ad esempio tramite NVLink per l’addestramento distribuito) o funzioneranno in modo indipendente?
Rapporti CPU e RAM: assicuratevi che la vostra istanza disponga di memoria di sistema sufficiente per alimentare la GPU cloud con dati senza causare rallentamenti.
Per un'analisi dettagliata di questi fattori, consultate la nostra documentazione dedicata alla scelta del vostro servizio di noleggio GPU Nvidia qui.
