Come costruire una workstation di trascrizione ad alte prestazioni.

Nell’attuale ecosistema, definito dai progressi dell’intelligenza artificiale, le aziende orientate alla tecnologia stanno integrando sempre più l’IA nelle loro operazioni. Alcune scelgono di esternalizzare i carichi di lavoro IA, inviando i dati a organizzazioni come OpenAI per l’elaborazione, mentre altre preferiscono costruire soluzioni interne ad alte prestazioni per gestire questi workload.

Questo articolo si concentra su questo secondo approccio, spiegando come costruire una workstation di trascrizione ad alte prestazioni, utilizzabile anche in futuro per altri scopi come il training o il tuning dei modelli.

Il cuore della configurazione

Scheda grafica

Abbiamo scelto la Asus TUF 5090 32GB OC. La serie Asus TUF è nota per affidabilità e durata. Se dovessimo scegliere di nuovo, opteremmo ancora per questa scheda rispetto ad altre varianti considerate leggermente più veloci. Il costo è di circa 3900€, inferiore rispetto ad altre versioni, mentre la differenza reale nelle prestazioni è minima. Non vale la pena spendere 500€–1.000€ in più per un miglioramento dell’1-3%!

Perché un PC IA ad alte prestazioni per 3CX?

La soluzione 3CX Onboard IA consente alle aziende di eseguire modelli di trascrizione in locale, migliorando la privacy dei dati e offrendo maggiore controllo sulla capacità di elaborazione. Se hai bisogno di trascrizioni quasi in tempo reale e gestisci un elevato volume di chiamate, una workstation ad alte prestazioni come questa è essenziale.

Componenti della workstation

  • Scheda grafica: ASUS TUF Gaming GeForce RTX 5090 OC Edizione 32GB GDDR7 (Nvidia RTX 5090, PCIe 5.0) – 4.140€
  • SSD ad alta velocità: Samsung 9100 PRO NVMe M.2 4TB (PCIe 5.0, 14800MB/s lettura) – 620€
  • Processore: Intel® Core™ Ultra 9 Desktop 285K (24 core, fino a 5.7 GHz) – 568€
  • RAM: 48GB DDR5 6000MHz Corsair Dominator Titanium RGB – 1.420€
  • Alimentatore: CORSAIR HX1200i 1200W (ATX 3.1, modulare, Platinum) – 259€
  • Motherboard: ASUS TUF Gaming Z890-PRO WiFi (PCIe 5.0, DDR5, WiFi 7) – 315€
  • Raffreddamento CPU: Noctua NH-D15 G2 chromax.black – 189€

Totale: 7.511€ (prezzi stimati)

Alcuni potrebbero pensare: “Perché non acquistare un DGX Spark di Nvidia? Costa meno.” Tuttavia, questo ragionamento è fuorviante.

Sebbene soluzioni all-in-one come DGX Spark siano pubblicizzate come molto performanti, in realtà risultano 3-6 volte più lente nella trascrizione rispetto a questa configurazione. Questo perché non dispongono di memoria GPU dedicata, ma condividono la RAM di sistema, risultando quindi meno efficienti.

Ridurre i costi (downspeccing)

Alcuni componenti sono sovradimensionati. Ad esempio:

  • La RAM può essere ridotta a 16GB, utilizzando la VRAM della GPU
  • È possibile scegliere SSD Samsung serie 970/990 PRO invece del 9100 PRO
  • Un processore meno potente (es. Core Ultra 5 245K/250K) è comunque adeguato

La presenza della RTX 5090 è l’elemento chiave. Il resto può essere ridimensionato, permettendo di risparmiare circa 1,000€.

Immagini della build

Nvidia TUF 4080

L’immagine mostra un confronto tra RTX 4080 e RTX 5090. Entrambe pesano circa 3 kg e sono molto ingombranti. Se stai costruendo una workstation, verifica sempre la compatibilità con la custodia: lo spazio è spesso un problema.

Prestazioni

Le prestazioni di trascrizione variano tra 32x e 64x in tempo reale. Ciò significa che:

  • una registrazione di 32-64 secondi viene trascritta in 1-2 secondi

Va considerata anche una seconda fase di analisi IA, che può richiedere qualche secondo in più.

La workstation gestisce fino a 32k-64k token, equivalenti a circa 4 ore di conversazione. Questo consente di analizzare anche chiamate lunghe fino a 3 ore mantenendo il contesto completo.

Test di performance

Conclusione

Abbiamo realizzato una workstation IA ad alte prestazioni. Per le aziende che utilizzano il sistema telefonico 3CX con funzionalità IA, questa configurazione rappresenta il massimo in termini di potenza locale, bilanciando costi, velocità, precisione e sicurezza dei dati.

Siete pronti a scoprire quanto velocemente potete trascrivere le vostre chiamate?