IA - Intel mostra il primo chiplet I/O ottico integrato

Intel presenta il primo chiplet ottico di I/O completamente integrato per un’infrastruttura AI più scalabile

L’avanzato chiplet ottico di interconnessione di Intel risponde alle esigenze di ampiezza di banda, consumi limitati e maggiore portata, abilitando la scalabilità di applicazioni AI future e di architetture di calcolo innovative.

La notizia: Intel Corporation ha raggiunto un’importante pietra miliare nella fotonica integrata per la trasmissione ad alta velocità dei dati. In occasione della recente Optical Fiber Communication Conference (OFC) 2024, il gruppo Integrated Photonics Solutions (IPS) di Intel ha presentato, per primo nel settore, il più avanzato chiplet di interconnessione ottica bidirezionale (OCI), realizzato come co-packaging con una CPU Intel e in grado di elaborare dati in tempo reale. Si tratta di un importante passo avanti nell'interconnessione ad elevata ampiezza di banda, consentendo input/output (I/O) ottici all’interno dello stesso package nelle nuove infrastrutture AI dei data center e nelle applicazioni di high-performance computing (HPC).

“Il sempre crescente spostamento di dati tra diverso server mette a dura prova le attuali capacità infrastrutturali dei data center, e le soluzioni oggi disponibili si stanno rapidamente avvicinando ai limiti pratici delle prestazioni degli I/O elettrici. Tuttavia, i rivoluzionari risultati ottenuti da Intel consentono agli utenti di integrare perfettamente soluzioni in co-packaging di interconnessione fotonica in silicio nei sistemi di nuova generazione. Il chiplet OCI aumenta l’ampiezza di banda, riduce i consumi energetici e aumenta la portata, abilitando l'accelerazione dei carichi di lavoro di ML in una modalità che promette di rivoluzionare l'infrastruttura AI ad alte prestazioni”.

Christian Urricariet, Senior Director of Product Marketing di Silicon Photonics

Le funzionalità:Questo primo chiplet OCI è progettato per supportare 64 canali di trasmissione dati a 32 Gbps in ciascuna direzione su un massimo di 100 metri di fibra ottica, e si prevede che soddisferà le sempre crescenti richieste di ampiezza di banda dell’infrastruttura AI, offrendo minori consumi energetici e maggiore portata. Consente inoltre la futura scalabilità della connettività dei cluster CPU/GPU e nuove architetture di elaborazione, tra cui l'espansione coerente della memoria e la disaggregazione delle risorse.

Perché è importante: sempre più applicazioni basate sull’intelligenza artificiale vengono implementate a livello globale e i recenti sviluppi degli LLM (Large Language Model) e dell’AI generativa stanno accelerando questa tendenza. Modelli di machine learning (ML) più grandi ed efficienti svolgeranno un ruolo fondamentale nel soddisfare i requisiti emergenti dei carichi di lavoro di accelerazione dell’AI. La necessità di scalare le future piattaforme informatiche per l’intelligenza artificiale sta portando a una crescita esponenziale dell’ampiezza di banda I/O e della portata per supportare cluster e architetture CPU/GPU/IPU di maggiori dimensioni con un utilizzo più efficiente delle risorse, come la disaggregazione della xPU e il pooling della memoria.

L'I/O elettrico (ovvero connettività con cavi in rame) sostiene un'elevata ampiezza di banda e bassi consumi, ma consente di coprire distanze molto brevi: un metro o meno. I moduli ricetrasmittenti ottici plug in utilizzati nei data center e nei primi cluster AI possono incrementare la portata, ma con costi e consumi energetici non sostenibili con i requisiti di scalabilità dei carichi di lavoro AI. Una soluzione I/O ottica xPU in co-packaging può supportare ampiezze di banda più elevate con maggiore efficienza energetica, bassa latenza e maggiore portata, esattamente ciò che richiede la scalabilità dell'infrastruttura AI/ML.

Per fare un’analogia, sostituire gli I/O elettrici con quelli ottici nelle CPU e GPU è come passare da un carro trainato da cavalli per distribuire le merci, con una capacità e una copertura limitate, all’utilizzo di autocarri che riescono a trasportare più merci a distanze maggiori. La nascita di soluzioni ottiche di I/O come il chiplet OCI di Intel possono portare questo livello superiore di prestazioni ed efficienza, a vantaggio della scalabilità dell’AI.

Le soluzioni di I/O ottico, come il chiplet OCI di Intel, offrono a queste persone una motocicletta, consentendo loro di spostare più merce alla volta e coprire distanze più lunghe, oltre l’isolato, raggiungendo altre abitazioni del quartiere, senza spendere molta energia in più. Questo maggiore livello di prestazioni è quanto richiederà la scalabilità intelligenza artificiale.

Come funziona: Il chiplet OCI completamente integrato sfrutta la collaudata tecnologia fotonica basata su silicio di Intel integrano un circuito integrato fotonico (PIC) che include laser su chip e amplificatori ottici, con un circuito integrato elettrico. Il chiplet OCI è realizzato in packaging insieme a una CPU Intel, ma può anche essere integrato con altre CPU, GPU, IPU e altri sistemi su chip (SOC) di nuova generazione.

Questa implementazione supporta un trasferimento bidirezionale di dati a 4 Tbps, compatibile con PCIe (Peripheral Component Interconnect Express) Gen5. Il collegamento ottico in tempo reale ha mostrato una connessione trasmettitore (Tx) e ricevitore (Rx) tra due piattaforme CPU attraverso un cavo monomodale in fibra (SMF). Le CPU hanno generato e misurato il Bit Error Rate (BER) ottico e la demo ha rivelato lo spettro ottico Tx con 8 lunghezze d'onda a 200 GHz su una singola fibra, insieme a un Tx eye da 32 Gbps con una forte qualità del segnale.

L'attuale chiplet supporta 64 canali dati a 32 Gbps in ciascuna direzione fino a 100 metri (benché le applicazioni pratiche possano essere limitate a decine di metri a causa della time-of-flight latency), utilizzando otto coppie di fibre, ciascuna portante otto lunghezze d'onda DWDM (dense wavelength division multiplexing). La soluzione in co-packaging è anche molto efficiente dal punto di vista energetico, utilizzando solo 5 pico-Joule (pJ) per bit rispetto ai moduli ricetrasmettitori ottici pluggable con circa 15 pJ/bit. Questo livello di iperefficienza è fondamentale per i data center e gli ambienti informatici ad alte prestazioni e potrebbe aiutare ad affrontare gli elevati requisiti energetici dell’intelligenza artificiale.

La leadership di Intel nella fotonica basata su silicio: in qualità di leader di mercato nella fotonica basata su silicio, Intel sfrutta oltre 25 anni di ricerca interna degli Intel Labs, pionieri della fotonica integrata. È stata la prima azienda a sviluppare e offrire ai principali fornitori di servizi cloud prodotti affidabili di connettività basati sulla fotonica in silicio. Intel è stata la prima azienda a sviluppare e fornire ai cloud service provider prodotti di connettività in silicio basati sulla fotonica, con un’affidabilità ai vertici della categoria e in grandi volumi.

Il principale fattore di differenziazione di Intel è l’integrazione tra la tecnologia ibrida laser-on-wafer e l’integrazione diretta, che garantisce maggiore affidabilità e costi inferiori. Questo approccio esclusivo consente a Intel di offrire prestazioni superiori mantenendo l'efficienza. La piattaforma Intel per volumi elevati vanta la spedizione di oltre 8 milioni di PIC con oltre 32 milioni di chip integrati, con un tasso di FIT (failure-in-time) laser <0,1.

Questi PIC sono hanno un packaging di moduli ricetrasmettitori collegabili, implementato in reti di data center di grandi dimensioni presso i principali cloud service provider per applicazioni da 100, 200 e 400 gigabit al secondo (Gbps). Sono in fase di sviluppo PIC di nuova generazione da 200G/lane per supportare le applicazioni emergenti da 800 Gbps e 1,6 Tbps.

Intel sta inoltre implementando un nuovo nodo di processo di fabbricazione per la fotonica in silicio con prestazioni state-of-the-art (SOA), densità più elevata, migliore accoppiamento e costi notevolmente ridotti. Continuiamo a migliorare le prestazioni del laser su chip e della SOA, i costi (riduzione dell'area della matrice maggiore del 40%) e i consumi (riduzione maggiore del 15%).

Prossimi sviluppi:l’attuale chiplet OCI di Intel è un prototipo. Intel sta collaborando con clienti selezionati per implementare OCI in co-package con i loro system on chip (SOC) come soluzione di I/O ottico.

Il chiplet OCI di Intel rappresenta un passo avanti nella trasmissione dei dati ad alta velocità. Via via che il panorama delle infrastrutture AI si evolve, Intel rimane in prima linea, guidando l’innovazione e plasmando il futuro della connettività.