Unternehmensnachrichten über Beyond the Rack: Wie Co-Packed Optics (CPO) und Next-Gen Storage das Datenbewegungsproblem der KI lösen

# Jenseits des Racks: Wie Co-Packaged Optics (CPO) und Speicher der nächsten Generation das Datenbewegungsproblem der KI lösen

Der Elefant im Rechenzentrum: Es geht nicht mehr um Rechenleistung

Auf der CIOE 2026 in Shenzhen kam es zu einer faszinierenden Gesprächswende unter Rechenzentrumsarchitekten. Vor fünf Jahren drehten sich die Diskussionen umAnzahl der GPU-TFLOPS und CPU-Kerne. Heute? Die Besessenheit istPB/s (Petabyte pro Sekunde)UndBudgets für Latenzzeiten im Nanosekundenbereich.

Warum? Denn im Zeitalter von KI-Modellen mit Billionen Parametern und EchtzeitinferenzenDer Engpass hat sich von der Berechnung auf die Datenbewegung verlagert. Eine moderne H200-GPU kann 4,8 PFLOPS verarbeiten – aber sie hungert nach Daten. Das Training eines Modells der GPT-4-Klasse erfordert ein Mischen45 Petabyte Trainingsdatenüber Tausende von GPUs hinweg, milliardenfach.

In diesem Artikel werden zwei konvergierende Technologien untersucht, die auf der CIOE 2026 vorgestellt werden und die KI-Infrastruktur neu definieren: 1.Co-Packaged Optics (CPO) und Near-Package Optics (NPO)– Beseitigung elektrischer Engpässe 2.Unternehmensspeicher der nächsten Generation– SSDs und Speichersysteme, die für den unstillbaren Appetit der KI entwickelt wurden

Teil 1: CPO/NPO – Wenn 光Silizium trifft

Das Problem: Elektrische Verbindungen stoßen an ihre Grenzen

Herkömmliche optische Module werden über elektrische Leiterbahnen auf einer Leiterplatte mit Schaltern verbunden. Wenn die Datenraten 1,6 Tbit/s überschreiten, werden diese Spuren zu unüberwindbaren Hindernissen:

-Signalverlust: 30–40 dB/m bei 112 Gbit/s PAM4 (56 GHz) –Stromverbrauch: Retimer und DSPs verbrauchen 15–20 W pro Modul –Latenz: Elektrisches SerDes fügt 100–200 ns Hin- und Rückfahrt hinzu –Dichte: QSFP-DD-Faceplate ist auf ~51 Tbit/s pro Switch-ASIC begrenzt

EingebenGemeinsam verpackte Optik: Integration optischer Enginesim selben Paketals Schaltsilizium.

Was CIOE 2026 enthüllte: CPO ist real

Als CPO durch die Ausstellung ging, wechselte er von Konferenzbeiträgen zuVersand von Silizium:

#### 1.6,4T optische NPO-Motoren(华工正源/Huagong Zhongyuan) -Konfiguration: 8× 800G-Spuren mit Quantenpunkt-DWDM-Lasern -Energieeffizienz: 3,5 pJ/Bit (vs. 8 pJ/Bit für steckbare Module) -Formfaktor: Integriert in das Substrat des Schaltergehäuses -Status: Probenahme an Tier-1-Hyperscaler im vierten Quartal 2026

#### 2.Silizium-Photonik-Plattformen(GlobalFoundries) Ihr45 nm CMOS-kompatibler SiPhProzess ermöglicht: -Monolithische Integrationvon Lasern, Modulatoren und Fotodetektoren -Tests im WafermaßstabReduzierung der Montagekosten um 60 % -Multiwellenlängenquellenfür DWDM-Anwendungen

#### 3.Der Hardware-Durchbruch von Light联芯科Das chinesische Startup stellte das vorMaskenloses programmierbares Lithographiesystem ZW1000für Siliziumphotonik: -Schnelles Prototyping: Wochen statt Monate für neue Designs -Kleinserienfertigung: Wirtschaftlich für <10.000 Einheiten/Jahr -Flexibilität: Rekonfigurierbare Wellenleiter für kundenspezifische Anwendungen

Damit wird die größte Herausforderung des CPO angegangen:Design-Iterationszyklen. Die Kosten für herkömmliche Fotomasken (über 200.000 US-Dollar) machten das Experimentieren unerschwinglich.

CPO vs. NPO vs. Pluggable: Die Bereitstellungsmatrix

Nicht alle Anwendungen erfordern die Komplexität von CPO. Hier ist, wann jede Technologie Sinn macht:

| Architektur | Am besten für | Bandbreite | Macht | Kosten | Verfügbarkeit | |--------------|----------|-----------|-------|------|--------------| |Steckbar (QSFP-DD)| Spine-Leaf-Netzwerke | 800G-1,6T | 15-20W | $ | Jetzt | |LPO (linear steckbar)| Rack-to-Rack <100m | 800G | 8-12W | $$ | Jetzt | |NPO (Near-Package)| KI-Trainingscluster | 3,2-6,4T | 5-8W | $$$ | 2027 | |CPO (Co-Packaged)| Stoffe wechseln | 12,8T+ | 3-5W | $$$$ | 2028 |

Wichtige Erkenntnisse von CIOE: Für Einsätze 2026–2027:Hybridarchitekturen dominieren: – CPO für Spine-Switches (51,2 Tbit/s+ pro ASIC) – Steckbares 800G für Leaf-Switches – LPO für Compute-Fabric-GPU-Verbindungen

Technischer Deep Dive: Wie CPO tatsächlich funktioniert

Für Ingenieure, die CPO-Lösungen evaluieren, ist das Verständnis der Architektur von entscheidender Bedeutung:

#### Traditioneller steckbarer Modulpfad: „GPU → PCIe → NIC ASIC → PCB-Leiterbahnen (30 cm) → Retimer → Modul DSP → Laser → Faser → Fotodiode → DSP → Retimer → PCB-Leiterbahnen → Switch ASIC „“.Totale Latenz: ~800 nsLeistung: ~35 W für 800 G bidirektional

#### CPO-Pfad: „Schalter ASIC → On-Package-Wellenleiter (3 mm) → Modulator → Faser → Fotodiode → Wellenleiter → Schalter ASIC „“.Totale Latenz: ~200 nsLeistung: ~8W für 800G bidirektional

Die Latenzreduzierung ist transformativ fürsynchrones paralleles Training(z. B. ZeRO-3, FSDP), wo kollektive Kommunikationsprimitive (Alles reduzieren, Alles sammeln) die Ausführungszeit dominieren.

Die Herausforderung des Ökosystems: Warum die Einführung schrittweise erfolgt

Trotz überzeugender technischer Vorteile steht CPO vor Hürden:

1.Unreife der Lieferkette: Nur 3-4 qualifizierte Anbieter weltweit 2.ASIC-Neugestaltung wechseln: Erfordert gemeinsame Entwicklung mit Broadcom/Nvidia/Marvell 3.Wärmemanagement: 400W+ Switch-ASICs + optische Engines = komplexe Kühlung 4.Reparaturökonomie: Defekte optische Engine = gesamtes Schaltmodul verschrotten (über 50.000 $)

Branchenkonsens bei CIOE: CPO wird erfassen15-20 % des Switch-Marktes im Jahr 2028, konzentriert auf hyperskalierte KI-Cluster. Steckbare Module bleiben für Unternehmen und Telekommunikationsunternehmen vorherrschend.

Teil 2: Die Lagerungsseite – Feeding the Beast

Während jeder auf GPUs fixiert ist, erzählten die Enterprise-Storage-Exponate von CIOE eine ebenso wichtige Geschichte:Die Datenpipeline von KI ist nur so schnell wie ihre langsamste Komponente.

Das KI-Speicher-Dilemma

Das Training eines Modells mit 1 Billion Parametern auf 10 TB Daten erfordert: –Laden des Datensatzes: 10 TB aus Speicher lesen → GPU-Speicher -Checkpointing: 2 TB Modellgewichte werden in jeder Epoche geschrieben (10–100 × pro Trainingslauf) –Shuffle-Operationen: Zufallszugriffsmuster im gesamten Datensatz -Gradientensynchronisation: Verteilte Schreibvorgänge während der Backpropagation

Herkömmliche SAS-Festplatten?Lächerlich unzureichend. Sogar SATA-SSDs haben Probleme. Hier istNVMe PCIe 5.0 SSDsUndDauerhafter DDR5-SpeicherGeben Sie das Bild ein.

Was die Speicheraussteller der CIOE 2026 präsentierten

#### 1.PCIe 5.0 Enterprise SSDs: Die Ausstellung des New Baseline Topstar ist im Lieferumfang enthaltenMicron 7500-SerieUndKingston DC1500MLaufwerke, die Folgendes demonstrieren: -Sequentielles Lesen: 14.000 MB/s (vs. 3.500 MB/s für PCIe 3.0) -Zufällige Lese-IOPS: 2,5 Mio. (entscheidend für das Laden verteilter Trainingsdaten) -Ausdauer: 3 DWPD (Drive Writes Per Day) für 5 Jahre = 82 PB Gesamtschreibvorgänge auf einem 15-TB-Laufwerk

Auswirkungen auf die reale Welt: Ein NVMe-JBOF mit 16 Laufwerken kann zwei 100-GbE-Links für das Streaming von Datensätzen auslasten – wodurch Speicher als Trainingsengpass eliminiert wird.

#### 2.DDR5-5600 Serverspeicher: Über die Kapazität hinausgehende KI-Workloads erfordern beidesKapazität(512 GB-2 TB pro Server) undBandbreite(>400 GB/s pro Socket). DDR5-5600 liefert: -Bandbreite: 44,8 GB/s pro DIMM (im Vergleich zu 32 GB/s für DDR4-3200) -Kapazität: 128-GB-RDIMM-Module werden zum Standard -Energieeffizienz: 1,1 V vs. 1,2 V für DDR4 (10 % Reduzierung)

Bei CIOE haben wir gesehenSamsungs 512 GB DDR5-5600 RDIMMs– Ermöglicht 2 TB pro Sockel (16× DIMMs) für LLM-Inferenzserver. Dadurch können ganze 70B-Parametermodelle erhalten bleibenresident im DRAM, wodurch der Aufwand für den Modellaustausch entfällt.

#### 3.CXL-Speichererweiterung: Der Game Changer Compute Express Link (CXL) 2.0 ermöglichtSpeicherpoolingserverübergreifend: -Gemeinsamer Speicherpool: Mehrere CPUs greifen auf gemeinsamen DRAM/persistenten Speicher zu -Latenz: <200 ns für Remote-Speicherzugriff (im Vergleich zu Millisekunden für NVMe) -Anwendungsfall: LLM-Inferenzcluster teilen sich den KV-Cache auf allen Knoten

Obwohl die CXL-Speichererweiterung noch im Entstehen begriffen ist (begrenzte Produktion im Jahr 2026), könnte dies der Fall seinReduzieren Sie die Kosten für Inferenzcluster um 30 %durch Eliminierung der Speicherüberversorgung pro Knoten.

Enterprise-Speicherarchitektur für KI: Das 3-Tier-Modell

Basierend auf CIOE-Gesprächen mit Rechenzentrumsarchitekten ist der optimale KI-Speicherstapel:

####Tier 1: GPU HBM (Speicher mit hoher Bandbreite)-Kapazität: 80-192 GB pro GPU (H200/B200) -Bandbreite: 4-5 TB/s -Zweck: Aktive Trainingseinheiten, Modellgewichte beim Vorwärts-/Rückwärtsdurchlauf

####Tier 2: Host-DRAM (DDR5)-Kapazität: 1-2 TB pro Server -Bandbreite: 400-800 GB/s pro Socket -Zweck: Datensatz-Vorabruf, Gradientenakkumulation, Inferenz-KV-Cache

####Stufe 3: NVMe-SSD-Speicher-Kapazität: 60–240 TB pro Server (4–16 × 15 TB-Laufwerke) –Bandbreite: 50–200 GB/s (RAID 0 auf allen Laufwerken) –Zweck: Vollständiger Datensatzspeicher, Checkpointing, langfristige Modellversionierung

Kritisches Verhältnis: ZielenHost-DRAM: NVMe = 1:50(z. B. 2 TB DRAM, 100 TB NVMe). Dadurch wird sichergestellt, dass das Vorabrufen von Datensätzen niemals das GPU-Training blockiert.

Das TCO-Argument: Warum sich Premium-Speicher auszahlt

Stellen Sie sich einen KI-Trainingscluster mit 1.000 GPUs vor: –GPU-Kosten: 30 Mio. USD (1.000× 30.000 USD pro H100) -Jährliche Leistung: 5 Mio. USD (150 USD/GPU × 1.000 × 8.760 Stunden × 0,12 USD/kWh) -Opportunitätskosten: 5.000 $/Stunde für Cluster im Leerlauf (43 Mio. $/Jahr bei 100 % Auslastung)

Stellen Sie sich nun vor, dass Speicherengpässe die effektive GPU-Auslastung beeinträchtigen85 %(15 % Leerlauf beim Warten auf Daten): -Verschwendete GPU-Zeit: 6,45 Mio. USD/Jahr -Kosten für die Beseitigung von Engpässen: 500.000 $ (Premium-NVMe + DDR5 + 100GbE-Netzwerk)

ROI: 1.200 % im ersten Jahr. Aus diesem Grund zögern Hyperscaler nicht, PCIe 5.0-SSDs für 2.000 US-Dollar einzusetzen.

Teil 3: Die integrierte Lösung von Topstar – Hardware + Fachwissen

Als CIOE 2026-Teilnehmer und BranchenlieferantTopstar-Technologiepositioniert Kunden auf einzigartige Weise für den Erfolg der KI-Infrastruktur:

Unser umfassendes Produktportfolio

####Optische Verbindung- 800G/1,6T QSFP-DD/OSFP-Module - 400G/200G-Lösungen für Hybridarchitekturen - AOC/DAC-Kabel für Rack-Scale-Konnektivität - MPO/MTP-Glasfaserkabelbäume

####Unternehmensspeicher-SSDs: Micron, Kingston, Samsung Enterprise NVMe (PCIe 4.0/5.0) -Serverspeicher: DDR5-4800/5600 RDIMMs und LRDIMMs -GPU-Speicher: HBM2e/HBM3 für KI-Beschleuniger (OEM-Beschaffung)

####AI-Serverkomponenten- NVIDIA H100/H200/B100-GPUs (autorisierter Händler) - Mellanox ConnectX-7-NICs (400 GbE für RDMA) - Broadcom-Switches und SmartNICs

Warum Kunden sich für Topstar entscheiden

#### 1.Einfachheit durch einen einzigen AnbieterHören Sie auf, 10 verschiedene Lieferanten zu verwalten. Wir liefern komplette KI-Rack-Lösungen: - Stücklistenoptimierung (BOM) - Vorabvalidierung der Kompatibilität - Konsolidierter Versand und Support

#### 2.Flexible Beschaffungsoptionen-Komponenten in OEM-Qualitätfür Hyperscale-Bereitstellungen –OriginalmarkeModule (Cisco/Arista/Mellanox kompatibel) -White-Box-Lösungenfür kostensensible Projekte

#### 3.Technische MitentwicklungUnsere Ingenieure arbeiten zusammen an: -Design der Netzwerktopologie(Clos, Fettbaum, Libelle) -Dimensionierung der Speicherebenebasierend auf Workload-Profiling -Budgets für Strom und Kühlungfür Bereitstellungen auf Rack-Ebene

#### 4.Schnelle BereitstellungsfristenIn einer Branche mit Vorlaufzeiten von 16 bis 24 Wochen halten wir Folgendes ein: -Strategische Komponenteninventur(Aktien im Wert von über 5 Mio. USD) -4-8 Wochen Lieferzeitfür Standardkonfigurationen -Beschleunigte Optionenfür dringende Einsätze

Fallstudie: Bereitstellung eines 500-GPU-Trainingsclusters

Ein aktuelles Kundenprojekt verdeutlicht unsere End-to-End-Fähigkeit:

Anforderungen:– 500× NVIDIA H100 GPUs – 100 TB Datensatzspeicher pro Knoten – <10 μs Netzwerklatenz für All-Reduce-Vorgänge

Topstar-Lösung:-Vernetzung: - 500× Mellanox ConnectX-7 400GbE NICs – 64× 800G QSFP-DD optische Module für Spine-Switches – 1.024× 400G QSFP-DD-Module für Leaf-Switches –Lagerung: - 4.000× Kingston DC1500M 15 TB NVMe SSDs (8 pro Server) - RAID-Controller mit 8 GB Cache pro Server -Erinnerung: - 32.000× Samsung DDR5-5600 64GB RDIMMs (64 pro Server, 4TB/Knoten)

Zeitplan für die Bereitstellung:- Woche 1-2: Stücklisten-Finalisierung und -Beschaffung - Woche 3-6: Komponentenlieferung und -integration - Woche 7-8: Rack-Installation und Netzwerkinbetriebnahme - Woche 9: Workload-Validierung und Übergabe

Ergebnis: Cluster erreicht94,2 % GPU-Auslastungbei einwöchigen Trainingsläufen – einer der höchsten in der Branche.

Der Weg in die Zukunft: Technologieentwicklung 2027–2030

Basierend auf den Erkenntnissen von CIOE 2026 und den Branchen-Roadmaps, hier ist, was kommt:

2027: Mainstream-KI-Infrastruktur

-3.2T optische ModuleEinstieg in die Serienproduktion -DDR6-Samplingbeginnt (7.200 MT/s, 60 GB/s pro DIMM) -PCIe 6.0 SSDsliefern sequentielle Lesevorgänge mit 28 GB/s –CXL 3.0ermöglicht Speicher-Pooling über Racks hinweg

2028: CPO-Einführungswende

-12,8T-Switch-ASICsmit integriertem CPO -400G-Signalisierung pro Spur(im Vergleich zu den heutigen maximal 200G) -Optische Schaltkreisumschaltungfür dynamische Bandbreitenzuweisung -Erste kommerzielle photonische KI-Beschleuniger(analoges optisches Rechnen)

2030: Das optisch vernetzte Rechenzentrum

-Optisches Switching auf RackebeneErsetzen der Stromverteilung -Siliziumphotonik wird billiger als Kupferbei >100 Gbit/s -Anhaltende Erinnerung(CXL-angeschlossen) ersetzt NVMe für Warmspeicherung –Quantenverschränkte sichere Verbindungenfür die Synchronisierung von KI-Modellen zwischen DCs

Fazit: Infrastruktur ist Intelligenz

Die KI-Modelle, die Schlagzeilen erfassen – GPT-5, Gemini Ultra, Claude Opus – sind nur so leistungsfähig wie dieInfrastruktur unter ihnen. Auf der CIOE 2026 war die Botschaft eindeutig:Im Zeitalter der KI wird jeweils ein optisches Modul, eine SSD und ein Speicher-DIMM aufgebaut.

Für Unternehmen, die eine KI-Infrastruktur einsetzen, kristallisierten sich drei Notwendigkeiten heraus:

1.Warten Sie nicht auf perfekte Technologie– 800G und DDR5 sind jetzt produktionsbereit 2.Entwerfen Sie für die Datenbewegung, nicht nur für die Berechnung– Speicher und Netzwerk sind gleichwertig mit GPUs 3.Arbeiten Sie mit Lieferanten zusammen, die den Stack verstehen– Optik, Speicher und Rechenleistung müssen gemeinsam konzipiert sein

Topstar-Technologiesteht an dieser Schnittstelle und vereint modernste Komponenten, umfassendes technisches Fachwissen und die Agilität der Lieferkette, um enge Bereitstellungsfristen einzuhalten. Egal, ob Sie Ihren ersten KI-Cluster aufbauen oder auf 100.000 GPUs skalieren, wir sind bereit, Ihr Infrastrukturpartner zu sein.

Die Zukunft der Intelligenz wird heute aufgebaut. Lass es uns gemeinsam aufbauen.

---

Über Topstar Technology

Topstarist ein führender Anbieter von KI-Infrastrukturkomponenten, spezialisiert auf: -Optische Module: 800G/1,6T QSFP-DD, 400G OSFP, CPO/NPO-Lösungen -Unternehmensspeicher: NVMe SSDs (PCIe 4.0/5.0), Enterprise SATA, U.2/U.3 Formfaktoren -Serverspeicher: DDR5 RDIMMs/LRDIMMs, HBM für KI-Beschleuniger -GPU und Netzwerk: NVIDIA AI GPUs, Mellanox SmartNICs, Broadcom Switches

Wir verfügen über mehr als 15 Jahre Erfahrung in der Betreuung von Hyperscale-Rechenzentren, Telekommunikationsanbietern und UnternehmenskundenErstausrüsterqualitätmitWhite-Box-Ökonomie.

📧Technische Anfragen: dsale@topsfp.com 🌐Produktkatalog: www.opticalmodulemanufacturers.com | www.qsfp28module.com 📱Verbinden: [Facebook](https://www.facebook.com/topstar.sfp/) | [LinkedIn](https://www.linkedin.com/company/13177171/)

---

Schlüsselwörter: Mitverpackte Optik, CPO, NPO, KI-Rechenzentrum, Enterprise-SSD, DDR5-Serverspeicher, NVMe PCIe 5.0, Siliziumphotonik, optische Verbindung, GPU-Speicher, CIOE 2026, Hochgeschwindigkeitsnetzwerk, KI-Infrastruktur

SEO-Tags: #CoPackagedOptics #CPO #NPO #AIInfrastructure #EnterpriseSSD #DDR5Memory #DataCenter #CIOE2026 #SiliconPhotonics #GPUStorage #OpticalModules #NVMe