Hoe snel kan één enkele streaming server écht gaan? Jarenlang wees de conventionele wijsheid naar de CPU als de voornaamste bottleneck. Meer gebruikers, meer transcoding, dus meer cores nodig. Maar wat als de ware limieten van grootschalige streaming ergens anders liggen?
De engineers van Netflix, de onbetwiste koning van streaming, wilden deze vraag beantwoorden. Ze slaagden erin om een verbluffende 400Gbps streaming doorvoer te bereiken vanaf één enkele server. Laten we hun prestatie ontleden, de echte bottlenecks van streaming verkennen en je laten zien hoe snel een enkele streaming server kan gaan.
CPU bij streaming
De eerste stap is begrijpen waar CPU-kracht er echt toe doet. Zoals onze Product Manager, Sjoerd van Koning, aangeeft, kan voor het simpel streamen van statische content zelfs een oudere HPE Gen8 server een 10Gbps-verbinding verzadigen. De workload is simpelweg niet CPU-intensief.
De vergelijking verandert drastisch bij transcoding.
📱 Live event streaming: Voor een live streaming server die een evenement uitzendt, hercodeer je misschien een enkele bronstream naar een paar verschillende bitrates (SD, HD, 4K). Dit is CPU-intensief maar beheersbaar, aangezien de kerntaak een één-op-veel levering is.
📹 High-density ingest streaming: Een scenario met duizenden inkomende camerabeelden, die elk opnieuw moeten worden gecodeerd naar een specifiek formaat voor opslag, creëert een enorme vraag naar parallelle verwerking. In dit geval is het aantal CPU-cores koning.
Voor deze transcoding-zware workloads is een CPU met een hoog aantal cores essentieel. Echter, voor het op grote schaal leveren van vooraf gecodeerde statische content, ligt de bottleneck ergens anders.
De 400Gbps benchmark
Dit is waar de Netflix-studie zo fascinerend wordt. Ze besloten om één server tot het uiterste te drijven, en de resultaten waren baanbrekend.
Ze konden in 2021 400Gbps streaming bereiken met "gematigde" hardware. Het was geen exotische supercomputer. Het was een single-socket systeem gebouwd op een 32-core AMD EPYC 7502P processor. Dit is een krachtige, enterprise-grade CPU, maar het is hardware die voor veel bedrijven toegankelijk is—inclusief onze klanten bij NovoServe.
De engineers ontdekten dat de ultieme prestatielimiet niet de CPU, de PCIe-bus of zelfs de netwerkkaart was. De bottleneck was geheugenbandbreedte—de pure snelheid waarmee data van het RAM-geheugen van het systeem naar de netwerkkaart kon worden verplaatst voor uitgaand verkeer. Dit is een diepgaand inzicht: op extreme schaal wordt het geheugensysteem van je server net zo cruciaal als je netwerkinterface.
TCP vs UDP voor streaming
Misschien wel het meest contra-intuïtieve deel van de Netflix-studie is hun keuze van netwerkprotocol. Het langdurige debat over TCP vs UDP voor streaming heeft een conventioneel antwoord: UDP voor live, TCP voor downloads.
-
UDP (User Datagram Protocol): Dit is de standaard voor live-evenementen zoals sport of videogesprekken. Het is snel en lichtgewicht, maar garandeert geen pakketlevering. Als een pakket verloren gaat, is het voor altijd weg—het heeft geen zin om een videobeeld dat al in het verleden ligt opnieuw te verzenden.
-
TCP (Transmission Control Protocol): Dit protocol garandeert dat elk pakket in de juiste volgorde aankomt. Als een pakket verloren gaat, wordt het opnieuw verzonden. Dit zorgt voor data-integriteit, maar kan buffering en latency introduceren.
Netflix koos TCP voor hun VOD-streaming. Waarom? Kwaliteit. Voor een film resulteert een ontbrekend pakket in een zichtbare glitch. Een paar extra milliseconden bufferen is een acceptabele afweging om een perfecte, ononderbroken kijkervaring te garanderen.
De keerzijde is dat TCP voor elke stream een geheugenbuffer vereist om mogelijke herverzendingen af te handelen. Hoe hoger de latency tussen jouw server en de kijker, hoe groter deze buffer moet zijn. Dit is waar hardware- en netwerkarchitectuur onlosmakelijk met elkaar verbonden raken. Netflix kan deze strategie laten werken omdat hun Open Connect CDN bestaat uit meer dan 20.000 servers die wereldwijd zijn verspreid, waardoor de latency naar de eindgebruiker altijd minimaal is.
Bouw je streaming-infrastructuur
De lessen van Netflix zijn duidelijk: het bouwen van een streamingplatform van wereldklasse draait om een gebalanceerde en intelligente architectuur.
De Juiste CPU voor de Taak: Je hebt de juiste processor nodig voor jouw specifieke workload. Voor transcoding-intensieve taken heb je een hoog aantal cores nodig. Daarom bieden wij een volledig assortiment AMD EPYC dedicated servers, van de 64-core werkpaarden tot de nieuwste 128-core krachtpatsers—die de specificaties uit de Netflix-test ver overtreffen. Als het gaat om EPYC voor streaming, hebben wij de perfecte oplossing.
Massale Geheugencapaciteit: Om een op TCP gebaseerd streamingmodel of uitgebreide caching te ondersteunen, heb je overvloedig RAM nodig. Onze servers zijn volledig aanpasbaar en kunnen worden geconfigureerd met honderden gigabytes aan high-speed ECC-geheugen.
Een Netwerk Gebouwd voor Kwaliteit: De levensvatbaarheid van zowel TCP- als UDP-streaming hangt af van een netwerk met minimaal pakketverlies en lage latency. Ons premium wereldwijde netwerk van 16+ Tbps, gebouwd op 10+ Tier-1 transit providers en meer dan 800 peering partners, is ontworpen om de optimale, meest directe route voor jouw data te vinden, wat de hoogst mogelijke kwaliteit voor je streams garandeert.
Echt Unmetered Bandbreedte: Om een massale doorvoer zoals 400Gbps streaming te kunnen verwerken zonder angst voor onverwachte rekeningen, heb je een voorspelbaar kostenmodel nodig. Wij bieden dedicated poorten tot 50Gbps met echt unmetered bandbreedte—geen verborgen "fair use"-clausules, alleen pure, aanhoudende prestaties.
Architectuur voor streaming-succes
Het bouwen van een live streaming server van wereldklasse of een VOD-platform gaat over meer dan alleen pure CPU-kracht; het gaat over slimme architectonische keuzes. Het gaat over het begrijpen van de echte bottlenecks en het investeren in een gebalanceerd systeem van krachtige compute, snel geheugen en een netwerk van wereldklasse.
Klaar om je eigen streaming-krachtpatser te bouwen? Neem contact op met onze accountmanagers om je te helpen de optimale oplossing voor jouw streaming-ambities te ontwerpen.
