Med den raske økningen av AI-applikasjoner, ledet av modeller som ChatGPT, har etterspørselen etter datakraft skutt i været. For å møte de økende beregningskravene fra AI-æraen, avduket H3C Group, under paraplyen til Tsinghua Unigroup, nylig 11 nye produkter i H3C UniServer G6- og HPE Gen11-seriene på NAVIGATE Leader Summit i 2023. Disse nye serverproduktene skaper en omfattende matrise for AI på tvers av ulike scenarier, og gir en kraftig underliggende plattform for håndtering av massive data- og modellalgoritmer, og sikrer en god tilførsel av AI-databehandlingsressurser.
Variert produktmatrise for å imøtekomme varierte AI-databehandlingsbehov
Som en leder innen intelligent databehandling har H3C Group vært dypt engasjert i AI-feltet i mange år. I 2022 oppnådde H3C den høyeste veksten i det kinesiske markedet for akselerert databehandling og akkumulerte totalt 132 verdensførsterangeringer i den internasjonalt anerkjente AI-benchmarken MLPerf, noe som viser sin sterke tekniske ekspertise og evner.
Ved å utnytte en avansert dataarkitektur og intelligente datakraftstyringsevner bygget på grunnlaget for intelligent databehandling, har H3C utviklet flaggskipet for intelligent databehandling H3C UniServer R5500 G6, spesielt designet for modellopplæring i stor skala. De har også introdusert H3C UniServer R5300 G6, en hybrid databehandlingsmotor som er egnet for storskala inferens/treningsscenarier. Disse produktene oppfyller videre de forskjellige databehandlingskravene i forskjellige AI-scenarier, og gir omfattende AI-databehandlingsdekning.
Intelligent databehandlingsflaggskip designet for modellopplæring i stor skala
H3C UniServer R5500 G6 kombinerer styrke, lavt strømforbruk og intelligens. Sammenlignet med forrige generasjon tilbyr den tre ganger så mye beregningskraft, noe som reduserer treningstiden med 70 % for GPT-4-modelltreningsscenarier i stor skala. Det kan brukes for ulike AI-forretningsscenarier, for eksempel opplæring i stor skala, talegjenkjenning, bildeklassifisering og maskinoversettelse.
Styrke: R5500 G6 støtter opptil 96 CPU-kjerner, og gir en 150 % økning i kjerneytelse. Den er utstyrt med den nye NVIDIA HGX H800 8-GPU-modulen, som gir 32 PFLOPS med beregningskraft, noe som resulterer i en 9x forbedring i AI-treningshastighet for storskalamodeller og en 30x forbedring i AI-slutningsytelse for storskalamodeller. I tillegg, med støtte for PCIe 5.0- og 400G-nettverk, kan brukere distribuere AI-dataklynger med høyere ytelse, og akselerere innføringen og anvendelsen av AI i bedrifter.
Intelligens: R5500 G6 støtter to topologikonfigurasjoner, intelligent tilpasning til ulike AI-applikasjonsscenarier og akselererer dyplæring og vitenskapelige databehandlingsapplikasjoner, noe som forbedrer GPU-ressursutnyttelsen betydelig. Takket være multi-instans GPU-funksjonen til H800-modulen, kan en enkelt H800 deles inn i 7 GPU-instanser, med mulighet for opptil 56 GPU-instanser, som hver har uavhengige data- og minneressurser. Dette øker fleksibiliteten til AI-ressurser betydelig.
Low Carbon Footprint: R5500 G6 støtter fullt ut væskekjøling, inkludert væskekjøling for både CPU og GPU. Med en PUE (Power Usage Effectiveness) på under 1,1, muliggjør den "kul databehandling" i varmen fra beregningsbølgen.
Det er verdt å nevne at R5500 G6 ble anerkjent som en av "Topp 10 fremragende høyytelsesservere i 2023" i "2023 Power Ranking for Computational Performance" ved utgivelsen.
Hybrid Computing Engine for fleksibel matching av trenings- og slutningskrav
H3C UniServer R5300 G6, som neste generasjons AI-server, tilbyr betydelige forbedringer i CPU- og GPU-spesifikasjoner sammenlignet med forgjengeren. Den har enestående ytelse, intelligent topologi og integrerte databehandlings- og lagringsevner, noe som gjør den egnet for dyplæringsmodelltrening, dyplæringsslutninger og andre AI-applikasjonsscenarier, som fleksibelt matcher opplærings- og inferensdatabehandlingsbehov.
Enestående ytelse: R5300 G6 er kompatibel med den nyeste generasjonen NVIDIA GPU-er i bedriftsgrad, og gir en ytelsesforbedring på 4,85 ganger sammenlignet med forrige generasjon. Den støtter ulike typer AI-akselerasjonskort, for eksempel GPU-er, DPU-er og NPU-er, for å møte de heterogene datakraftkravene til AI i forskjellige scenarier, og styrker intelligensens æra.
Intelligent topologi: R5300 G6 tilbyr fem GPU-topologiinnstillinger, inkludert HPC, parallell AI, seriell AI, 4-korts direktetilgang og 8-korts direktetilgang. Denne enestående fleksibiliteten forbedrer i stor grad tilpasningsevnen til ulike brukerapplikasjonsscenarier, tildeler ressurser intelligent og driver effektiv datakraftdrift.
Integrert databehandling og lagring: R5300 G6 har fleksibel plass til AI-akselerasjonskort og intelligente NIC-er, og kombinerer trenings- og slutningsevner. Den støtter opptil 10 GPUer med dobbel bredde og 24 LFF (Large Form Factor) harddiskspor, som muliggjør samtidig opplæring og slutning på en enkelt server og gir en kostnadseffektiv datamaskin for utviklings- og testmiljøer. Med en lagringskapasitet på opptil 400 TB oppfyller den fullt ut lagringsplasskravene til AI-data.
Med AI-bommen som suser fremover, blir datakraften stadig omformet og utfordret. Utgivelsen av neste generasjons AI-servere markerer nok en milepæl i H3C Groups forpliktelse til "inherent intelligence"-teknologi og dens kontinuerlige drivkraft for utviklingen av intelligent databehandling.
Med blikket mot fremtiden, veiledet av "Cloud-Native Intelligence"-strategien, følger H3C Group konseptet "omhyggelig pragmatisme, som gir æraen intelligens." De vil fortsette å dyrke den fruktbare jorda til intelligent databehandling, utforske dyptgående AI-applikasjonsscenarier og fremskynde ankomsten av en intelligent verden med fremtidsklar, tilpasningsdyktig datakraft.
Innleggstid: Jul-04-2023
