Facebook bygger en af verdens kraftigste AI-supercomputere: Vil fodre den med dine data

Illustration: Meta

Det kræver regnekraft i stor volume, når man skal udvikle fremtidens sociale medier, metaverset.

Sådan lyder det fra Facebooks moderselskab Meta, der nu giver et indblik i, hvordan de arbejder med supercomputere i et blogindlæg

Projektet hedder AI Research SuperCluster (RSC), og bliver ifølge Meta en af verdens kraftigste supercomputere til at træne og afvikle algoritmer baseret på neurale netværk.

Målsætningen er at have en infrastruktur, hvor der kan trænes modeller med mere end en million millioner, altså 1.000.000.000.000 eller 10¹² parametre med data i exabyte-klassen. Det svarer ifølge Meta til at analysere 36.000 års højkvalitetsvideo på samme tid.

I første omgang bliver lidt over 6.000 GPU’er forbundet i klyngen, og på sigt er det planen at opskalere det til 16.000.

Illustration: Meta

Læs også: Danske forskere prøvekører ny gigantisk supercomputer

Data flyder direkte fra sociale medier

Ideen er, at den nye supercomputer skal hjælpe Facebook med at realisere næste generation sociale medier, metaverset, som er en fuldt integreret virtuel verden.

Supercomputeren skal fodres med data fra selskabets egne sociale medier som Facebook, Instagram og Whatsapp, og ikke kun via open source databiblioteker. Det kan være alt fra tekst til billeder og video som analyseres.

Svenske NyTeknik har spurgt Metas svenske kommunikationschef, om det er muligt at sige nej tak til, at ens personlige data fra sociale medier bliver behandlet i den nye supercomputer, men det kan han for nuværende ikke svare på, lyder svaret til NyTeknik.

Meta understreger dog at systemet er designet til at fungere uden forbindelse til internettet, da alle netværk holdes internt i Metas datacentre. Brugergeneret data bliver også anonymiseret.

Læs også: Vejrmodeller bliver bedre med dårligere præcision i beregningerne

Svært at måle regnekraft

Når RSC-supercomputeren er fuldt udbygget med 16.000 grafikkort vil den i følge Meta have en regnekraft på fem exaflops, altså fem milliarder milliarder, 10^18 i såkaldt mixed precision AI-regnekraft.

Men det er en opgørelse, som ikke er så udbredt, når man traditionelt sammenligninger supercomputere. Her er den mest udbredte målemetode Linpack.

Når man bruger den metode, så er udviklingen inden for supercomputere gået en anelse i stå, og rekorderne står ikke i kø for at blive slået. Ingen har endnu nået den magiske grænse på en exaflop, altså en milliard milliarder floating point beregninger i sekundet. Det kommer den nye RSC-supercomputer heller ikke i nærheden af.

Ifølge mediet HPC Wire vil RSC-supercomputeren levere 227 petaflops, hvis der måles efter Linpack-metoden.

Selvom RSC-supercomputeren ikke kommer op i exaflops, vurderer HPC Wire, at den fortsat vil placere sig som verdens fjerde kraftigste AI-supercomputer lige nu, og når den er fuldt udbygget, vil den placere sig som nummer to.

Linpack har længe været kritiseret for ikke at være en brugbar målemetode til supercomputere målrettet neurale netværksmodeller med grafikkort som den primære accelerator. For benytter man sig i stigende grad af lavere præcision, også kendt som mixed precision, som i mange tilfælde kun bruger 16-bit eller mindre, mens Linpack kører på 64-bit.

Hvor 64 bit-repræsentation (dobbelt præcision) giver en nøjagtighed på 15 decimale cifre, så er det tal meget lavere med eksempelvis 32 bit-repræsentation (enkelt præcision), hvor du har en nøjagtighed på 7 decimaler. Når RSC og andre supercomputere målrettet neurale netværk vælger at reducere præcisionen, så skyldes det, at når data fylder mindre, kan de lagres tættere på beregningsenhederne og dermed undgås ventetid i forbindelse med transport af data internt i computeren. Enkelt præcision reducerer desuden behovet for at udveksle data mellem flere processorer, der kører parallelt.

Hvor RSC-supercomputeren fysisk er placeret, ender med at koste og hvor meget energi den forbruger har Meta ikke oplyst.

Det er i øvrigt ikke nyt for Facebook at bruge supercomputere til beregninger. Siden 2017 har man kørt en HPC-klynge med 22.000 NVIDIA V100 Tensor Core grafikkort i en enkelt klynge, der udfører 35.000 jobs om dagen. Den supercomputere ligger p.t nr.139 på den globale top500-liste over supercomputere.

Læs også: Supercomputer skal træne AI til Teslas selvkørende biler

sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først

Er der andre end mig der får myrekryb af at vi(eller rettere mega IT-firmaerne) er ved at indføre Fagre Ny Verden og de facto total overvågning, adfærds/politisk/indkøbs/"you_name_it" modellering af os alle.

Og vi snakker om måske 5 firmaer world wide

Det er f... for uhyggeligt det her

Det kan godt være et habitat på Mars alligevel er lidt interessant...

  • 33
  • 2

Vi chipper vores hunde, katte og dyr i ZOO

Nu bliver vi jo nærmest alle snart digitalt chippet og real-time tracket...

Det problem synes jeg ikke kan løses ved at jeg bare går off-line og lader være med at dele info på diverse medier/netbutikker/aviser osv.

Med fare for at blive tumbs-ned synes jeg der snart må tages affære på "Magrethe Vestager" niveau.

Der går snart Matrix i den :-)

God aften til alle

  • 10
  • 2

Er der andre end mig der får myrekryb af at vi(eller rettere mega IT-firmaerne) er ved at indføre Fagre Ny Verden og de facto total overvågning, adfærds/politisk/indkøbs/"you_name_it" modellering af os alle.

Absolut. Det er med god grund jeg har slettet min facebook profil for flere år siden.

Men ansvaret ligger altså også hos os selv. Facebook tilbyder en ydelse, som alle andre virksomheder. Som kunde, betaler du ved at fodre dem med data som de kan sælge videre. Hvad troede folk ellers facebook levede af? At have en profil er jo gratis.

  • 13
  • 1

Min pointe stod måske ikke helt klart ;o)

Vil du derop med SpaceX, Amazon eller en anden "privat" udbyder af rumrejser? De firmaer du vil flygte fra er de samme som får dig væk fra jorden. Du ender sikker med at skulle bruge dit Meta-login som adgang til Mars-basen!

  • 5
  • 0

Men ansvaret ligger altså også hos os selv. Facebook tilbyder en ydelse, som alle andre virksomheder. Som kunde, betaler du ved at fodre dem med data som de kan sælge videre. Hvad troede folk ellers facebook levede af? At have en profil er jo gratis.

Og i forlængelse af dette: Tag Metas & Alphabets værdi og del med antallet af brugerere. Det giver en en fornemmelse af hvor meget de kan sælge dine data for. Det er i øvrigt efterhånden 4-5 år siden jeg var til et fordrag hvor den lokale Watson ekspert blærere sig med, at Watson nu var i stand til at lave personspecifikke reklamer baseret på scrapede FB data.

Det er et kapløb med tiden imellem os og big tech. Hvis BT vinder, må vi i fremtiden affinde os illusionen om en fri vilje, fordi vi blot mener det algoritmerne har programmeret os til at mene. Welcome to the Matrix........

  • 7
  • 0

til #15

Det er ikke big tech sådan generelt, men faktisk kun 3-4 firmaer:-( Det er lidt vildt at man lader så få firmaer profilerer os alle sammen - SÅ vi har jo snart alle en avatar i Matrix universet hos disse firmaer - uha. Men det blir rart at man kan få leveret købmandsvarer og andre indkøb uden at bestille - ren luxux ;-) :-/

  • 1
  • 0

Er der andre end mig der får myrekryb af at vi(eller rettere mega IT-firmaerne) er ved at indføre Fagre Ny Verden og de facto total overvågning, adfærds/politisk/indkøbs/"you_name_it" modellering af os alle.

Jeg har ikke noget imod overvågning - hvis den bruges rigtigt.

Problemet er, at virksomheder bruger overvågningen som de har lyst. Og er der lovgivningsmæssige problemer, kan de sikkert placere serverne i et land, hvor enhver overvågning er lovlig.

Jeg tror på, at overvågning kan gøre verden mere sikker. Bare det, at alle "tror" de overvåges, får dem til at opføre sig bedre. Måske derfor, har mange religioner "overvågning" hvor en retfærdig gud overvåger folket. Og, hvis folket ikke opfører sig ordentligt, så falder hammeren.

At staten og samfundet overvåger, er ok - under forudsætning af, at staten har forstået sin rolle, sit formål, og at overvågningen er til for at hjælpe befolkningen. Som jeg ser det, så er enhver stats formål, at være til for befolkningen. Det er IKKE befolkningen, der skal være til for staten. Er dette forhold misforstået af staten, så er svært at tillade staten har nogensomhelst magt, eller overvåger.

Hvis overvågningen er til for at beskytte de overvågede, så mener jeg at overvågning er ok. Overvågning fra facebook, har ikke noget nærmere formål, men virker til at være et rent kommercielt tiltag. Og det, som er kommercielt, kan som regel købes for penge. Og dermed, er data lovlige at bruge, for enhver der betaler. Jeg har også så lidt på facebook og linkedin som muligt, netop fordi jeg ikke stoler på dem.

  • 1
  • 6
Bidrag med din viden – log ind og deltag i debatten