Superintelligens

Superintelligens er en hypotetisk form for kunstig intelligens, som kan være langt bedre end de klogeste mennesker på næsten alle tænkelige opgaver: forskning, strategi, problemløsning og kreativt arbejde. Begrebet blev populært i Peter Nick Bostroms bog "Superintelligence" (2014) og er i dag et omdrejningspunkt i diskussioner om AI-sikkerhed og kontrol.

Hvorfor Superintelligens dukker op i medier og strategidebatter

Overskrifter om superintelligens sælger godt, og techledere nævner begrebet som et muligt fremtidsscenarie. For en leder betyder det ikke, at du skal ændre forretningsmodellen i morgen. Du får i stedet ofte en påmindelse om at tænke langsigtet om risici: governance, tilsyn, og ansvar. Diskussionen er teoretisk og omdiskuteret, og eksperter er uenige om sandsynlighed og tidshorisont.

Sådan forestiller man sig Superintelligens i teorien

Forestiller du dig en medarbejder, der på en gang kan læse alle fagbøger, teste ideer i hovedet og foreslå strategier, du ikke havde overvejet, så nærmer du dig en analogi. Men en analogi er ikke en forklaring. Teorien siger, at en superintelligens ville kunne optimere mål langt hurtigere og bredere end mennesker, og dermed ændre rammerne for forskning og beslutningstagning. Hvorvidt det er realistisk, og hvordan sådan en intelligens reagerer på menneskelige mål, er præcis det, AI-sikkerhedsforskning diskuterer.

Eksempel: Direktøren der blev bedt om at tage stilling midt i budgetlægningen

En direktør modtager en avisoverskrift om "kunstigt geni" tre uger før bestyrelsesmødet og beder økonomi- og IT-chefen om en kort redegørelse til mødet. IT sender en e-mailkæde på ti beskeder, juridisk svarer med et udkast på seks sider, og økonomi vil have konsekvenser på risikoregisteret. Modstanden er praktisk: ingen i huset kan levere et fagligt svar samme dag, og I ender med en intern arbejdsuge brugt på at forstå forskellen mellem futurisme og reel drift. Læringen er klar: brug tiden på at styrke AI-governance og risikovurdering, ikke på paniktiltag baseret på spekulative scenarier.

Superintelligens er ikke det samme som smal AI eller AGI

Smal AI er specialiseret software, der løser ét problem, som genkendelse af fakturaer. AGI, eller artificial general intelligence, er idéen om en maskine med menneskelignende bredde i evner. Superintelligens går videre og beskriver et niveau, hvor maskinen overgår mennesker på stort set alt. 'ASI' eller 'kunstlig superintelligens' bruges om samme idé. For risiko- og sikkerhedsspørgsmål henviser eksperter til AI-sikkerhed, som handler om at styre og begrænse de negative konsekvenser.

Hvad ledere bør fokusere på nu

1. Prioritér praktisk AI-governance: risikoregistre, ansvar og datastyring.
2. Skil mellem langsigtede spekulationer og kortsigtede operationelle risici: handle på det, I kan måle.
3. Hold øje med forskning i AI-sikkerhed og sørg for adgang til specialistvurderinger, når der er behov.

Superintelligens er et vigtigt tankeeksperiment, men ikke noget, der alene skal styre daglige beslutninger.

Skal flere end én i huset kunne noget med superintelligens, så se, hvordan en AI-workshop er skruet sammen.