Det er vi, der er farlige, ikke maskinerne


KUNSTIG INTELLIGENCE: En computer kan slå dig, men stræbe efter at se forskellen mellem katte og hunde. Betyder det, at det ikke er intelligent?

Litterær kritiker i NY TID.
E-mail: henning.ness@icloud.com
Offentliggjort: 2020-02-07
Kunstig intelligens - En guide til tænkende mennesker
Forfatter: Melanie Mitchell
Pelikanbøger, Det Forenede Kongerige

Eksperter på kunstig intelligens (KI) er hovedsageligt opdelt i to lejre: De, der føler sig sikre på, at maskiner vil passere mennesker i intelligens på relativt kort tid, og som frygter, hvilke konsekvenser dette vil have for menneskeheden, og dem, der føler sig sikre på, at maskiner aldrig kan blive mere intelligent end os og derfor tror, ​​at der er lidt at frygte.

Forfatter Melanie Mitchell hører bestemt til sidstnævnte kategori.

Mitchell er professor i Informatikk ved University of Portland og har arbejdet med analog tænkning, komplekse systemer, genetiske algoritmer og celleautomater (matematisk modellering). Hun har flere bøger og publikationer bag sig, blandt andet En introduktion til genetiske algoritmer (1996). Hun hævder, at selv hvis en maskine har formået at gøre sig selv uovervindelig i skak, er det ikke nok til noget andet.

Jeg synes, hun synes at være for afslappet i sine synspunkter. Det er sandt, at det, der er let at lære for mennesker, er vanskeligt for maskiner, men det modsatte gælder også. Det største problem er på den anden side, at maskiner og mennesker har problemer med at forstå hinanden. Det er vanskeligt for os at forstå, hvorfor intelligente maskiner stræber efter noget, som selv små børn kan håndtere så let som intet - som at skelne mellem en hund og en kat på et billede.

Vi mennesker har en tendens til at overvurdere intelligensen af ​​maskiner og at undervurdere dem
vores egne.

Computere lynet hurtigt for at lære reglerne for forskellige spil, men har store udfordringer med at forklare Hvorfor de gør som de gør på en måde, som vi kan forstå. Det er næppe forståeligt for maskinen heller. Men når vi ser på, hvor hurtigt datalogi har udviklet sig, kan der ikke udelukkes lidt i fremtiden. Bogen er alt for lille om fusionen mellem menneske og maskine.

Abonnement halvår 450 kroner

forklaring problem

En person kan let forklare, hvorfor de valgte at gå i parken i stedet for at vaske huset. Men hvordan kan en maskine forklare, hvorfor den valgte en bestemt funktion på skakbrættet og ikke en af ​​de billioner andre muligheder? Det kan det ikke. Det forstår heller ikke, at det har vundet, eller hvad det betyder at "vinde". Den kan heller ikke nyde sejren. Vi kan derfor afvise det som "uintelligent".

Men idioter kan være mere farlige end smarties. Så det faktum, at en maskine er dum, beviser ikke, at den ikke kan være farlig i fremtiden.

”Jeg er bange. Simpelthen livreddende. ”Douglas Hofstadter

Da udviklingshastigheden har været så enorm i dette område, er det naturligvis let at tro, at det involverer maskinens hurtig vindende kraft. Måske for let. I 1980'erne blev han datalogi og fysiker Douglas Hofstadter spurgte, om han troede, at en maskine nogensinde kunne blive verdensmester i skak, som han klart svarede nej. Da han indså, hvor forkert han havde taget, tog rædselen ham: I et møde med Google-ingeniører engang i 2000'erne sagde Hofstadter: "Jeg er bange. Bare livreddende. "

Eventyrlig udvikling

1970'ernes udvikling af forskellige maskiners færdigheder beskriver Mitchell som et eventyr. Nu er eventyret virkelig blevet på en måde, som få kunne forestille sig, og du kan beskrive dette som forholdet mellem at fortælle et eventyr og at være en del af selve eventyret. At være en del af et eventyr er sandsynligvis sjovt, indtil du er klar over, at manden har rollen som Red Hood, mens maskinen er som ulven - og at eventyret faktisk er gået i opfyldelse.

Heimat Ahmadi, se www.libex.eu
Heimat Ahmadi, se www.libex.eu

Spurgt: ”Hvor bange skal vi være for KI-udvikling?” Mitchell svarer: ”Det er naturligt at være bange, når vi ser film og læser science-fiction bøger om KI-udvikling. Men dette er ren fiktion. "

Men hun nævner også, at vi stadig langt fra er i stand til at nå tilstanden "generel kunstig intelligens" [systemer, der kan trænes op til stort set alt, red.], Også kaldet "The Alignment Challenge".

Mitchell er mere bange for dumhed at overtage end for intelligensen i sig selv. Selv tror jeg, at punktet ikke er der, men i hvad fænomenet gør med os, for uanset om vi kalder det dumhed eller intelligens, betyder det ikke noget, om fænomenet truer vores eksistens.

Hun svarer utvetydigt: "I alle tilfælde af gætte på kort sigt om AI-superintelligens, bør vinding af mennesker være langt nede på listen."

Lad mig bare sige, at en ekspert som Ray Kurzweil synes noget helt andet. For eksempel forudsagde Kurzweil (i bogen Age of Intelligent Machines, 1990), at en computer kunne slå et menneske i skak i fremtiden, hvilket skete syv år senere, da IBMs Deep Blue slo Kasparov, dengang verdensmester i skak.

Falske medier

"Vi er nødt til at være opmærksomme på de iboende begrænsninger i de nye systemer, medmindre vi ender med at overdrive dem," skriver Mitchell. Selvom jeg synes, Mitchell virker for ubekymret i betragtning af, hvor hurtige maskiner kan udvikle sig, og hvor hurtigt vi kan miste kontrollen over dem, har hun mange gode point. Et af hovedpunkterne er, at vi mennesker har en tendens til at overvurdere maskinernes intelligens og at undervurdere vores egne - det er vi, der er farlige, ikke maskinerne. Først og fremmest bør mennesker frygte deres egne muligheder, for når maskinerne virkelig bliver farlige, kan det være for sent.

Hun udtrykker en vis bekymring over, hvordan maskinerne kunne bruges. Især frygter hun komplikationerne ved vores brug af maskiner inden for det, der kaldes falske medier: tekst, billeder, lyd og videoer, der kan manipuleres på en måde, som almindelige mennesker ikke er i stand til at se.

Hun advarer også mod uetisk brug af algoritmer. igen; primært skal vi frygte os selv, ikke for maskinerne. Men problemet er, at grænsen mellem mennesker og maskiner er ved at blive sløret.


Kære læser. Du har nu 1 gratis artikler tilbage denne måned. Du er velkommen til at tegne en Abonnement, eller log ind nedenfor, hvis du har en.



Efterlad en kommentar

(Vi bruger Akismet til at reducere spam.)