DE TEKNISKE KRÆFTER: To nye bøger om mennesker og teknologi: Vi er alle påvirket af de trykplatformers sociale platforme, som Facebook opretter. Og hvad med NRK, skal de aktivt deltage i en sådan udvikling?

Kroglund er kritiker og forfatter.

Mennesket og teknokræfterne. Hvad gør de nye teknologier os?
Forfatter Dag Hareide, Aschehoug

Det store spil. Sådan overlever du i en alder af algoritmer
Forfatter Bår Stenvik, Cappelen Damm

Gandalf kører på ørnenes ryg til Doomsday Mountain og redder Frodo og Sam fra døden. De frie borgere i Midgard vinder sejren fra slaget ved Mirannion, og Aragon bliver kronet til konge af Gondor. Hobbitterne kan gå hjem til en fest i Hobsyssel, og så slutter den tredje periode. Men hvor er Gandalf i vores tid? Hvem kan redde os fra nutidens Saurons, teknokræfterne, som allerede er godt på vej til at fortære vores sjæle og vores identiteter?

Det kræver ikke meget fantasi at forestille sig bevareren, den sociale debattant og menneskerettighedsaktivisten Dag Hareide som en Gandalf-figur. Men der Gandalf havde en tryllestav og magiske tricks i ærmet, har Hareide kun bekymringer og mange spørgsmål. Heldigvis er der nogle gode hjælpere derude, såsom journalisten Bår Stenvik, der kommer med forslag til en kur. Separat har Hareide og Stenvik skrevet to af Norges vigtigste fagbøger i efteråret.

En ny æra

Hvorfor sådan en fantasifuld introduktion, baseret på hvordan trilogien Ringer Herre (1954–55) af JR Tolkien (1892–1973) slutter? Ja, fordi vi faktisk står over for en ny æra. Dagens teknologiske kvantespring sker meget hurtigere end før, og vi har ikke nok tid til at forstå de sociale, politiske eller kulturelle implikationer. Både Hareide og Stenvik råber en så kraftig advarsel, at jeg ryster dybt inde i margenen.

Lad os starte med Dag Hareide. Han er ikke en bekvem mand, men en veluddannet generalist. I løbet af de sidste fire år har han rejst, søgt og lettet de vigtigste teknologiske gennembrud i dette århundrede og analyseret, hvad disse betyder for den menneskelige krop, sind og samfund. Hareide har interviewet over 200 eksperter og læst mere end 200 bøger og hundredvis af publikationer.

Hareide er positiv til teknologi og mener, at omkring 80 procent af de teknologiske gennembrud er gode, og at muligvis 20 procent kan klassificeres som negative. Men det er netop sidstnævnte, der kan være dødelig. Hvorfor? Fordi vi er på vej ind i et stort, ukendt eksperiment med en masse manipulation. Hareide citerer historikeren Yuval Harari for at sige, at "kroppe, hjerner og sind vil være de vigtigste produkter i det 21. århundrede".

I tiden for algoritmer

De første 150 sider i Hareides bog er afsat til social forandring. Han er for eksempel involveret i den autoritære overvågning, der spreder sig i Kina og algoritmenes evne til at udløse vores følelser og ergo kontrollere vores præferencer.

Bår Stenvik skriver også detaljeret om sidstnævnte. Hver gang vi søger efter noget online, giver vi teknologivirksomheder mulighed for at kombinere flere og flere datapunkter og forudsige mere af vores adfærd, så de kan tjene penge på os. Vi er kategoriseret efter hvilke emojis vi bruger og den hastighed jeg læser med (det vil sige hvad der fanger vores opmærksomhed). Derfor vil der blive arrangeret sager for mig, jeg bliver "stimuleret" til at udvikle visse præferencer. Algoritmerne "lugter", når jeg er træt, og er klar til at distrahere mig med en trailer til en ny Netflix-serie, skriver Stenvik. Vores "opmærksomhed" fanges således op og omdannes til en rentabel handling, eller hvad Stenvik kalder en forudsigelse af vores fremtidige præferencer, som forskellige interesser kan tjene penge på. Med andre ord er vi meget mindre frie, end vi tror. Dette minder lidt om Vidunderlig ny verden af Aldous Huxley, fra 1932 (1948).

Meget af dette er velkendt materiale for dem, der følger med, og som måske har læst Shoshana Zuboff og hendes monumentale bog En alder af overvågningskapitalisme (2020). Også Netflix-dokumentaren Det sociale dilemma viser os, hvordan vi styres, forberedes og gøres modtagelige for både kommercielle og politiske interesser.

Hareide er ikke bare tilfreds med at beskrive og problematisere, at vi lever i algoritmernes tid. Han fører os ind i Silicon Valley's store drømme om ubegrænset teknologisk udvikling, maskinindlæring og kunstig intelligens og videre ind i cyberkrig og drab på robotter.

Hans kapitel om mordvåben og det militærindustrielle kompleks, der i dag er blevet udvidet med det digitale kompleks, bringer svededråberne frem i mig. Krig bliver klinisk, når de fleste ting til sidst sker via droner og dræbe robotter. Når vi ikke længere står over for en fjende, vi kan se, bliver vi stumpede og går i "spiltilstand". Dette er science fiction realiseret lige foran vores øjne. Uden at vi drøfter det tilstrækkeligt på forhånd.

Faren er, at vi foretrækker indtryk, der kan fordøjes hurtigt, og som hurtigt kan deles og deles.

«Uskyldighed» af sociale medier

Begge forfattere er bekymrede for, at Facebooks uskyld er en myte. Faren ligger i det faktum, at vi beviseligt foretrækker indtryk, der kan fordøjes hurtigt, og som hurtigt kan kunne lide og deles. Det kan være en kort vej derfra, at vi fristes af mere ekstremt indhold. Har også Facebook låste automatisk brugere i flere af de højreorienterede Qanon-grupper (højreorienteret sammensværgelse) men lover nu at slette sådanne grupper. Gennem sin platform har Facebook også været indirekte medansvarlig for folkemordet på Rohingya i Myanmar. Vi er alle berørt af det trykkammer, der er skabt af mange af de nye sociale platforme. Men de vil hellere ikke skulle tage ansvar for det, så længe der genereres flere klik, så annoncører og andre stadig betaler for adgang.

Personligt finder jeg det svært at forstå, at vores flagskib, NRK, inviterer konstant væk folk, der har sendt noget "skarpt" på sociale platforme, til Dagsnytt 18. Dette er normalt klik-lokkemad for at skabe følelser og ergo en højere position i nyhedsfeeden. Bør NRK være involveret i en sådan udvikling?

Hareides vilje til verden

Den næste hoveddel eller 150 sider i Hareides bog viser mange sider viet til potentielle ændringer i hvad det betyder at være menneske. Han trækker Pandoras kasse med teknologi ud. Det er næsten uudtømmelig. Vi besøger kunstig befrugtning, ægdonation, livmoder til salg og en kvinde på 72 år, der har født et sundt barn. Vi får indsigt i transhumanismens drøm om evigt liv og nul smerte og andre nye scenarier med såkaldte cyborginden, en blanding af menneske og maskine. Det er her, vi går ind i kampen for vores menneskelige "jeg", hvor muligheden for fremtidig "opgradering" af os selv er ubegrænset.

Vi står over for en ny genetisk manipuleret overklasse.

I en verden, hvor penge og magt er meget ulige fordelt, står vi over for en ny genetisk manipuleret overklasse, skriver Hareide. Ja, kære læser, du kan trække på skuldrene og sige, at dette er overarbejdede ting. Men nej, Hareide har lavet sine lektier, og alt, hvad han skriver, er dækket af kilder. Disse kan naturligvis følges op og fortolkes i et andet lys. Selv tak. Aschehoug burde have behandlet sig selv med et register, hvilket ville have gjort læsningen lettere for dem, der nu ønsker at skrive en efterfølger til Hareides arbejde.

Han har givet os en analyse af magt i bunden, hvilket er absolut nødvendigt. Teknologi er grundlæggende neutral og kan bruges godt eller dårligt, men hvem ejer de nye teknologier, hvem står bag den, hvem trækker i trådene? Vi lærer de store at kende, der er baseret i USA (som Apple, Microsoft, Amazon, Facebook og Alphabet), men også en række andre, herunder de nye supervirksomheder i Kina (Alibaba, Tencent og Baidu).

Konstant lykke er umenneskeliggørelse

Jeg læste denne bog som Hareides socialt engagerede og intellektuelle bevis på verden. Det er humanisten, der skriver til os – han diskuterer med sig selv de store spørgsmål: Hvad er et liv? Hvad er det gode liv? Hvad er lykke? Hvad er mening?

Bogen bliver således et kraftfuldt opgør med teknokraftens forestilling om konstant lykke. Konstant lykke er umenneskeliggørelse i den forstand, at den strider mod andre værdier som frihed, kærlighed, håb og retfærdighed. Transhumanisme skal derfor mødes med en ny bevidsthed om værdier og moral.

Både livet og vores bevidsthed er noget, der gives os som mennesker, skriver Hareide. Ud fra dette har vi skabt begrebet "menneskelig værdighed". Det er denne menneskelige værdighed, der nu trues af, hvad teknokræfterne gør. Menneskerettigheder og repræsentativt demokrati er et resultat af den menneskelige værdi, som vi har formået at skabe for menneskeheden, og vi skal forsvare den.

Dag Hareide har både etos og logoer og er ikke bange for at bruge en masse patos.

Digitalt arbejde

Dag Hareide har både etos og logoer og er ikke bange for at bruge en masse patos. I lyset af hans lange karriere og mange vigtige gerninger og bogudgivelser er dette ikke et problem. Bår Stenvik bruger som ædru journalist ingen patos, men har absolut nok etos og logoer. Selvom han ikke bruger ord som "menneskelig værdighed", er han stadig ikke fremmed for luftige ræsonnementer om, at "kunst skal være et spejl, historier og metaforer, der gør det muligt for os at se verden med nye øjne", og at "derfor må vi ikke narre at automatisere kreativitet ».

Stenviks bog supplerer Hareides mesterværker på nogle områder. Hvor Hareide i sidste ende næsten virker udmattet efter at have rejst rundt i verden, internettet og forskellige møder, bøger og magasiner rundt om og sætter en linje uden at have et overskud til at komme med nogen konkrete løsninger, træder Stenvik ind: Det handler om at beskatte brugen af ​​vores data, og at vi i dette land skal bygge vores egne modeller og ordninger til dataindsamling og -brug og ikke kun stole på internationale giganter. Midt i bogen kommer en side, der hedder digitalt arbejde. Dette er Stenviks lille manifest for god computerbrug og politik.

Mens vi i Norge gennem de sidste 40 år er gået væk fra kollektive løsninger, kan de specifikke datafarer, vi nu står over for, hjælpe den offentlige sektor med at "slå tilbage", mener Stenvik. Høst af data fra norske borgere skal så vidt muligt organiseres, så den samlede værdi returneres til os alle. Offentlige tilsynsmyndigheder skal kunne kræve åbenhed og indsigt i algoritmer og kildekoder for at sikre, at norske data bruges på en ansvarlig og etisk måde.

Og mens du og jeg betaler 33 procent skat, betaler Google en promille, selvom de havde to milliarder i annonceindtægter i Norge i 2015. Vi har derfor brug for en grundlejeafgift på digitale tjenester.

Technokræfterne er nogle monstre. De findes ikke i en fiktiv verden à la Ringenes Lord. Gandalf Hareides og Frodo Stenviks bidrag i kampen for at bevare vores sjæl og vores menneskelige identitet er værdig til en storslået fest med fyrværkeri, både i Hobsyssel og hvor du er. Må ikke bare lide og dele – løb og køb!

Noget af de norske databud fra Bår Stenviks Det store spil:

  1. Datahøstning fra norske statsborgere skal så vidt muligt organiseres således, at den samlede værdi af dataene returneres til borgerne i form af bedre tjenester og skatteindtægter.
  2. Offentlige tilsynsmyndigheder skal kunne kræve åbenhed og indsigt i algoritmer og kildekoder for at sikre, at norske data bruges på en ansvarlig og etisk måde.
  3. Staten skal koordinere norske interesser inden for den norske teknologiindustri og den offentlige sektor og opbygge et norsk integreret forskningsmiljø med et nationalt og internationalt fokus.
  4. Norske løsninger til dataindsamling er etableret på en måde, der sikrer tillid. Borgere skal have en reel indflydelse på brugen, privatlivets fred skal respekteres gennem kryptering og anonymisering, hvor det er muligt, for både offentlige og private organer.
  5. Offentlige løsninger skal koordineres gennem et separat ministerium, der har nye midler og et mandat til at skabe tværsektorielle løsninger og koordinering for at undgå unødvendig dobbeltarbejde og affald.
Abonnement 195 kr. Kvartal