Algoritmes

 De digitale wereld bepaalt meer dan ooit onze levens. We zeggen dan nogal gemakkelijk : de algoritmes bepalen ons leven.

Een eenvoudige uitleg over wat algoritmes zijn toont onderstaande video.

In ons dagelijks leven laten we veel over aan computers (smartphones, telefoons, tablets, PCs, ...) maar lukt het nog te leven zonder de algoritmes? In een gedicht vol humor stelt Luuk Gruwez zich een gelijkaardige vraag (verschenen in Het liegend konijn, 2025,/1, blz.66).

AANMANING

Dit is geen spam en mogen we hopen

dat u geen robot bent? Wij, van hogerhand,

 zijn na inspectie door onze experten

en de dubbelcheck van een ad-hoccommissie

helaas tot het besluit gekomen dat wij u

abusievelijk een van de twee entiteiten die wij

u hebben toegekend, de vrolijkheid

en de melancholie, boventallig hebben uitgekeerd

tijdens de verdeling van de karakteristieken

en convenanten van het ondermaanse.

Mocht u dit schrijven al eerder hebben ontvangen,

zelfs beantwoord, dan mag u het alsnog negeren.

Na tegenexpertise, vrolijkheid en melancholie

evenredig wikkend en wegend, alsook

alle varianten ervan, zowel de harde als de zachte,

moeten wij u thans op straffe van een dwangsom

en met excuus voor wat enkel onze omissie was

beleefd een partiële restitutie vragen.

Ook al faalt op dit punt nog steeds

jammerlijk en onbegrijpelijk de wet.

Wel laten wij u bij wijze van gunst de keuze.

Behoudt u de vrolijkheid of de melancholie?

De vrolijkheid doet kristallen glazen rinkelen,

die daarna soms in scherven vallen. Zij doet schuddebuiken,

kelen zuchten, jubelen. Zij bevochtigt genitaliën.

Alle begrip dus als u stelt: 'Edelachtbaren, laat u mij

maar de melancholie, la malinconia, ninfa gentile!

Van vette pret, meer dan van verdriet, stinkt de adem.

U had toch niet, al was het maar voor even,

gedacht dat daarmee valt te leven?'

De dichter overziet twee van de meest karakteristieke eigenschappen van zijn eigen dichterschap, humor en melancholie, tegen het licht van de digitale samenleving waarin ook gevoelens worden ingekapseld binnen algoritmes. 

Valt daarmee te leven???

Afscheid van NWT - George Steiner over het einde van het boek - 4 -

 

In een essay uit 1987 probeer ik de gedachtengang te volgen van de Frans-Amerikaanse literatuurprofessor en schrijver George Steiner als hij nadenkt over het vermoedelijke einde van het boek. Hij behandelt thema's als geletterdheid (weer actueel dank zij slechte Vlaamse cijfers bij internationaal onderwijsonderzoek en dank zij de aanval van Trump op scholing en universiteiten) en concurrentie van andere media. Wat toen nog in zijn beginschoenen stond, de digitalisering van het woord, komt ook uitvoerig aan bod. Hij probeert ook te doorgronden welke gevolgen digitalisering kan hebben voor het lezen van boeken. Toen was er nog helemaal geen sprake van e-books.

Digitale ordening

"De meest radicale, zij het dan minder zichtbare veranderingen vinden echter niet in het overdragen van informatie plaats, maar in het opslaan en de analytische behandeling ervan. Het opslaan en weer opzoeken van gegevens door middel van databanken en computers zijn meer dan technische snufjes. Ze vormen een nieuwe methode om de menselijke kennis te organiseren en verbindingen tot stand te brengen tussen huidig onderzoek en vroeger werk. Elke hiërarchische ordening is in wezen filosofisch. Elk bibliotheeksysteem, of het nu volgens het formaat van de boeken werkt of volgens Dewey [een bibliotheekindelingssysteem] legt een geformaliseerd beeld vast van hoe de wereld in elkaar zit, en wat de optimale visuele verhouding is tussen de menselijke geest en de fenomenologische totaliteit. Het elektronisch indexeren en memoriseren en de ogenblikkelijke beschikbaarheid van gegevens, afhankelijk van verschillende coördinaten en semantische tekens, zullen niet alleen de fysieke structuur van onze bibliotheken grondig veranderen, maar aan de manier waarop wij erin te werk gaan.  (...)  

(George Steiner ©The New Yorker)

In vele disciplines zal de scheidslijn van de chronologische bruikbaarheid gecodificeerd en geïnstitutionaliseerd worden. Men zal materiaal dat voor een bepaald punt op de indextape voorkomt, niet meer hoeven te citeren of er zelfs maar bewust van te zijn. En dus zal het nog moeilijker worden om aan de illusie te ontsnappen - en een illusie is het, zeker wat de geesteswetenschappen betreft- dat inzicht cumulatief is en dat er een essentiële vooruitgang en doelmatigheid zit in het uitdrukken van gevoelens en ideeën. Het 'programmeren' van kennis in de elektronisch beheerde bibliotheken van de toekomst zal volgens mij ons waarnemingsvermogen veranderen en wijzigingen aanbrengen in onze manier van ontdekken, die even belangrijk zijn als om het even welke wijziging sinds de uitvinding van de losse drukletter. Het is een formule die tot het minimaliseren van het toeval leidt, van alle overschot of surplus. Toch zijn het juist deze contra-utilitaire aspecten van het traditionele lezen die veel van het beste in onze cultuur hebben bepaald."

Steiner probeert dan zich voor te stellen hoe de boekenproductie in Amerika zal evolueren en hoe de literatuurkritiek vermoedelijk veel meer polariserend zal oordelen. Hij spreekt dan over de ramp van het halfbewuste lezen dat alle nuances mist van het 'echte' lezen. In zijn kritiek over het onderwijs lees ik veel dat mij doet terugdenken aan een recent rapport over het dalende leesniveau in de Vlaamse scholen.

Pseudo-geletterdheid en impact daarvan op de samenleving

"Het merendeel van hen die de lagere en de middelbare school doorlopen hebben, kan 'lezen' maar niet lezen. Ze zijn pseudo-geletterd. Er zijn verschillende maatregelen mogelijk. Men heeft berekend dat de woordenschat en het grammaticale begrip waarover het gros van de Amerikaanse volwassenen beschikt, zich op twaalf- of dertienjarige leeftijd gestabiliseerd heeft. Ongeveer dertig percent van de volwassen lezers vindt het moeilijk om een bijzin te begrijpen (een feit waarmee de eindredacteurs van publiciteitsfirma's, tijdschriften, wegwerpfictie en overheidsbesluiten al lang vertrouwd waren). Omdat het geen elementair onderdeel van onze opleiding meer vormt, zal het lezen in zijn volle betekenis van referentiële herkenning, grammaticaal vertrouwen en gespannen aandacht, opnieuw aangeleerd moeten worden als een kunst apart. Iedereen die literatuur, geschiedenis of filosofie heeft proberen te onderwijzen aan de gemiddelde scholier, zal kunnen bevestigen dat daar het hele karwei ligt.

Men kan daartegen aanvoeren dat lezen in de volle betekenis van het woord altijd al het voorrecht geweest is van een elite en dat ons beeld van een verloren gegane geletterdheid geïdealiseerd is en slechts toepasselijk op een geschoolde minderheid. Maar dat is bezijden de kwestie. Die minderheid had de macht in handen en gaf het voorbeeld. Haar criteria waren die van de cultuur als geheel. Dat is niet langer het geval. Het is veel eerlijker en vruchtbaarder toe te geven dat de maatstaven en idealen van een ruime geletterdheid juist niet vanzelfsprekend zijn, dat ze op de meerderheid in een populistische samenleving niet van toepassing zijn en dat ze een speciale vakkundigheid veronderstellen. Tenslotte eisen we ook niet dat alle burgers trapeze-acrobaten zouden worden. Wat we wel moeten trachten te bereiken is dat degenen die goed willen leren lezen daartoe de kans krijgen en dat ze over de nodige ruimte en rust kunnen beschikken om hun passie te beoefenen.

George Steiner weet dat hij nogal negatief klinkt en wil daarom zijn essay met een hoopvolle gedachte afsluiten.

Het geluk van Erasmus

"Omdat het ons allemaal zo gemakkelijk wordt gemaakt, is ons gevoel voor de leesdaad vaak oppervlakkig geworden. Al in het begin van het Gouden Tijdperk van de geletterdheid vertelt Erasmus hoe hij zich op een modderige weg bukte om een afgescheurd stukje drukwerk op te rapen en hoe hij het uitschreeuwde van verbazing en zichzelf gelukkig prees. Misschien zullen de boekenmensen van morgen ontdekken dat ze zich in een gelijkaardige situatie bevinden. Al met al zou dat nu ook weer niet zo slecht zijn."

Afscheid van NWT - Hans Helms over computers - 3 -

 

In een artikel in het NieuwWereldTijdschrift van juli 1984 analyseert de Duitse denker Hans Helms de impact van de computer op onze samenleving. De toen nog beginnende evoluties hebben zich ondertussen heel prominent ontwikkeld. De gevaren inherent aan deze ontwikkeling worden als maar moeilijker herkend en erkend.

 Helms illustreert deze evoluties aan de hand van twee voorbeelden, de psychologie over relaties en de voedingsleer. Hier citeer ik uit zijn gedachtengang in verband met de psychologie. Zo naderen we ook het einde van dat essay.

Liefdesverdriet

"Nu de ontwikkeling van de Artificial Intelligence echter een stadium heeft bereikt waarin computers, dank zij hoogst complexe programmeertalen, schijnbaar menselijke intelligentie produceren en dus 'verstandige' raad geven, (...),nu wordt de immanente beperktheid van computers -hun hoe dan ook mathematisch logisch denkpatroon- minder en minder onderkend. (...)

Dat merk je al in benauwende mate in het huidige spraakgebruik. De omgangstaal heeft niet alleen het jargon van het wetenschappelijk denken overgenomen, maar ook de daarmee gepaard gaande aanpassing en onderwerping van het menselijke verstand aan de instrumentale Ratio.

Partners praten hun amoureuze perikelen niet meer uit, maar 'problematiseren' hun relatie om zodoende tot een oplossing te komen. En meestal is dan ook de oplossing dat hun relatie oplost, m.a.w. dat ze uit elkaar gaan. Waar gevoelens 'geproblematiseerd' worden, vallen ze onder de bevoegdheid van gevoelswetenschappers en buiten die van de partners zelf. (...)

Het verstand van de meeste tijdgenoten is er immers op afgesteld, de instrumentale of wetenschappelijke Ratio als de hoogste vorm van intelligentie te erkennen."

Grenzen voor de computer?

"Er valt niets in te brengen tegen het gebruik van computers, zolang wie ermee werkt deze machines begrijpt en dus ook de gevolgen kan overzien van wat ze programmeren, en zolang computers ingezet worden voor zaken die de menselijke integriteit niet schaden.

Zodra computers echter gebruikt worden om uit politiek-economische berekening de werkende mensen tot robots te maken, doordat men hen berooft van hun persoonlijke geschiedenis en hen verplicht zich te schikken naar statistische bellenblazerij wordt het tijd de computers te zien als wat ze onbedoeld geworden zijn: imperialistische machtsinstrumenten par excellence.

(©De Ondernemer)

Verbeelding en computers

"Als wat wij verbeelding noemen - het menselijk denken met zijn subjectieve én objectieve momenten, zijn goed begrepen geschiedenis én zijn hevig verlangde toekomst- ook dan nog legitiem zou zijn, dan zou deze verbeelding zich niet meer kunnen ontplooien omdat haar pijlers vernietigd zijn.

Zonder verbeelding dankt de creatieve mens zijn geschiedenis af. Het is bijgevolg van wezenlijk belang dat we onze verbeelding van de ondergang redden en sterk maken.

Alleen met verbeelding kunnen we ons voorstellen wat de computerwereld voor ons in petto houdt. Alleen met de middelen van onze fantasie kunnen we de computerwereld zo veranderen dat hij ons dient en niet domineert."

Als ik dit besluit lees, word ik mismoedig bij al die digitale aanwezigheid én opdringerigheid tot in de kleinste poriën van ons dagelijks leven. En toch... ik zie nog tekenen van creativiteit en fantasie, dus ik blijf hopen.

Afscheid van NWT - Hans Helms over computers - 2 -

 

Over computers is al veel geschreven 

en dat zal nog even zo blijven. 

Wat ik zo indrukwekkend vind, 

is dat een van de grondleggers van artificiële intelligentie, Joe Weizenbaum (zie ook een vorig bericht) 

reeds zo vroeg waarschuwde 

voor o.a. de psychologische impact. 

Zo heeft hij het reeds meer dan veertig jaar geleden 

over de dwangmatige jacht op 'likes' of duimpjes👍.

Duimpjesjacht

"Weizenbaum schrijft: 'de dwangneurotische programmeur volgt bepaalde driften; zijn gedrag vertoont nauwelijks enige spontaneïteit en de vervulling van zijn voor de hand liggende wensen schenkt hem geen voldoening of genoegen, enkel bevestiging. Het nauwst verwant met dit soort psychopathologie is de onverbiddelijke, vreugdeloze drift naar bevestiging, die ook het leven van de dwangneurotische gokker karakteriseert'. 

Die bevestigingsdrang lijkt me een reactie op het aan de computer kwijtgespeelde ik. Wanneer iemand alleen nog in staat is tot reageren; wanneer men iemand van zijn ervaringen heeft vervreemd en hem alleen nog vraagt, op een abstract en ondoorzichtig programma op een bepaalde manier te reageren; wanneer hij reeds als kind zo intensief leert omgaan met computers en computergeleide werktuigen, dat hij zich onmogelijk als een brok persoonlijke geschiedenis kan leren ervaren, dan kan hij de brokstukken van zijn bewustzijn slechts samenhouden door ze dank zij 'Big Brother' als delen van een systeem bevestigd te zien.

Datadrang en datadwang

"De micro-elektronisch georganiseerde toekomst voorziet dat mensen als autobestuurders, als voetgangers, als lichamen, als vingerafdrukken of stemmen door computers kunnen worden gelezen. Het individu wordt opgesplitst in persoonlijkheidsaspecten, aangepast aan de identificatienormen van de computers. (...)

Duizend bescheiden elektronische stemmen spreken ons tegenwoordig al toe in liften, op zebrapaden, in zelfbedieningsrestaurants en benzinestations. Vanuit horloges, kachels, zakrekenmachines, camera's en andere apparaten die groot genoeg zijn om een batterij te bevatten, zullen elektronische stemmen ons toespreken. (...)

(©gezondheid.be)

Niet langer zullen Diderots bijoux indiscrets ons hun betoverende verhalen vertellen, maar textbooks, leerboeken zullen ons bevelen, onze feitenkennis te vervolledigen. Zulke computergeleide prullaria doen ons vandaag al in het gareel lopen van een instrumentale Ratio, van louter utilitair denken. Ze dwingen de mens zich te bewegen binnen de benauwende werkelijkheidsfragmenten die computers zo goed kunnen simuleren en waarbij de politiek-economische wereld van de heersende private en publieke instellingen zoveel baat heeft. (...)  De keerzijde van computer literacy is computer-leesbaarheid. Computerprogramma's mogen nog zo complex zijn, nog zo 'intelligent', toch werken ze allemaal met data, met gegevens die ofwel opgeslagen werden of in een door computers leesbare vorm voorradig zijn, ofwel door computers automatisch uit andere data kunnen geabstraheerd worden. Dit technisch manco is het begin van een duivelse kringloop die volgens Joe Weizenbaum hierin zal resulteren, dat computers de geschiedenis zonder meer vernietigen.

'Immers, als een samenleving uitsluitend die 'data' erkent, welke in 'gestandaardiseerde vorm' voorradig zijn en dus gemakkelijk 'door een computer kunnen verwerkt worden', dan heeft de geschiedenis, dan heeft de herinnering gewoonweg opgehouden te bestaan'. "

En Europa investeert miljarden in de verdere ontwikkeling van de artificiële zogenaamde intelligentie. De duivelse kringloop wordt alsmaar versterkt...

Eendimensionale mens en de Vietnam-oorlog

"Niet alleen monopoliseren de controleurs van de grote databanken het weten; ook vertekenen, verminken en vervalsen ze opzettelijk of onopzettelijk die weten, want hun selectienormen worden gedicteerd door specifieke belangen en technische voorwaarden.

Joe Weizenbaum heeft mooi beschreven, hoe tijdens de Vietnamoorlog computerprogramma's zich losmaakten van de door hen gesimuleerde werkelijkheidssegmenten. (...) 'In de oorlog van de V.S. tegen Vietnam werden computers bediend door officieren die niet het minste vermoeden hadden van wat er zich in die machines afspeelde. De computers beslisten welke dorpen moesten gebombardeerd worden. De computers beslisten, in welke gebieden zich voldoende Vietcongs bevonden en of deze gebieden al dan niet in aanmerking kwamen om 'legitiem' als zones te worden beschouwd -overigens enorme geografische gebieden- waar piloten het 'recht' hadden te schieten op al wat bewoog.' (...)

Andere gevolgen van deze duivelse kringloop zijn volgens Weizenbaum: toename van de incompetentie, afhankelijkheid van de computer en verlies van verantwoordelijkheid. Weizenbaum vervolgt dan : 'De reusachtige computersystemen in het Pentagon, en hun tegenhangers elders in de beschaafde wereld, hebben nooit of nergens een auteur. Ze laten zelfs geen vragen toe over 'juist' of 'verkeerd', over 'recht' of 'onrecht'; ze zijn niet tegensprekelijk. Ze leveren geen enkel grondbeginsel van waaruit men hun 'mededelingen' zou kunnen aanvechten.' "

Bij het lezen van deze bevindingen van meer dan veertig jaar geleden lopen mij de koude rillingen over de rug en denk ik aan de oorlogsvoering in het Midden-Oosten en aan de politieke ontwikkelingen in onder anderen de V.S.

Afhankelijkheid van de computer, verlies aan verantwoordelijkheid... reeds door een onverdachte bron aangekaart. En dan moet 'iedereen digitaal' zoals dat in mooi hedendaags jargon heet... Politici vertellen er niet bij welke maatschappelijke prijs dit kost!!

;

Afscheid van NWT - Hans Helms over computers - 1 -

 

Al bladerend in het juli nummer van het NieuwWereldTijdschrift van 1984, nu ruim veertig jaar geleden, herlas ik wat Hans Helms concludeerde na acht jaar research over computergebruik en impact op de mens. Wat toen soms nog wat wazig klonk, is nu ontzettend reëel geworden en daarom is deze tekst nu actueler dan ooit. 

Hier zal ik in dit en volgende berichten via een aantal citaten zijn gedachtengang aanbrengen. 

Een tekst die nog blijft appelleren en de recente wereldtop in Parijs over Artificiële Intelligentie in een ruimer perspectief plaatst.

Kinderen zonder ervaring met computer zonder ervaring

"Kinderen en jonge mensen moeten vandaag op een vanzelfsprekende en onkritische manier leren omgaan met computers. Ze mogen en kunnen niet kiezen tussen de vrije ontplooiing van hun verstandelijke vermogens en anderzijds hun onderwerping aan de strenge, instrumentale Ratio van de computer, want zoals journaliste Pamela McCorduck schrijft 'Reeds in de nabije toekomst zal niemand op geloofwaardige wijze aanspraak kunnen maken op verstand, als hij niet grondig afhankelijk is van dit nieuwe instrument'. (...)

Zo wordt kinderen al in de lagere school via computerspelletjes bijgebracht, dat de mens niet langer moet ageren (in de zin van : rationeel handelen) maar reageren: hij moet volgens een vast denkpatroon leren reageren op vermeende feitelijke toestanden - en iedere spelbeurt versterkt het reactief gedrag van de kinderen. Nog voor het secundair onderwijs krijgen ze plezier in de uitoefening van macht over mensen en dingen, doordat ze computerprogramma's leren schrijven die anderen dwingen te reageren. Dit voor hen nieuwe machtsgevoel én hun onrijpheid beletten hen te begrijpen dat ook zij zelf alleen maar reageren op een gegeven denkpatroon.

Joe Weizenbaum, computerspecialist aan het Massachusetts Institute of Technology, een der oprichters van de Artificial Intelligence en zijn collega  Edward Feigenbaum, vergelijken zulke onrijpe computer-adepten met 'lui die het hebben klaargespeeld, zich vloeiend uit te drukken in een vreemde taal, om nadien te constateren dat ze zelf niets eigens te vertellen hebben'.

Hoe zou het ook anders kunnen? Deze kinderen en jonge mensen beschikken nog niet over ervaringen die werkelijk de hunne zijn. Hoe zouden ze iets eigens kunnen meedelen als ze niet eens een persoonlijke geschiedenis bezitten, een op subjectieve ervaringen gebaseerd levensverhaal?

Computers geven geen ervaringen door, tenzij ervaringen in het omgaan met computers."

Verlies aan voorstellingsvermogen

"Computers kunnen het menselijk handelen of het gedrag van voorwerpen nabootsen, maar zulke simulaties laten geen ervaringen achter. Zo brengen ze een afglans van de werkelijkheid teweeg, een 'kunstmatige ervaring'. De kringloop van simulaties binnen de computer - van het 'intelligente' programma dat werkelijkheid simuleert en de daaruit afgeleide pseudo-ervaring, tot een schijnbaar alles omvattende pseudowerkelijkheid - kan natuurlijk een ronduit catastrofale invloed hebben op onze maatschappelijke realiteit.

(©gezondheidsnet)

De Duitser Hans Helms laat zich inspireren in dit essay op Joe Weizenbaum (1923-2008) die op dertienjarige leeftijd met zijn ouders vlucht uit nazi-Duitsland omwille van de vervolging van de Joodse mensen. Deze achtergrond werpt daarom een bijzonder licht op volgende tekstpassage van Helms in NWT.

"Wie tot nietsdoen wordt gedwongen, wie buiten het sociale systeem wordt gesloten zonder de hoop daar ooit opnieuw een functie te vinden, verliest geleidelijk het vermogen tot denken: hij verliest een groot deel van zijn voorstellingsvermogen, zijn verbeelding: volledig herleid tot hier-en-nu-denken, kan hij moeiteloos worden ingeschakeld in om het even welke antisociale onderneming. Na 1933 waren het precies de emotioneel totaal afgestompte langdurige werklozen, die de meest afschuwelijke beulsknechten werden van de SS. Hun verlies aan verbeelding, hun onvermogen tot medelijden, hun onvermogen zich het lijden van anderen zelfs maar voor te stellen, verklaren hun systematische folterpraktijken en hun vernielingswerk in de concentratiekampen.

(...) 

Iedereen die omgaat met computers, of gedwongen is te functioneren in een door computers gedirigeerde omgeving, doet dit ten koste van zijn fantasie -tenzij hij of zij behoort tot de weinigen die werkelijk weten hoe een computer zijn ins omzet in outs. Want Joe Weizenbaum heeft aangetoond dat men heel gemakkelijk computerprogramma's kan schrijven zonder te weten hoe een computer functioneert."

Helms noemt dit een versmalling en een verschrompeling van de persoonlijkheid die vaak asociaal gedrag doet toenemen en dikwijls een vorm van dwangneurotisch gedrag genereert. Wie denkt bij deze passage niet aan de USA anno nu en het succes van Trump in de voorbije presidentsverkiezingen en aan de groeiende populariteit van populisten...