Technologie: de hedendaagse magiër

Rianne Zijderveld

Van de meest alledaagse feiten tot ongelooflijke verhalen: met taal kunnen we de werkelijkheid benoemen en tot de verbeelding spreken. En ook het hogere, bovennatuurlijke en goddelijke laat zich volgens velen het beste via taal benaderen. Toch vindt dat alles plaats binnen het ingekaderde veld van conventioneel taalgebruik vol regels, gewoonten en patronen. ‘Woorden schieten te kort’ gebruiken we vaak als cliché om te bevestigen dat ons taalgebruik ons belemmert. Zorgt de belemmering van de taal niet ook voor een beperkte blik op de werkelijkheid? Hoe gaan wij onze eigen verbeelding voorbij? En welke verborgen domeinen openbaren zich als we de taal bevrijden van onze vaste kaders? Om het onuitspreekbare te ontdekken, moeten we de taal anders benaderen. Deze tekst is een verkenning van technologie als hedendaagse magiër: aan de hand van diverse kunstprojecten bespreek ik hoe de moderne technologie kan worden toegepast om onze taal open te breken en zo de magie toe te laten.

Woordassociatie
Een illustratie van een zwart-wit spook met kronkelende armen, een duif tegen een hemel waar de zon tussen de wolken tevoorschijn komt, of een dansend persoon verkleed als spook met bril, nep neus en snor. Een van deze gif-bestandjes moet het woord “spirit” vervangen bij het online werk Shifting Language (2017/2018) van Oana Clitan. De website toont een witte pagina met de zin: “Afterward, they’d got Rudy’s foreman to let him off and, in a boisterous, whimsical spirit of industrial democracy they’d taken him across the street for a beer.” Het is een zin uit Player Piano, Kurt Vonneguts roman uit 1952 over arbeiders die worden vervangen door machines. Een aantal (cruciale) woorden uit deze zin – zoals spirit – kunnen door de bezoeker van de pagina vervangen worden door afbeeldingen en gifs van het internet die met dat woord gekoppeld worden door zoekmachines. Het laat ons een glimp zien van de technologische omgang met taal, en hoe die van de onze verschilt. Artificiële intelligentie (AI) ‘begrijpt’ de zin niet, maar benadert hem als losse reeks woorden die verbonden worden aan een netwerk van beelden met hetzelfde label. Het contextueel “incorrect” interpreteren van de woorden zorgt ervoor dat de taal wordt opengebroken. Het verandert woord voor woord de hele zin.

Machinaal denken
Studio RDNR bevraagt met het werk READ/WRITE/REWRITE (2017) de taalbenadering van AI en poogt te visualiseren hoe het de verkregen informatie deelt, ordent en verwerkt. De interactieve installatie – getoond tijdens Typojanchi #05, de typografie biënnale in Seoel – bestaat uit een kubus met aan vier zijden een scherm. Het laat op verschillende manieren zien hoe een gecodeerd taalmodel zoekt naar overeenkomsten en onderlinge relaties tussen woorden. Zo wordt een neuraal netwerk getraind om geblindeerde woorden te raden, en doet dit op basis van een grote database met teksten. De computer vertaalt deze teksten naar eindeloze nummerreeksen waarin patronen worden herkend. Wanneer het neurale netwerk het geblindeerde woord niet correct kan raden, werkt het de representatie van alle woorden in het fragment bij, zodat de kans groter is dat het woord met succes geraden wordt. Gaandeweg ordenen alle woordpunten zich, wat resulteert in een soort landschap van woorden waarin woorden met vergelijkbare semantische eigenschappen dicht bij elkaar staan. 

Als niemand in de buurt is “werkt” de installatie van studio RDNR aan ​de​ ​woorddata en raakt het systeem steeds verfijnder. Maar zodra een bezoeker het werk nadert, wordt dit landschap zichtbaar gemaakt op de vier schermen, elk met een eigen invalshoek. De bezoeker kan op deze modellen inzoomen door dichter bij de kubus te komen, waardoor de connecties die gelegd zijn tussen woorden zichtbaar worden.​

De installatie geeft de illusie dat wij volledig kunnen begrijpen wat er in de neurale netwerken van de AI afspeelt. Sterker nog, het lijkt alsof wij in controle zijn. Een gevoel dat door het effect van de fysieke menselijke aanwezigheid op de installatie enkel vergroot wordt. Niets is minder waar. We hebben nog vele vragen over hoe artificiële intelligenties onze wereld zien of begrijpen, waardoor de gevolgen van deze technologische processen ons verrast. Zodra we de taal aan AI toevertrouwen en algoritmen zich mengen in onze dialoog wordt duidelijk hoe onvoorspelbaar de uitkomsten zijn. We vangen een glimp op van speculatieve parallelle werelden vol angstaanjagende mutaties waarin we schimmen van onszelf terugzien.

Menselijke input
In 2016 introduceerde Microsoft de twitterbot Tay: een experiment in ‘conversationeel begrip’, aldus het bedrijf. Microsoft riep twitteraars op met Tay in gesprek te gaan, om deze op een “speelse en casual” manier slimmer te maken. Deze gesprekken bleven niet lang speels. Vrij snel nadat Tay was gelanceerd, begonnen mensen de bot te tweeten met allerlei vrouwonvriendelijke, racistische en trumpiaanse opmerkingen. De twitterbot werd binnen een dag weer verwijderd in verband met de vele ongepaste opmerkingen die het dankzij zijn “voeding” maakte. 

Algoritmen zijn niet neutraal en onafhankelijk van degene die ze maakt en voedt. Wat voor wereldbeeld wordt uitvergroot door de algoritmen? Door onze input te weerspiegelen toonde de interactie met Tay ons wellicht meer van onszelf dan we willen accepteren. Soms is voor het openbreken van de taal niet meer nodig dan een pijnlijke herhaling. Zijn we bezig (onbewust) een magiër van het duistere soort te maken?

Niet-menselijke perspectieven
Volgens kunstenaar Tivon Rice schuilt er vooral een gevaar in de technologie wanneer deze wordt gezien als de ‘intelligente’ redder in nood. Rice beweert dat de dominante technologische systemen de fundamentele inzichten missen om op een inclusieve manier op te treden tegen de complexiteit van ecologische, sociale en milieukwesties. Kwesties waar onze technologie – en met name AI – al jaren voor wordt ingezet, bijvoorbeeld door op planetaire schaal landschappen te detecteren, analyseren en beheren. Rice beweert dat juist de fantasierijke en artistieke mogelijkheden voor het creëren van niet-menselijke perspectieven met AI over het hoofd worden gezien. Met het langlopende project Models For Environmental Literacy (2020) onderzoekt hij op speculatieve wijze hoe verschillende AI’s een andere interpretatie van een omgeving kunnen geven. Voor hetzelfde scenario werden drie verschillende AI’s getraind, elk gevoed met 500.000 woorden. De Scientist kreeg wetenschappelijke milieurapporten voorgeschoteld, de Philosopher stukken over ecofilosofie en de Author eco-fictie. Hierdoor kregen de drie AI’s elk hun eigen persoonlijkheid. Rice brengt ze samen voor een reeks gesprekken.

[…]

AUTHOR: Tell me what you see…

SCIENTIST: I see here: map 3.21. Showing the changes and characteristics of European eco-systems caused by climate change. 

AUTHOR: In order to survive in a new environment, the recognition of these changes will be the first milestone on the road to the realization of the other.

PHILOSOPHER: Does othering the other, also mean separating care for nature from a commitment to promoting other forms of environmentality? Are care for nature and greed two sides of the same coin?

[…]

De werkwijze van Rice zorgt voor het ontstaan van drie losse entiteiten, met ieder een eigen referentiekader en gebruik van taal. Het leidt tot onmenselijk eenzijdige perspectieven die het onderwerp zonder inmenging van emotie benaderen. De dialoog voelt hierdoor eerder als een meerstemmig monoloog. Een opeenstapeling van talige spreuken vol feiten en fictie dat onze werkelijkheid manipuleert tot een leefomgeving die onze realiteit raakt maar niet omschrijft. 

De machine of de mens
Katarina Petrović toont ons het verschil van taalbehandeling door mensen en machines. Haar werk is een artistiek en filosofisch onderzoek naar creatie en kosmogonie: het onderzoek naar de ultieme oorsprong van de kosmos, en de opkomst van iets uit niets. Deze oorsprong is onbeschrijfbaar, deels vanwege de beperkingen van onze taal als een verzameling vaste bestaande symbolen. Door wiskundige theorieën toe te passen kan taal recursief een oneindig aantal uitdrukkingen genereren en zo nieuwe betekenissen creëren.

Een voorbeeld van oneindige generativiteit in taal is gebaseerd op negatie, ofwel het formuleren van ontkenningen of tegenstellingen. Hoewel een eenvoudig concept, zowel vanuit linguïstisch als filosofisch oogpunt, is negatie een zeer creatieve daad. Eentje waar machines, zo blijkt uit haar onderzoek, niet zo goed in zijn. In het tweedelige werk Negative Poetry (2021) experimenteert Petrović met algoritmen die negaties van gegeven teksten mogelijk maken. Het ene deel, Human Algorithm, is een online performance die een brug slaat tussen collectief denken, theater en complexiteitswetenschap. Een gezelschap van kunstenaars, schrijvers, theatermakers en wetenschappers – negen in totaal – gaat opdrachtmatig aan de slag het ​​gedicht FACT van Rae Armantrout woord voor woord te ontleden en om te zetten in zijn negatieve vorm. De computer van mensen genereert zo een potentieel oneindige combinatorische polyfonie van mogelijkheden. Het andere deel, Machine Algorithm, is een op maat gemaakte software die de Bijbel in negatief vertaalt met behulp van de database van de Oxford English Dictionary. Deze eerste versie is ontworpen om op drie niveaus naar antoniemen te zoeken. Het eerste niveau zijn directe antoniemen van het woord. Indien geen antoniem wordt gevonden, zoekt de machine naar synoniemen en voor elk daarvan hun antoniemen. 

Het werk toont de feitelijke benadering van de machine, voor de mens is het lastig niet direct verbanden te leggen tussen de woorden op zins- of tekstniveau. Wij zijn geneigd deze “kloppend” te maken. De benadering van de menselijke algoritme van Petrović toont ons dat ook wij, door de feitelijke benadering van de AI’s toe te passen, in staat zijn om ons taalsysteem te doorbreken en zo onze werkelijkheid te bevragen. 

De beschreven (kunst)projecten zijn allen met hetzelfde gevoed: de menselijke taal. Ze gebruiken algoritmen die woorden contextueel “incorrect” interpreteren, de dialoog met elkaar voeren en tekst herhalen tot er confronterende spiegels worden gevormd. We denken de technologie te beheersen en hem in ons voordeel te kunnen gebruiken. Maar het openbreken van de taal door middel van de technologie legt werkelijkheden bloot die wij niet volledig begrijpen. Nieuwsgierig blijven we roeren in dit magische brouwsel, maar zijn we bedacht op de duistere visioenen die eruit kunnen ontsnappen?

Rianne Zijderveld is werkzaam als curator, redacteur en uitgever van tentoonstellingen in boekvorm en heeft een bijzondere interesse in kunstenaars die taal onderzoeken als instrument en construct.