AI impersonificaties: pesten tot de vijfde macht

“Er zijn er heel wat die zich niets laten gezeggen, praatjesmakers die anderen het hoofd op hol brengen … Men moet hun de mond snoeren: zij richten hele families te gronde door uit winstbejag onfatsoenlijke dingen te onderwijzen. … U moet hen daarom scherp terechtwijzen … Voor hen die besmet en onbetrouwbaar zijn, is niets rein, want ook hun verstand en geweten is bedorven … Ook de onzen moeten leren ijverig goede werken te verrichten.”

Uit de brief van Paulus aan Titus, eerste eeuw na Christus

Geactualiseerd op 25 oktober 2023

Een nieuw verschijnsel heeft intrede gedaan in de technologie: om iemand na te maken op een afbeelding of in een geluidsopname heb je geen acteurs meer nodig. Ook hoef je iemands gezicht niet meer te monteren in een foto waar eigenlijk iemand anders op staat. Je geeft simpelweg AI de juiste opdrachten (“prompts”) en voilà, klusje geklaard.

AI

AI betekent artificial intelligence, het vermogen van de computer onze vragen te beantwoorden en opdrachten uit te voeren, door een combinatie van contextherkenning, toegang tot gegevensbronnen, zoekvermogen, taalbeheersing en het vermogen tot visuele vormgeving en klank. Dit rijtje zal later in de tijd nog verder aangevuld kunnen worden.

Impersonificatie

Impersonificatie betekent klonen: het fabriceren van een voorstelling, afbeelding of weergave van een persoon alsof het die persoon is. Deepfake dus.

Het is niet impersonatie, want dan speel je zelf een rol als die persoon. Het is ook niet personificatie, want dan breng je iets tot leven alsof het een persoon is (bv Vadertje Staat).

Impersonificatie dus, of klonen, of deepfake. Maar hoe doe je dat? Vraag je toestemming aan die persoon of niet? Doe je het waarheidsgetrouw of niet? Doe je het met een goed doel of een kwaad doel? Wil je die persoon helpen (als dat te goeder trouw al kan) of schade berokkenen? Wil je onschuldig entertainen of ben je, door heimelijk of openlijk kwade opzet, aan het frauderen? Of heb je oogkleppen op voor de gevolgen voor die persoon? Het kan allemaal, maar is niet allemaal goed.

Weliswaar is het weergeven van echt bestaande personen met AI nu nog niet helemaal mogelijk voor consumenten van AI, maar de producenten zijn dit wel aan het ontwikkelen. In hun onderlinge concurrentiestrijd zullen zij niet kunnen wachten met deze opties naar het publiek te brengen. Wie het eerst komt, heeft de meeste kans er veel geld mee te verdienen.

Over onze rug

Geld dat dan verdiend wordt, gaat over de rug van mensen die met AI gekloond worden, potentieel wij allemaal. En dan hebben we het nog niet gehad over de overmatige hoeveelheden energie en koelwater die deze technologieën nodig hebben. Maar de producenten van AI nemen, als zij impersonificatie bij het grote publiek gaan brengen, op de koop toe dat hun impersonificatie-technologie ook kan worden gebruikt om mensen, bedrijven, instellingen en overheden valselijk af te beelden, zonder dat deze mensen, bedrijven, instellingen en overheden dat weten of hun toestemming daarvoor hebben gegeven.

We weten nu al wie bij deze technologie baat zullen hebben. Denk aan de politiek, waar velen al lang niet meer de gentleman/lady-standaard hanteren. Denk aan afzetters en uitbuiters, die iedereen wel zouden willen compromitteren voor geld. Denk aan misdadigers die zo anderen van hun daden zullen proberen te beschuldigen. En denk aan lobbyisten, die hun opponenten wel heel raar kunnen gaan weergeven en zo de publieke opinie bespelen. En dat alles veel makkelijker dan voorheen.

De voorgeschiedenis

De afgelopen jaren hebben we gezien hoe hackers bedrijfsnetwerken kraakten en voor veel geld de betreffende gegevens en toegangen weer vrijgaven. Ook hebben we gezien hoe volwassenen (meestal mannen) jongeren overhaalden plaatjes met de edele delen van hun lichaam vrij te geven. De ellende voor deze jongeren naderhand is niet te beschrijven en in sommige gevallen ook dodelijk gebleken. We hebben ook gezien hoe er karaktermoord op politici en andere bekende mensen wordt gepleegd. Deze mensen worden vals afgebeeld, krijgen leugens in de mond geduwd en hele volksstammen worden over hen voorgelogen. Ook belachelijk maken, zoals door memes, hoort bij deze kwalijke praktijken.

Waar we met AI impersonificaties naartoe gaan, is dat iedereen deze ellende te wachten staat, omdat van willekeurig wie plaatjes van het internet te halen zijn en gebruikt in andere afbeeldingen. En van willekeurig wie de stem nagemaakt kan worden, zoals onlangs uit het volgende voorval bleek.

Stephen Fry

Van Stephen Fry, bekend Brits acteur en verteller van de audioboeken van Harry Potter in het Engels, is onlangs de stem gestolen. Dat wil zeggen gebruikt uit die audio’s en gekneed naar dingen die hij nooit heeft gezegd, zonder zijn medeweten, laat staan toestemming. Dit is illegaal, een deepfake audio, maar een helse klus om te achterhalen wie daar achter zit. Fry waarschuwt dat deepfake audio dus nu al mogelijk is en hij denkt dat het qua deepfake video niet veel tijd meer kost voor die technologie bereikbaar voor ons is.

Het recht

Impersonificatie of klonen zonder toestemming van de gekloonde persoon roept vragen op over inbreuk op het exclusieve recht van gebruik van de eigen stem en het exclusieve portretrecht van personen. Dit zijn rechten die Hugo de Groot ‘natuurrecht’ zou noemen. Ze zouden universeel moeten worden vastgelegd om ze te kunnen beschermen. In het tijdperk van radio, tv en krant en ook nog sociale media vonden we het nog niet erg, maar juist leuk in de media te verschijnen. Maar nu wordt het menens. Het wordt tijd dat men eerst netjes aan ons komt vragen, of men ons uiterlijk of onze stem mag gebruiken, waarvoor precies en tegen hoeveel geld en hoe de exclusiviteit van die toestemming is geborgd. Het portretrecht is in Nederland geregeld in de Auteurswet. Het wordt tijd dat deze wet wordt uitgebreid met het oog op AI deepfakes, ook van de stem.

Pesten tot de vijfde macht

Denk eens aan openbare beroepen als leraar, politicus, advocaat, rechter, tv-persoonlijkheid, etc etc. Van al deze mensen kun je heimelijk de stem opnemen en over enige tijd kan iedereen die stem kneden naar elke verwrongen zin die in een slechte geest maar kan opkomen.

Het zal een criminele massa-industrie worden, waarbij geen enkel bedrijf, geen enkele overheid en geen enkel individu ontkomt aan intimidatie door impersonificatie. Pesten tot de vijfde macht.

Ons gevoel van ‘samen’

Te verwachten is, dat de meerderheid het na verloop van tijd (en na verloop van vele kapotte levens) zal doorzien en niet zomaar geloof meer hecht aan opnames. Maar waar we nog wel geloof aan kunnen hechten wordt dan onzeker. Journalisten, acteurs en actrices en alle openbare beroepen die hiervoor genoemd zijn, gaan dan een moeilijke tijd tegemoet. Hun gezag zal meer ondermijnd worden dan we tot nu toe gezien hebben. Hun werkmogelijkheden worden wellicht ook beperkter. Dit tast uiteindelijk ons gevoel van ‘samen’ aan en brengt voor grote groepen in de samenleving bestaansonzekerheid met zich mee.

Vergelijking met de wapenindustrie

De AI industrie dendert wel door. Tenzij wij er iets aan doen. Kunnen wij er iets aan doen?

Dat we dat moeten willen, is uit het voorgaande wel gebleken.

Maar wat dan?

We zouden een vergelijking met de wapenindustrie kunnen maken. Wapens zijn dodelijk, kwalijke impersonificaties ook.

Wapens zijn in de VS vrij verhandelbaar onder burgers, in Canada en Europa niet.

Wapens veroorzaken veel meer doden in de VS dan bij ons.

Bij ons is het uitoefenen van macht, zo nodig via ‘de sterke arm’, overgedragen aan de staat. Deze gewapende macht wordt gecontroleerd door wet- en regelgeving, dus door het door ons gekozen parlement. Leger en politie zijn gecontroleerde uitvoeringsinstanties. In de VS is deze macht van de sterke arm, door een verkeerde interpretatie van de geschiedenis van een amendement op de Amerikaanse grondwet, zowel bij de overheid terechtgekomen als bij de individuele burger gebleven. Dan vraag je om problemen en die zijn daar ook.

Het is zaak die Amerikaanse fout niet naar Canada en Europa te importeren.

Nieuwe wetgeving over AI

Wat hebben we hieraan voor AI impersonificaties?

Je kunt de AI industrie niet afstoppen, maar wel reguleren. De staat bepaalt aan wie en hoe de technologie wordt vrijgegeven. Handel wordt gereguleerd en gecontroleerd. Ik heb begrepen dat de EU hier al mee bezig is. Er is een Europese AI-verordening in voorbereiding, die de goede toepassingen van AI gaat bevorderen en tegelijk burgers in Europa gaat beschermen. Bij dat laatste gaat het om veiligheid, transparantie en traceerbaarheid. Ik ben daar heel blij mee. Ik vraag me wel af in hoeverre de nieuwe ontwikkelingen met betrekking tot AI impersonificatie en het beschermen van het portretrecht en het recht op het vastleggen van de eigen stem daarin meegenomen worden. Er is haast bij.

Het Amerikaanse Copyright Office (zeg het Auteursrechtbureau aldaar) gaf in maart 2023 een eerste leidraad voor Amerikaanse wetgeving over AI: op werk dat vooral uit mechanische reproductie door AI bestaat is geen auteursrecht/copyright mogelijk. Op werk dat, hoewel met behulp van AI tot stand gekomen, vooral menselijk denken, menselijk doen en menselijke verwoording, namelijk dat van de maker reflecteert, is wel auteursrecht/copyright mogelijk, mits de maker aangeeft dat en hoe AI bij de totstandkoming is gebruikt.

Voor in Nederland nog te maken wetgeving tegen klonen zouden we deze redenering verder kunnen doorvoeren: gebruik van AI voor klonen is daarin strafbaar, tenzij met uitdrukkelijke toestemming en op uitdrukkelijke voorwaarden van de eigenaar van de fysieke kenmerken zoals gezicht, houding, mimiek, stijl en stem. Behalve straf voor de dader kan de gedupeerde ook schadeloosstelling vragen.

De lijn die hierin zit, is dat een deepfake zowel een creatie/werk, als een mens, als een nieuwsfeit, als een wetenschappelijk gegeven, als een gebeurtenis of manifestatie kan betreffen en dat we elkaar niet meer voor de gek houden met AI. Doe je dit wel, dan ben je met die nieuwe wetgeving strafbaar, moet je schadeloosstelling betalen en kom je ook niet in aanmerking voor auteursrechten/copyright.

Het zou goed zijn als er ook bevolkingsonderwijs over het gebruik van AI zou worden opgezet: niet zozeer de weetjes en handigheidjes, maar zaken als:

hoe pas ik AI toe op een goede manier?
wat is het verschil tussen klonen en persifleren?
hoe herken ik of iets echt is of deepfake?
hoe ga ik online goed met anderen om?

Origineel werk

Wat ons betreft: het meest origineel en geloofwaardig blijf je als dat wat je verwoordt en verbeeldt van binnenuit komt en niet uit een potje of bitje. Dus mijn advies is: niet knippen, plakken en manipuleren. Ook zoekmachines waarderen origineel werk, en terecht. Blijf jezelf ontwikkelen in de goede zin. Lees over technologie, filosofie, geschiedenis, zingeving en sociale opbouw. Geniet van de natuur en help die waar je kunt. Luister naar mooie muziek of maak deze zelf en maak de mensen om je heen blij. Zorg goed voor jezelf en je naasten. Zoek gewetensvolle oplossingen voor problemen. Grote kans dat je dan echt iets te zeggen hebt.

‘Brave New World’

In 1961 werd Aldous Huxley, de schrijver van het wereldberoemde ‘Brave New World’, een sci-fi roman uit 1931, geïnterviewd door de BBC (te vinden in het BBC archief). En hij zei dit: