Het kwam mooi bij elkaar afgelopen week: op zaterdag in het AD een pleidooi van filosoof Kathleen Gabriels om ICT’ers les te geven in ethiek waarbij deep fakes als voorbeeld werden genoemd, zondag bij Lubach een item over de gevaren van “deep fakes” en op woensdag een initiatiefvoorstel van CDA en Groenlinks om “nudefakes” te verbieden. Deep fakes houden de gemoederen bezig. En terecht, want de gevaren zijn evident!
Wat zijn deep fakes?
Op mediawijsheid.nl vond ik de volgende treffende omschrijving: “De naam deepfake is een combinatie van de woorden deep learning en fake (nep). Deep learning is een techniek die valt onder kunstmatige intelligentie. Het zorgt ervoor dat computers nieuwe dingen kunnen leren op basis van grote hoeveelheden data. Het maakt dan niet uit of die data bestaan uit getallen, tekst, geluid of beeld. Deepfake-software zet dus kunstmatige intelligentie in om nepvideo’s te maken die echt lijken”.
Wat is het gevaar?
Daar waar je vroeger dure software nodig had en het manipuleren van beelden was voorbehouden aan experts, download je nu simpelweg een app op je smartphone waarmee dit soort dingen kan.
Natuurlijk zijn er allerlei grappige toepassingen denkbaar zoals in onderstaand fragment waar mister Bean de gedaante van Trump aanneemt (of is het andersom).
Maar we zien ook al hele vervelende voorbeelden. Bijvoorbeeld in de vorm van de nudefakes waar CDA en Groenlinks afgelopen week tegen ageerden. Zo verschenen er recent ineens pornofilms met Dionne Stax in de hoofdrol. Eerst werd nog gedacht dat misschien haar dropbox-account gehacked was, maar al snel bleek het te gaan om deep fakes. Hoewel Dionne’s reputatie daarmee gered was, was het toch een zeer vervelende ervaring voor haar en de misleidende filmpjes zijn nog steeds overal terug te vinden.
Waarom verbieden?
In bovenstaand filmpje is overduidelijk dat het om een deep fake gaat. Maar wat als er een deep fake van Donald Trump als zichzelf op Twitter verschijnt waarin hij aangeeft dat hij de uitkomst van de verkiezingen niet accepteert en zijn aanhangers oproept in verzet te komen? Voordat je het weet zijn er gewapende republikeinen op weg naar Washington.
En misschien dat het nu niet gebeurt bij de verkiezingen in Amerika, maar wie zegt niet dat dit scenario zich over enkele jaren afspeelt bij verkiezingen in bijvoorbeeld Rwanda of een ander kruitvat?
Levensgevaarlijk, deze techniek, die steeds verfijnder en laagdrempeliger wordt. Het wordt steeds moeilijker echt van nep te onderscheiden. Waardoor individuen, hele bevolkingsgroepen of hele naties beschadigd kunnen raken.
Terwijl er volgens mij geen enkel potentieel nut tegenover staat (behalve dat je er veel lol mee kunt hebben). Waarmee dit specifieke toepassingsgebied zich wat mij betreft in negatieve zin onderscheid van andere toepassingsgebieden van kunstmatige intelligentie, die vaak wel potentieel nuttig kunnen zijn (denk aan zelf rijdende auto’s die ervoor kunnen zorgen dat er straks minder verkeersslachtoffers zijn).
Daarom zeg ik: niet alleen het produceren van nudefakes strafbaar maken maar überhaubt de software waarmee dit soort filmpjes geproduceerd kunnen worden verbieden. En dan heb ik het niet over de onschuldige toepassingen waarmee je zoals in Snapchat jezelf kunt versieren met een bijvoorbeeld een snorretje en een bril, maar wel de gevanceerde toepassingen die ertoe kunnen leiden dat echt niet meer van vals te onderscheiden is.
En inderdaad zoals Kathleen Gabriels bepleit alle ICT’ers verplicht een cursus ethiek laten volgen.
De politiek kennende zal het nog wel even duren voor deze maatregelen zijn doorgevoerd en effect sorteren. Neem tot die tijd onderstaande boodschap van Barack Obama in acht!
Auteur: Bert van de Bovenkamp
