Waar trekken we de streep? De ingewikkelde regelgeving achter het gebruik van AI

Waarom is regelgeving nodig voor AI?

AI is geen nieuwe ontwikkeling, maar in het afgelopen jaar zijn de ontwikkelingen wel in een stroomversnelling gekomen. OpenAI brak verschillende records met 1 miljoen gebruikers binnen 5 dagen, 1 miljard visits per maand en meer dan 100 miljoen gebruikers. Dit is slechts één voorbeeld maar de markt groeit heel erg hard met een huidige marktwaarde van 190 miljard en een geprojecteerde marktwaarde voor 2030 van ongeveer 1800 miljard.

Welk risico vormt deze snelle ontwikkeling?

Doordat de ontwikkeling zo snel gaat binnen de AI markt, kunnen wetmakers het tempo niet bijhouden waardoor veel gevaren zich voor kunnen doen. Ik zal een aantal voorbeelden schetsen:

Stel: AI wordt slimmer dan de mens? Films zoals Ex Machina hebben al doom scenario’s geschetst over wat er zou gebeuren als AI slimmer wordt dan de mens. Dan denk je waarschijnlijk: “Dat is een Sci-Fi film en geen realiteit, we zijn totaal niet dichtbij het punt dat mensen dommer zijn dan AI.” Of is dat onze ego die dat zegt omdat we het ons niet voor willen stellen? Als we naar ontwikkelingen zoals ChatGPT kijken, dachten we van tevoren ook niet dat dit al mogelijk was op het niveau dat ChatGPT presteert.

Er is een AI tool die op de radar van de EU verscheen die CV’s kon scannen en op basis daarvan kon beoordelen of de persoon van wie het CV was geschikt is voor de baan waar hij/zij op heeft gesolliciteerd. Het leunen op zo’n AI tool brengt zo zijn risico’s met zich mee, bijvoorbeeld als het algoritme per ongeluk getraind wordt om alleen mannen met een witte huidskleur, blond haar en blauwe ogen aan te nemen, omdat alle vorige geschikte kandidaten toevallig deze eigenschappen hadden. Stel dat deze tool alleen naar competenties zou kijken, dan vormt het een stuk minder risico, maar dan moet de regelgeving daarvoor wel bestaan en dit is nog niet het geval.

Hallucinaties en foute informatie

Als je ChatGPT wel eens gebruikt hebt dan weet je vast wel dat het taalmodel zo nu en dan “hallucinaties” heeft. Deze hallucinaties zijn stukken informatie dat ChatGPT volledig zelf verzint, zo komt er ook een hoop misleidende/foute informatie naar boven drijven. Als mensen niet aangeven dat deze informatie niet klopt of misleidend is, dan denkt het algoritme dat de informatie juist is, waardoor deze informatie vaker getoond gaat worden aan andere gebruikers. Klinkt dit bekend? Propaganda werkt exact zo, mensen misleidende/foute informatie voeren totdat ze er zelf in gaan geloven, dus zouden bewust geïmplementeerde hallucinaties in een programma zoals ChatGPT heel erg gevaarlijk kunnen zijn, maar zelfs de normale hallucinaties zijn risico’s voor de gebruikers als foute informatie als juist wordt gezien door het algoritme.

Voorbereid zijn voor al deze risico’s is iets wat zonder twijfel in het voordeel werkt voor iedereen die dit soort tools gebruikt. Je zou bijvoorbeeld ook niet bungeejumpen zonder dat je weet of het een elastisch touw of een normaal touw is waar je aan gaat hangen. Het is onverstandig om bepaalde dingen te gaan doen zonder dat je weet wat alle risico’s zijn van het ondernemen van deze actie

De Europese AI act

Het Europees Parlement heeft nu een voorstel gemaakt om de Europese AI Act in te voeren, een wetsvoorstel dat richtlijnen zal geven in hoe risicovol bepaalde AI is voor de mensheid en hoe streng daar dan op gelet gaat worden. De Europese AI Act heeft de volgende structuur tot stand gebracht: de AI systemen zijn opgedeeld in 4 verschillende groepen op basis van risiconiveau. Bovenaan staat de “unacceptable risk” categorie, daar staan alle AI systemen die verboden worden/zijn. Hieronder valt bijvoorbeeld AI gestuurd speelgoed dat kinderen zou kunnen manipuleren tot wangedrag. De “high risk” categorie is net legaal, maar alleen met de juiste checks en certificeringen. Dit gaat dan vaak om systemen in de medische sector, rechtsbedrijf en kritische infrastructuur. Vervolgens hebben we de “Limited risk” categorie waar de bedrijven achter de AI systemen volledige transparantie moeten geven in het gebruik van het systeem, het gebruik van de data dat het systeem verzamelt en transparantie naar de gebruikers door middel van een label dat het systeem dat ze gebruiken een geautomatiseerd systeem is. Als laatste heb je de “Minimal risk” categorie, deze categorie wordt gehandhaafd door een gedragscode. Deze code geldt bijvoorbeeld voor video games die gebruik maken van AI.

Grip op de situatie

Dit voorstel is de eerste slag om grip te krijgen op AI systemen en het gebruik daarvan. Wat precies in de wet komt te staan is op het moment van schrijven nog niet geheel duidelijk. Overigens zullen deze richtlijnen wel fundering bieden om de snel ontwikkelende systemen rechtvaardig te handhaven, hierdoor bevinden de meeste AI systemen zich niet meer in een “grijs gebied”. Maar er zijn uitzonderingen.

Casestudy: Midjourney

Wat is Midjourney?

Midjourney is een AI Text-to-Image generator. Wat is dat dan precies? Gebruikers kunnen tekst invoeren in een tekstbox (staat ook bekend als een prompt), bijvoorbeeld: “Full HD rode wolf in een bos” en dan vormt het AI model van Midjourney een afbeelding met een rode wolf in een bos in Full HD. Zo kun je als gebruiker van alles verzinnen en Midjourney maakt er een afbeelding van. 

Midjourney geeft je ook de optie om meerdere afbeeldingen te laten genereren voor dezelfde “prompt”, dan creëert Midjourney meerdere variaties van hoe je prompt er als afbeelding uit zou zien.

Waar mag het voor gebruikt worden en waar wordt het voor gebruikt?

In de Algemene voorwaarden van Midjourney staat dat elke gebruiker die heeft betaald voor het programma de eigenaarsrechten krijgt van de door hem of haar gecreëerde afbeeldingen. Eigenaarsrechten betekent dat je de afbeeldingen zowel voor persoonlijk als voor commercieel gebruik mag gebruiken, dus ook voor al jouw marketingdoeleinden. 

Er is alleen wel één kanttekening voor bedrijven met een jaarlijkse omzet boven 1 miljoen dollar, deze organisaties moeten het “Corporate” pakket aanschaffen om de commerciële rechten te behouden.

Gebruikers hebben veel verschillende manieren verzonnen om Midjourney hun sterke AI model tot zijn uiterste te laten gaan: het maken van een beeldroman, het creëren van een animated-short-film of het maken van volledige levels voor een videogame. Je kan het zo gek niet verzinnen of het is wel gedaan met Midjourney en we kunnen er vanuit gaan dat nog lang niet alles gedaan is wat mogelijk is met dit programma.

Marketeers gebruiken Midjourney bijvoorbeeld voor hun ad creatives, branding of elementen voor op websites. De processen die Midjourney op basis van AI kan oplossen zouden zonder een Text-to-Image model uren langer kosten. Als marketeer kan je dus een stuk efficiënter worden door Midjourney te gebruiken waardoor je meer waarde kan bieden binnen jouw werktijden, daar wordt je baas weer blij van. 

Waarom is er kritiek op Midjourney?

Om te begrijpen waar de kritiek op Midjourney vandaan komt, moet je weten hoe Midjourney zijn afbeeldingen genereert. Zoals eerder gezegd is Midjourney een programma dat werkt op basis van AI, dit AI model is getraind om op basis van bestaande digitale afbeeldingen nieuwe afbeeldingen te maken. Zo verzamelt Midjourney meerdere afbeeldingen die aan delen van jouw prompt/beschrijving voldoen om deze vervolgens samen te smelten tot jouw nieuwe unieke afbeelding.

Het gebruik van bestaand beeldmateriaal is het grootste kritiekpunt voor digitale artiesten, het schendt volgens hen namelijk de copyright van hun eigen werken. Omdat de afbeelding van een artiest die niet gewerkt heeft met AI uiteindelijk gebruikt wordt om jouw unieke AI afbeelding te creëren, kan je je afvragen hoe uniek jouw AI afbeelding nou eigenlijk is. Op het moment van publiceren (07/09/2023) is het gebruik van AI beeldmateriaal compleet legaal ook voor commercieel gebruik zoals eerder benoemd. Maar doordat het “lenen” van digitaal beeldmateriaal om je eigen materiaal te creëren vrij grijs gebied is binnen de copyright wetten, kunnen hier ook van de een op de andere dag nieuwe regels over verschijnen om deze reguliere digitale creatievelingen in bescherming te nemen.

Is het ethisch verantwoord?

Vanuit het oogpunt van de digitale Picasso’s die zonder het gebruik van AI de mooiste beelden kunnen verwezenlijken is het gebruik van AI hetzelfde als huiswerk overschrijven. Deze kunstenaars hebben hun eigen creatieve geest en vaardigheden gebruikt om een werk te realiseren waar vaak veel tijd in gaat zitten. 

Aan de andere kant heb je mensen die AI gebruiken en het vetste resultaat kunnen creëren binnen een paar minuten. Zo hebben ze snel en makkelijk een heel goed resultaat. Maar hoe uniek is de afbeelding die ze gemaakt hebben? Dat is een vraag die wereldwijd blijft rondgaan totdat er een duidelijke lijn wordt getrokken door een groot politiek orgaan zoals de EU.

Deze brief is mede opgesteld wegens een opmerking vanuit OpenAI, de makers van ChatGPT. Zij hebben het volgende gezegd: 

“At some point, it may be important to get independent review before starting to train future systems, and for the most advanced efforts to agree to limit the rate of growth of compute used for creating new models.” 

Volgens de FLI is dit het punt waarop die groei waar OpenAI het over heeft stopgezet moet worden zoals zij zelf ook al benoemen.

Waarom zijn ze bang?

De grootste reden waarom de ontwikkeling van AI systemen zorgen baart volgens al deze grote namen binnen de tech wereld is de snelheid. Als de wetmakers de ontwikkelingen niet kunnen bijhouden, dan gaan er geheid dingen gebeuren waar we achteraf spijt van gaan krijgen, wordt er gezegd. Ze zijn niet tegen de ontwikkeling van AI maar wel tegen de snelheid waarop, blijkt uit dit uittreksel van de brief:

“Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an “AI summer” in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt. Society has hit pause on other technologies with potentially catastrophic effects on society. We can do so here. Let’s enjoy a long AI summer, not rush unprepared into a fall.”

AI kan gepaard met duidelijke wetgeving en regels heel veel voordelen hebben voor de mensheid, maar als de ontwikkeling van AI niet parallel loopt aan de regelgeving voor diezelfde systemen, dan leiden we onszelf naar een onvermijdbare ondergang. 

Conclusie

Mensen bedenken de gaafste AI systemen die vrijwel allemaal met een hele onschuldige gedachte de markt op worden gebracht, alleen brengen deze systemen ook vrijwel allemaal onverwachte risico’s met zich mee. Het probleem is alleen dat de risico’s zich zo snel ontwikkelen, dat de maatschappij het niet kan bijhouden om te zorgen dat deze AI ontwikkelingen rechtvaardig gehandhaafd kunnen worden. Wachten op regelgeving zoals de European AI Act zou dus een verstandige keuze zijn, zo kan het gros van de AI systemen goed beoordeeld worden op basis van de opgestelde risicogroepen. 

Nu staat de vraag nog steeds: “Waar trekken we de streep?”. Persoonlijk denk ik dat we het beste wat van het gas af kunnen gaan qua ontwikkelingen en wat meer gas moeten geven met de regelgeving die nu in ontwikkeling is. De voorstellen die nu gemaakt zijn door de Europese Commissie zouden een prima maatstaf moeten bieden om grip te krijgen op de dynamische wereld van AI. Ook heb ik even aan Mr. ChatGPT gevraagd wat hij over de kwestie dacht, hij had een vrij neutrale houding tegenover de kwestie, maar toch was hij het eens dat het belangrijk is dat de ontwikkelingen binnen AI gepaard gaan met aandacht voor ethische en veiligheidskwesties. Best een goede sparringpartner die ChatGPT. 

Onze online marketing specialisten staan voor je klaar!

Bekijk hier het traineeship van Leaped of neem contact op met ons om jouw mogelijkheden te bespreken. Mis jij iemand binnen jouw bedrijf die deze werkzaamheden voor je uitvoert? Neem dan contact met ons op!