Broadcast Media Society over Artificial Intelligence: Tussen hoop en vrees

Grappenmakers die denken dat dit artikel over kunstmatige intelligentie door Rinus Robot van BM is gecomponeerd op basis van slim gekozen trefwoorden, hebben het mis. Maar zo onrealistisch is dat natuurlijk niet, want praktijkvoorbeelden van brieven of zelfs scripts die waarheidsgetrouw overkomen, stapelen zich op.

Creatieve hemelbestormers denken dat AI een contentrevolutie zal ontketenen, vandaar dat veel mediamakers nieuwsgierig naar de BMS kwamen in hoeverre AI van invloed kan zijn op hun werkveld. Om die impact te duiden, is Carlo van Lienden, eigenaar FORESEE Media en kenner van synthetische en nieuwe media, de uitgelezen gastheer. Hij ging in gesprek met Daan Odijk, Data Science Manager bij RTL, Rosanne van de Leemkolk, conceptontwikkelaar Innovatie bij KRO-NCRV en Jeroen de Cloe, Chief Innovation Officer bij Talespin.

Adempauze
Tijdens zijn inleiding stipt Van Lienden de ´brandbrief´ aan van 1100 prominenten in de tech-industrie, waarin vooral Google en Open AI wordt verzocht om op de pauzeknop te drukken, zodat we kunnen nadenken wat kunstmatige intelligentie voor ons kan gaan doen. En vooral ook: wat willen we niet? “Kunnen we wetgevers, ontwikkelaars en consumenten de tijd geven om dit te adapteren. Eén ding is zeker: we leven in een tijd waarin heilige contenthuisjes omver worden getrapt.”

Van Lienden toont de Paus in een coole Balenciaga-jas. Sterk staaltje AI, maar wat als je de Paus met tatoeages van duivels toont? Juist over dat grijze gebied tussen ongelimiteerde mogelijkheden en gevaren van misbruik maken veel mensen, vooral niet-insiders, zich druk.

Leren en creëren
Van Lienden: “De vraag is relevant wat generatieve AI betekent voor ons als mediamakers en IP-houders. Is menselijke creativiteit nog nodig als computers het sneller, beter en goedkoper kunnen? En: is het eerlijk dat wij het opnemen tegen krachtiger computers die getraind zijn op miljarden datapunten? Het antwoord is natuurlijk nee. Maar wat moeten wij gaan doen? Mijn antwoord op die vraag is simpel: wij moeten exact hetzelfde gaan doen als AI, zelf leren en creëren.”

“Wij moeten exact hetzelfde gaan
doen als AI, zelf leren en creëren”

Juist op dat innovatieve terrein, het in de praktijk brengen van AI, zijn de drie BMS-gasten al actief. Om te polsen waar Daan Odijk, Rosanne van de Leemkolk en Jeroen de Cloe ‘staan’ binnen dat AI-spectrum, legt Van Lienden het trio een paar eens-oneens stellingen voor.

Generatieve AI gaat menselijke vermogens in contentcreatie evenaren of zelfs overtreffen.
Daan, Rosanne en Jeroen zijn unaniem: eens.
Carlo: “Maar wat blijft er dan over van ons creatieven?”
Daan: “Weinig.” Harde lach. “Maar ik denk dat dit de komende vijf jaar nog niet gaat gebeuren. Voorlopig zijn wij nog de creative directors.”
Jeroen: “Creatie is breed. Productie kan worden ondersteund door AI, maar het creatieve proces zal nog lange tijd, zo niet altijd, in handen van mensen blijven.”

Generatieve AI leidt tot een wereld waarin films, romans en series straks op aanvraag met een druk op de knop gecreëerd kunnen worden.
Daan: “Het werkt nog niet erg goed, dus oneens.” Rosanne en Jeroen zijn het eens.

Wie werkzaam is in de creatieve industrie en nu nog geen AI-strategie heeft, is ten dode opgeschreven.
Daan: “Oneens.”
Rosanne: “Twijfel. Je moet even bijbenen, maar dan kan het wel. Er is hoop.”
Jeroen: “Oneens.”

De werkgelegenheid in de media-industrie wordt de komende twee jaar hard geraakt door de opkomst van generatieve AI.
De mannen zijn het oneens. Rosanne wikt: “Eens en oneens. Eens omdat echt wel banen zullen verdwijnen. Tegelijkertijd worden nieuwe kansen gecreëerd omdat de creativiteit verschuift.”

Nederland moet Italië volgen, waar Chat GPT aan banden is gelegd.
Drie keer oneens.

Nieuwe toepassingen
Daan Odijk vindt dat met name Open AI erin slaagt die complexe wereld toegankelijker te maken. “Mensen snappen beter hoe ze ermee kunnen interacteren en vormen een beeld wat ze met deze technologie kunnen. Je ziet nu nieuwe toepassingen ontstaan. Denk aan de Bing-zoekmachine waarmee je chat en die voor je zoekt.”

Odijk leidt een team van acht mensen, daar komen binnenkort vijf collega´s bij in het AI-lab.
Daan: “We werken er ook al op heel wat plekken mee binnen RTL. Personalisatie van digitale platforms, maar ook het voorspellen van kijkcijfers. Automatisch ondertitelen. Onze onderzoekers gaan allerlei vragen uitwerken, zoals het maken van trailers voor programma’s.”

“We kijken naar historische data
van programma´s zodat we daarop
onze advertenties kunnen aanpassen”

Carlo van Lienden, jarenlang eindverantwoordelijk voor RTL Boulevard, bekeek elke ochtend met angst en beven kijkcijfers.
Nu gaan jullie kijkcijfers voorspellen. Hoe werkt dat precies?
Daan: “We kijken naar historische data van programma´s zodat we daarop onze advertenties kunnen aanpassen. In samenspraak met analisten. Zij zijn nog in controle, maar wij geven voorzetten hoe ze cijfers kunnen interpreteren. Een hybride vorm tussen mens en machine. De schaal ligt bij AI, maar de creativiteit en controle ligt bij mensen.”

Workshops
De angst bestaat dat AI-robots banen overnemen. Hoe neem jij collega´s mee bij die transformatie?
Daan: “Ons eerste gesprek gaat niet over het op de tocht zetten van die baan, maar wel dat we vaak veel monnikenwerk – meestal niet het meeste waardevolle deel – goed kunnen ondersteunen. Neem de designer die nu via een automatische oplossing thumbnails krijgt aangeleverd en zich dus meer op interessanter werk kan storten. Intern geven we workshops over wat AI kan opleveren.”

Eén van de zorgen is dat personalisatie op het gebied van advertenties zo ver kan doorslaan, dat we excessen gaan zien.
Daan: “Hier letten we scherp op. Het risico van filterbubbels. Of de fabeltjesfuik. Het idee over het risico dat je alleen informatie te zien krijgt die je eigen beelden bevestigen, is heel realistisch. Zeker als je van veel platforms – YouTube, Facebook – informatie krijgt. Maar juist bij RTL is dat een veel minder groot risico. Zo doen we nu onderzoek naar hoe we diversiteit in nieuwsaanbevelingen kunnen stimuleren. Onderdeel van onze strategie is dat we mensen niet in hokjes stoppen – je bent een man tussen 35 en 54 en daarom krijg je dit te zien. Maar meer om te kijken wat je kijkt of leest en wat interessegebieden zijn, zodat je echt een eigen selectie krijgt. Daarnaast maken we combinaties van redactie en algoritmische aanbevelingen, waardoor je een mix aan content krijgt.”

Bronnenonderzoek
De dreiging van deepfake content die amper van echt te onderscheiden is, neemt toe. Hoe wapen je de nieuwsorganisatie van RTL tegen die hoofdpijn?
“Ja, de paus kan daarover meepraten, maar het belangrijkste wapen is journalistiek. Bronnenonderzoek. Foto´s checken. Nu dus ook video. Achterhaal waar het vandaan komt én zorg dat je het blijft snappen.”

Rosanne van de Leemkolk, digital creative bij KRO-NCRV, werkt bij de afdeling onderzoek en concept, voorheen innovatie. “Als innovatieliefhebber wil je alles wat nieuw is, omarmen en liefst snel de organisatie binnenhalen. In het geval van AI is dat niet altijd handig. Wij buigen ons over vragen als: wat heeft voordelen, wat helpt collega’s en wat is veilig?”

Mediawijsheid is cruciaal, zeker voor kinderen. Wat kunnen we die generatie bijbrengen als het gaat over deze nieuwe technologie?
“Hoor en wederhoor. Kritisch kijken naar videocontent. Bij onze jeugdprogramma’s stuur ik daarop. Kinderen wijzen op wat fake en echt is. Hoe zie je dat een foto is geshopt? Waaraan herken je een deepfake? Dus maak eens een deepfake, zoals bij Zapp Detective.”

Meerwaarde
Hoe belangrijk vinden zij het belang van nep en echt?
“Dit weegt bij volwassenen zwaarder dan bij kinderen. Pas als kids merken dat ze in de maling worden genomen, zien ze de meerwaarde en zijn ze meteen geïnteresseerd: hoe maak je dit dan?”

“Belangrijke winst zit in
stroomlijnen van werkprocessen”

Wat is jouw top 3 beste tools als je morgen met AI wil beginnen?
“Fotografie: Chutney, versie 5 voor realistische portretten. Montage: Runway, een soort fotoshop voor video. Objecten weghalen. Achtergronden vervagen. Kleurcorrectie. Voor voice: Eleven Labs. Synthetische stemmen maken. Op basis van geringe input kan het zelfs emotie en timbre nabootsen, in het Engels. Ik ben benieuwd naar de Nederlandse variant.”

“Nu gebruiken we Chat GPT bijvoorbeeld bij het begin van een scenario om te kijken wat vervolgstappen kunnen zijn. Bij Descript versnel je montage echt. Via transcript van de beelden in tekst kun je veel sneller editen. Belangrijke winst zit in stroomlijnen van werkprocessen, vooral online content creators kunnen veel tijdwinst boeken.”

Hoe overtuig jij collega´s om met deze tools te gaan werken?
“Kennissessies en workshops, waarin we vaak direct aan de slag gaan met een tool, wel zorgvuldig gecheckt via NPO Innovatie, ook om dit juridisch zoveel mogelijk af te dichten.”

Virtuele productie
Jeroen de Cloe maakte naam in de game-industrie. Nu levert en ontwikkelt hij bij Talespin vooral immersive leerplatforms. Van Lienden vraagt of de game-technologie en de tv- en filmwereld nadrukkelijker naar elkaar toegroeien.
Jeroen: “Het begon ooit met virtuele productie. Vrijwel iedereen kent The Mandalorian, waarin de regisseur in de studioruimte met een game-engine zaken bijstuurt. Tijd aanpassen. Van dag naar nacht, waardoor alle schaduwen veranderen. Met AI kun je een stapje verdergaan. Je kunt procedureel werelden genereren, dat is een spannende ontwikkeling.”

De gamewereld is het voorportaal van Metaverse, de toekomst waarin we maximaal virtueel gaan leven. Geloof jij daarin? En op welke manier zie jij die digitale wereld ons leven langzaam maar zeker overnemen?
“Allereerst: Metaverse vorig jaar was 50% bullshit. We zien nu even een terugval, maar het gaat komen. Nu kan het volwassen worden. Voor sommige toepassingen – leren bijvoorbeeld – kan het succesvol zijn. Maar waar ik nog niet in geloof is samen werken, omdat het minder productief is dan bijvoorbeeld videobellen.”

Het maken van Digital Doubles kost slechts twee minuten. Bij de combinatie van Chat GPT en levensechte Avatars met algoritmes die we specifiek trainen op eigen data, dus mail of chatberichten, lijkt het alsof ik ‘normaal reageer’ terwijl ik een tukje doe. Of een congres presenteer…
Jeroen: “Adaptive Learning passen wij al toe: Chat GPT met virtuele personages. We wachten alleen met de uitrol in verband met de waarborg van dataprivacy. Google gaf een paar jaar geleden al een demo waarbij een assistent voor jou een afspraak bij de kapper maakt. Of dat ethisch juist is, weet ik niet. Maar hier gaat het wel heen.”

“We wachten alleen met
de uitrol in verband met de
waarborg van dataprivacy”

Hoe gaan we om met IP en hoe kun je origineel werk beschermen?
Daan: “Lastig. Veel modellen zijn gebaseerd op wat wij hier hebben gecreëerd. Internet zit in zo´n model, maar Open AI zal zeggen: we hebben het van internet gehaald, dus we geven jou het copyright. Eigenlijk heel gek. En complex. De eerste rechtszaken lopen nu. Ik denk dat dit heel moeilijk is om te reguleren.”

Is die brief met het verzoek om pauze dan toch terecht?
Jeroen: “Zinloos. Dan is China straks zes maanden verder. Zelfs als je zegt: we doen niks, gaan we toch door. Alleen is het dan niet meer transparant.”

Bullshitmachine
Van Lienden vindt de integratie van Chat GPT in Bing discutabel. “Na vijftien commando´s raakt het systeem off track en wordt het een bullshitmachine genoemd omdat antwoorden feitelijk onjuist zijn. Maar in de ratrace met China zijn we nu proefkonijnen waarin we halffabricaten krijgen voorgeschoteld.”
Jeroen: “Mijn zorg zit bij het voeden. Klanten willen nu zelf AI gaan regelen, maar als wij dit niet goed opzetten en begeleiden, wordt die data foutief gevoed. Bij een zoekmachine als Bing leest niemand algemene voorwaarden.”
Daan: “We moeten stilstaan bij zaken als copyright. En: hoe houden we controle over het systeem en zorgen we ervoor dat de mens het begrijpt? Deze tools worden nu vrijgegeven om ermee te spelen zonder de juiste waarschuwingen. Bing schept een gevaarlijk precedent. Het wekt de suggestie dat dit productie-klaar is en je met een mens interacteert, terwijl je moet zeggen dat dit een knap vertaalmodel is.”
Jeroen: “Ik heb al een paar gemerkt dat Chat GPT gewoon loog. Als je dat zegt, krijg je excuus van zo’n bot.”
Carlo: “Wordt het niet hoog tijd voor een keurmerk?”
Rosanne: “Binnen NPO pleiten we hier ook voor, dat content die met behulp van AI is gegenereerd een watermerk krijgt.”

Wetgeving
Carlo: “Microsoft zet vol in op Chat GPT en is aandeelhouder van Open AI, waarin ze een kleine tien miljard hebben geïnvesteerd. In de ratrace tussen Google en Microsoft lijken ethische vraagstukken te worden overgeslagen.”
Daan: “Ik vrees van wel. Beide bedrijven hebben veel onderzoek gedaan naar verantwoord AI, maar Google heeft zo´n machtige positie dat Microsoft weinig te verliezen heeft. We hebben het lange tijd aan de markt kunnen overlaten, maar uiteindelijk is goede wetgeving de enige oplossing.”
Rosanne: “Je zou het liefst willen dat AI echt open is. Want Open AI zit alleen in de naam. Dus: meer transparantie. En bewustwording. Ook door duidelijk te maken welke data je aan het systeem levert. Een OPT-In over data die je deelt in plaats van een OPT-Out. En dat alles in combinatie met Mediawijsheid, dan zitten we redelijk safe.”

Europa
Carlo: “Bij de opkomst van social media zijn we een beetje bestolen van onze privacy zonder dat we daar erg in hadden. De wetgever liep hier mijlenver achteraan. Hoe is dat nu geregeld in Brussel met de AI Act? Is dat bemoedigend?”
Jeroen: “Juridische details ken ik niet, maar ik weet wel dat Europa het beter aanpakt dan Amerika. De reden waarom we AI nog niet uitrollen in ons product is omdat we in Europa volledig compliant willen zijn.”
Daan: “Het volledig uitwerken van de AI Act van de Europese Unie duurt nog wel even, maar de grote lijnen zijn bekend. Ze kiezen voor een risico-gebaseerde aanpak. Per toepassing. Maar een social creditsysteem, zoals in China, verbieden ze gewoon. En bij projecten met hoge risico-toepassingen moet je aan veel eisen voldoen. Als het om training gaat, kan er al best veel.”

“Er is geen reden
voor paniek”

Carlo: “Wat zou je advies zijn als je in AI wil investeren?”
Daan: “Er is geen reden voor paniek. We zijn unieke wezens en zullen onze eigen rol blijven vinden. Je moet goed nadenken over wat je met IP doet, want je geeft heel makkelijk veel weg. Ga leren. Er is een AI-cursus, speciaal voor de creatieve sector.”
Rosanne: “Blijf ontdekken, blijf spelen. Bedenk wat het meest vervelende deel van je werk is, want daar is vast een AI-tool voor. Als ondersteuning, niet als vervanging.”
Jeroen: “Investeer in realtime game-engines en die technieken. Richt je bedrijf in als gamemaker, maar met lineaire content als doel, omdat deze engines veel AI-technieken bundelen en gebruiksvriendelijk ontsluiten. Je kunt met veel minder middelen veel meer bouwen.”

BM-hoofdredacteur Jeroen te Nuijl vraagt vanuit de zaal of scenarioschrijvers en voice-over bedrijven zich zorgen moeten maken.
Rosanne: “Ik denk juist dat dit een kans is voor voice-over bedrijven. Bij het product VALL-E van Microsoft kun je al na drie seconden voice-input emoties en stemmen filteren.”
Uit de hoek van een dramaproducent komt de vraag of AI zo veel tijdwinst oplevert dat dit ook het productieproces van fictie gaat veranderen.
Jeroen: “Dat is niet eens zo’n gek scenario. In de game-industrie zie je ook pioniers die op zolderkamertjes slimme tools ontwikkelen, waardoor het algehele niveau omhooggaat. Maar zonder goede art director of regisseur zal AI nooit een hoog niveau bereiken. Een slechte muzikant maakt ook op een piano van een ton nog steeds matige muziek.”

Durf te investeren
Carlo van Lienden concludeert: “Het leren werken met game-engines is superbelangrijk. Haal kennis in huis, ga met creatieven om tafel. Pitchen we nu een paper format met een paar plaatjes, dan hopen we dat onze gesprekspartner hetzelfde inbeeldingsvermogen heeft. Maar met zo´n game-engine maak je al snel een pilot, waarbij je die technologie kunt visualiseren. Dus: durf te investeren in hardware én menselijk kapitaal.”

Tekst: Erik Klap
Fotografie: Koen Helder