REAIM 2023: Fictief scenario toont dilemma’s van AI
Ministeries
Tijdens REAIM 2023, de tweedaagse conferentie over de verantwoorde toepassing van kunstmatige intelligentie (AI) in het militaire domein, kwamen zo’n 2.000 mensen uit 80 verschillende landen bij elkaar om te spreken over hoe we in de toekomst met AI in het militaire domein moeten omgaan. Een fictief scenario diende als rode draad van de conferentie.
Tijdens de plenaire opening van REAIM 2023 werd een fictief scenario geïntroduceerd. Er ontstaat een groot internationaal conflict, waarbij het gebruik van AI belangrijke vragen oproept. Het scenario vormde een rode draad door de conferentie en werd gebruikt als basis voor de discussies. We leggen het scenario en de dilemma’s aan jullie voor:
2027
Sinds de onafhankelijkheidsverklaring van het Grijze Gebied lopen de spanningen hoog op. Het Grijze Gebied behoorde tot vorig jaar bij de Paarse Alliantie en heeft veel schaarse bronnen, die bijvoorbeeld worden gebruikt om batterijen en chips te maken.
De Oranje Alliantie houdt de spanningen tussen de twee gebieden goed in de gaten. Met behulp van AI verwerken zij een grote hoeveelheid informatie, waaronder satellietbeelden. Op de beelden zien ze iets opvallends: de troepen van de Paarse Alliantie lijken zich bij de grens te verzamelen. Met behulp van AI berekent de Oranje Alliantie het mogelijke moment van inval: over 3 uur en 8 minuten.
Als de informatie klopt heeft dit vergaande gevolgen voor de bevolking in het Grijze Gebied. Maar als de Oranje Alliantie reageert op valse informatie, is het moeilijk in te schatten wat er kan gebeuren. Maar hoe weet de Oranje Alliantie zeker of deze data te vertrouwen is? Is het AI-systeem wel goed getraind om deze data te gebruiken? En op basis van welke precieze data geeft het AI-systeem deze informatie? Bestaat de kans op een data-bias?
De inval
Eén uur eerder dan verwacht valt de Paarse Alliantie het Grijze Gebied binnen. De informatie van het AI-systeem bleek te kloppen. ‘Het is een surrealistische ervaring, een paar uur geleden werden we wakker geschut door het geluid van inslaande bommen’, zegt een van de inwoners van het Grijze Gebied op sociale media.
In het crisiscentrum van de Oranje Alliantie worden infraroodbeelden, beelden van sociale media en nieuwsberichten bekeken. Op basis van alle openbare informatie concludeert de Oranje Alliantie dat er vanuit de lucht wordt geschoten via drones. De Oranje Alliantie kan kiezen om het counter-drone systeem van het Roze Land in te zetten. Dit systeem kan andere drones snel en effectief uitschakelen, maar kan alleen worden gebruikt als alle burgers het gebied uit zijn.
De drones zijn getest, maar hoe weet je zeker of ze ook in deze situatie werken? Alles verandert heel snel. Kunnen we dan wel vertrouwen op AI? De Oranje Alliantie besluit het risico niet te nemen. Maar hadden ze ook een andere keuze kunnen maken? Zouden meer inwoners van het Grijze Gebied dan geholpen kunnen zijn?
Cyberaanval
De Oranje Alliantie krijgt betere grip op de situatie. De troepen op de grond en de informatie uit de AI-systemen zijn van groot belang in het verwoesten van de vijandige drones. De Paarse Alliantie lijdt grote verliezen en werkt aan een nieuw aanvalsplan: een cyberaanval op de Oranje Alliantie.
De Oranje Alliantie denkt aan een tegenactie, maar dat heeft waarschijnlijk grote consequenties. Een keuze met zulke vergaande consequenties moet eerst op het politieke level worden besproken. Na nauwkeurige afweging van de risico’s kiest het team om een tegenaanval in te zetten. De gehele infrastructuur van de Paarse Alliantie wordt platgelegd. De Paarse Alliantie heeft nu maar een keuze… terugtrekken.
AI in het militaire domein
Het fictieve scenario laat zien dat het gebruik van AI in het militaire domein nog veel vragen oproept. Het is daarom van groot belang dat landen, maar ook ngo’s, experts uit het bedrijfsleven en de academische wereld, in gesprek blijven over de dilemma’s van AI. De verantwoorde toepassingen van AI-technologie in het militaire domein, nu en in de toekomst, is een gezamenlijke verantwoordelijkheid. Internationale samenwerking en duidelijke afspraken zijn hierbij van groot belang.
Zuid-Korea 2025
Op REAIM 2023 zijn de eerste stappen gezet om samen met de internationale gemeenschap toe te zien op de verantwoorde ontwikkeling, toepassing en gebruik van AI in het militaire domein. Tijdens de conferentie hebben verschillende regeringsvertegenwoordigers met een gezamenlijke ‘call to action’ ingestemd, waarmee zij benadrukken dat het verantwoorde gebruik van artificial intelligence (AI) hoger op de politieke agenda moet komen. Tijdens de plenaire afsluiting maakte co-host Zuid-Korea ook bekend de volgende REAIM-conferentie in 2025 te organiseren.
Lees meer over REAIM 2023
|