SPAT onderzoekt

Angst voor datgene wat we zelf creëren: angst voor kunstmatige intelligentie

Technologieën vormen een steeds belangrijker onderdeel van ons dagelijks leven en de technologieën zelf worden steeds menselijker. Dit laatste heeft te maken met een ontwikkeling die al lange tijd gaande is: de ontwikkeling van kunstmatige intelligentiesystemen. Kunstmatige intelligentie is een onderzoeksgebied dat menselijke verrichtingen als taalverwerving, waarnemen, redeneren en leren op computers probeert te simuleren. Kunstmatige intelligentie is te vinden in de software die zich in allerlei apparaten bevindt. Hierbij kan je onder andere denken aan spraakassistentes in applicaties, beveiligingssystemen, drones, speelgoed dat gesprekken kan voeren, programma’s die zelfstandig games ontwerpen en robots die al toegepast worden in het onderwijs en in de gezondheidszorg. Maar we zijn nu op een punt gekomen dat er een angst is ontstaan voor deze ontwikkeling. Wat voor angst is dit en waar komt deze angst vandaan?

Kunstmatige intelligentie is een gebied binnen de computerwetenschappen dat erop uit is computers de intelligentie van de mens te geven. De term ‘kunstmatige intelligentie’ is in 1956 geïntroduceerd door de computerwetenschapper John McCarthy. Elk aspect van de menselijke intelligentie zou volgens hem beschreven kunnen worden. Computers zouden hierdoor deze menselijke intelligentie kunnen simuleren. Computers met kunstmatige intelligentie bootsen dan ook het denkvermogen van de mens na. Ze redeneren op dezelfde manier als de mens en leren van de fouten die ze zelf maken. Maar in dit zelflerende aspect van kunstmatige intelligentie zit gelijk een groot gevaar. Kunstmatige intelligentiesystemen bevatten een eigen intelligentie en zo ook een eigen zelfstandigheid waar we misschien voor moeten uitkijken. Wat nou als we de grip op kunstmatige intelligentiesystemen verliezen? Is er niet iets als een noodstop nodig?

Angst voor kunstmatige intelligentie

Invloedrijke mensen als ondernemer Elon Musk, baas van de elektrische autofabrikant Tesla en het ruimtevaartbedrijf SpaceX, en wetenschapper Stephen Hawking hebben zich al eerder uitgesproken over kunstmatige intelligentie. Zij wezen op de gevaarlijke gevolgen van kunstmatige intelligentie en de noodzaak tot de bestrijding ervan. Volgens Musk kan je de ontwikkeling op het gebied van kunstmatige intelligentie vergelijken met het oproepen van demonen. Er gaan mooie verhalen de ronde waarin wordt beschreven hoe demonen te bestrijden zijn, maar geen van deze verhalen leiden daadwerkelijk tot het einde van demonen. Hawking zei hierover het volgende: “Waar de impact van kunstmatige intelligentie op de korte termijn gaat over wie er de controle heeft, gaat de impact op lange termijn erover of ze überhaupt nog gecontroleerd kan worden” (Verkade, 2014).

Het bedrijf Google ziet dit gevaar nu ook in en vreest voor haar eigen software en in het specifiek de kunstmatige intelligentie die er achter schuilgaat. Het bedrijf is bang dat deze kunstmatig intelligente software de macht van het bedrijf gaat overnemen doordat de software op een gegeven moment niet meer te stoppen is. Het idee hierachter is dat de software in de loop der tijd intelligenter kan worden dan de mens, ook wel superintelligentie genoemd, en de mens als een blokkade kan gaan zien. Hierbij kan je denken aan de film ‘The Terminator’. Het kunstmatige intelligentiesysteem in deze film, genaamd Skynet, gaat zich tegen de mens keren. Skynet wordt in deze film zelfbewust en gaat de mens als een gevaar voor zijn eigen voortbestaan zien. Eerder zagen we dit filmscenario als een ‘worst case scenario’.  Met de stappen die nu worden gezet op het gebied van kunstmatige intelligentie kan dit filmscenario mogelijk een werkelijk scenario worden.

De oplossing volgens Google is een noodstop, een uitknop, de ‘big red button’ of de ‘kill switch’. Allemaal benamingen voor de wijze waarop computers een halt toe moet worden geroepen als ze in opstand tegen de mens komen. DeepMind is een onderzoekslab in handen van Google dat hier al mee bezig is. Samen met wetenschappers op de Universiteit van Oxford wordt er onderzoek gedaan naar manieren waarop kunstmatige intelligentie geen mogelijkheid heeft om menselijke controle te ontnemen. De oplossing zit er volgens hen in dat software aangeleerd moet worden dat menselijk ingrijpen geen optie is. Dit zal ervoor zorgen dat software de mens nooit zal buitensluiten, waardoor de menselijke controle intact blijft.

Samenwerkingsverband

Ondertussen zijn verschillende bedrijven een samenwerking met elkaar aangegaan. De samenwerking bestaat vooralsnog uit de vijf grootste techbedrijven: Google, Microsoft, Facebook, IBM en Amazon. Deze bedrijven hebben de handen ineen gestoken en zijn een non-profit organisatie begonnen. Deze organisatie genaamd ‘Partnership on AI’ heeft als doel het grote publiek beter in te lichten over de ontwikkeling omtrent kunstmatige intelligentie. Door het publiek beter op de hoogte te houden, moet de angst die onder het publiek heerst, weggenomen worden. Daarnaast zullen de bedrijven ook onderling informatie uitwisselen over hoe kunstmatig intelligente software verder ontwikkeld kan worden. Dit terwijl deze techbedrijven grote concurrenten van elkaar zijn op dit gebied. Suleyman, mede-oprichter van DeepMind en voorzitter van de organisatie, vatte het doel van de organisatie als volgt samen: “We zijn hier om van elkaar te leren over de dingen die wel en niet goed werken en om openheid te geven over de problemen waar we zoal tegenaan lopen” (van der Kolk, 2016).

Kortom, kunstmatige intelligentie is overal en kunstmatige intelligentiesystemen worden steeds slimmer. Als reactie op deze ontwikkeling slaan bedrijven de armen ineen om voor zoveel mogelijk transparantie en een zo goed mogelijke ontwikkeling op het gebied van kunstmatige intelligentie te zorgen. Maar de ontwikkeling van kunstmatige intelligentie is zorgwekkend en vraagt om een balans. Aan de ene kant is de kracht van het kunstmatige intelligentiesysteem de zelfstandigheid van het hele systeem. Maar aan de andere kant moet er de mogelijkheid zijn dat de mens het kunstmatige intelligentiesysteem veilig kan overnemen. We moeten uitkijken dat we niet ten onder gaan aan datgene wat we zelf creëren. Het is daarom van groot belang dat de noodstop werkelijkheid gaat worden, voordat onze eigen creaties de touwtjes in handen krijgen.