Een internationaal team van wetenschappers heeft aangetoond dat controle van superintelligente kunstmatige intelligentie onmogelijk is.
Het werk werd gepubliceerd in het Journal of Artificial Intelligence Research. Het gevaar dat kan komen van een superintelligente AI, zoals je weet, wordt beschreven in verven in de kaskrakers over de Terminator. Vertegenwoordigers van verschillende wetenschappelijke disciplines, waaronder specialisten van het Center for People and Machines van het Max Planck Institute for Human Development, besloten te testen hoe een persoon superintelligente robots kan besturen.
“De superintelligente machine die de wereld bestuurt, klinkt als sciencefiction. Maar er zijn al robots die bepaalde belangrijke taken zelfstandig uitvoeren. Tegelijkertijd begrijpen programmeurs helemaal niet hoe ze dit hebben geleerd. Daardoor rijst de vraag: kan dit proces op een gegeven moment oncontroleerbaar en gevaarlijk worden voor de mensheid?" - zegt een van de auteurs van de studie, Manuel Sebrian, hoofd van de digitale mobilisatiegroep bij het Center for People and Machines van het Max Planck Institute.
Om deze vraag te beantwoorden, gebruikten wetenschappers modellering en theoretische berekeningen. Het bleek dat zelfs als je gegevens over ethische principes in een superintelligente machine stopt en de communicatie met de buitenwereld beperkt (bijvoorbeeld internettoegang uitschakelen), dit de mensheid niet zal redden van het risico dat een dergelijk systeem eruit zal komen van controle.
Het feit is dat, volgens de theorie van de informatica, elk van de algoritmen voor een dergelijke inperking - of het nu gaat om programma's over ethische principes of het beperken van de toegang tot de buitenwereld - kwetsbaar is en onder bepaalde omstandigheden heel goed in staat is zichzelf te veranderen uit. Daarom concluderen experts dat een persoon eenvoudigweg niet in staat zal zijn een superintelligente AI te besturen en dat de situatie vroeg of laat uit de hand kan lopen.
“We stellen dat volledige inperking in principe onmogelijk is vanwege fundamentele beperkingen die inherent zijn aan de berekening zelf. De superintelligentie zal een programma bevatten dat alle programma's omvat die worden geïmplementeerd door een universele Turing-machine, mogelijk zo complex als de toestand van de wereld', concluderen de onderzoekers.
