Google’s DeepMind ontwikkelt stopknop voor kunstmatige intelligentie

Google DeepMind, dat zich richt op kunstmatige intelligentie, werkt aan een stopknop waarmee kunstmatige intelligentie kan worden uitgeschakeld. De maatregel moet zorgen dat mensen robots altijd de baas blijven.

DeepMind TechnologiesVerschillende visionairs hebben gewaarschuwd voor het gevaar dat kunstmatige intelligentie zich tegen de mensheid keert. Denk hierbij aan Tesla-topman Elon Musk, maar ook aan de Engelse natuurkundige, kosmoloog en wiskundige Stephen Hawking. Zij zijn bang dat robots op een gegeven moment zo intelligent zullen zij dat zij niet meer naar mensen luisteren en de mens op termijn de baas worden.

Op de grote rode knop drukken

Ook Google DeepMind houdt rekening met dit scenario. Het bedrijf werkt daarom aan een stopknop die dit kan voorkomen. De maatregel zorgt dat kunstmatige intelligentie zichzelf nooit een manier kan leren om ingrijpen door mensen te overrulen of voorkomen. “Het kan af en toe nodig zijn voor een menselijke toezichthouder om op een grote rode knop te drukken”, schrijft Google DeepMind in de paper ‘Safely Interruptible Agents‘. “Dit voorkomt dat een AI-agent doorgaat met acties die schadelijk zijn voor hemzelf of voor zijn omgeving.”

Het framework dat Google DeepMind hiervoor heeft ontwikkeld is naar eigen zeggen geschikt voor veel algoritmes die nu breed worden toegepast in AI. De onderzoekers benadrukken echter niet zeker te weten of alle algoritmes die in AI worden gebruikt op veilige wijze kunnen worden onderbroken.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.