Google’s DeepMind ontwikkelt stopknop voor kunstmatige intelligentie

Google DeepMind, dat zich richt op kunstmatige intelligentie, werkt aan een stopknop waarmee kunstmatige intelligentie kan worden uitgeschakeld. De maatregel moet zorgen dat mensen robots altijd de baas blijven.

google-deepmind-logo Verschillende visionairs hebben gewaarschuwd voor het gevaar dat kunstmatige intelligentie zich tegen de mensheid keert. Denk hierbij aan Tesla-topman Elon Musk, maar ook aan de Engelse natuurkundige, kosmoloog en wiskundige Stephen Hawking. Zij zijn bang dat robots op een gegeven moment zo intelligent zullen zij dat zij niet meer naar mensen luisteren en de mens op termijn de baas worden.

Op de grote rode knop drukken

Ook Google DeepMind houdt rekening met dit scenario. Het bedrijf werkt daarom aan een stopknop die dit kan voorkomen. De maatregel zorgt dat kunstmatige intelligentie zichzelf nooit een manier kan leren om ingrijpen door mensen te overrulen of voorkomen. “Het kan af en toe nodig zijn voor een menselijke toezichthouder om op een grote rode knop te drukken”, schrijft Google DeepMind in de paper ‘Safely Interruptible Agents'. “Dit voorkomt dat een AI-agent doorgaat met acties die schadelijk zijn voor hemzelf of voor zijn omgeving.”

Het framework dat Google DeepMind hiervoor heeft ontwikkeld is naar eigen zeggen geschikt voor veel algoritmes die nu breed worden toegepast in AI. De onderzoekers benadrukken echter niet zeker te weten of alle algoritmes die in AI worden gebruikt op veilige wijze kunnen worden onderbroken.

Lees ook
VS dient voorstellen voor AI-standaarden in bij ISO en IEC

VS dient voorstellen voor AI-standaarden in bij ISO en IEC

ANSI, het normalisatie-instituut in de Verenigde Staten, stelt voor standaarden te ontwikkelen voor Artificial Intelligence. Het instituut heeft hiervoor twee voorstellen ingediend bij ISO en IEC. NEN start in Nederland een consultatie naar de wenselijkheid van deze standaarden. Hoewel Artificial Intelligence zeker niet nieuw is en er al decennia onderzoek...

Nieuw algoritme Mitsubishi Electric verkort trainingstijd van robots fors

Nieuw algoritme Mitsubishi Electric verkort trainingstijd van robots fors

Mitsubishi Electric maakt bekend een nieuw ‘deep-reinforcement’ algoritme te hebben ontwikkeld waarmee de tijd die robots nodig hebben om een bepaalde taak aan te leren fors kan worden teruggedrongen. Dankzij het algoritme zijn hiervoor slechts een vijftiende van het aantal trials nodig dan bij conventionele AI-technologie. Al langer zijn er algoritmes...

NVIDIA lanceert Jetson TX2 platform voor kunstmatige intelligentie

NVIDIA lanceert Jetson TX2 platform voor kunstmatige intelligentie

NVIDIA lanceert de Jetson TX2. Dit platform van creditcard-formaat maakt het mogelijk kunstmatige intelligentie (AI) toe te voegen aan onder andere industriële robots. Jetson TX2 verdubbelt volgens NVIDIA de prestaties van zijn voorganger, wat het mogelijk maakt grotere neurale netwerken te draaien op edge devices. NVIDIA stelt dat dit de weg vrij...