Experts waarschuwen voor kunstmatige intelligentie

Stephen Hawking

Voorzichtig met kunstmatige intelligentie

Het Future of Life-instituut waarschuwt in een open brief voor de potentiële gevaren van verdere ontwikkelingen op het gebied van kunstmatige intelligentie.

Dat doet het in een open brief, die is ondertekend door meerdere experts binnen het vakgebied, waaronder Stephen Hawking, de oprichters van kunstmatige intelligentiebedrijf Deepmind en Tesla-ceo Elon Musk. Het instituut stelt dat dergelijke software enorm veel voordelen biedt, maar dat er wel gedacht moet worden aan manieren om de systemen in toom te houden, zodat ze "doen wat we willen".

Daar is volgens het instituut meer onderzoek voor nodig, onder meer naar het zelflerende aspect van kunstmatige intelligentie.

Zelflerende robots

Het Future of Life Instituut geeft in een bijgevoegd document meerdere voorbeelden, waaronder dat van een zelflerende robot.

Als de kunstmatige intelligentie hiervan zo is geprogrammeerd om een taak uit te blijven voeren, dan zal het systeem altijd situaties vermijden die het volbrengen van de taak in de weg staan.

Dat wordt volgens het instituut problematisch zodra het systeem geherprogrammeerd of gedeactiveerd moet worden, omdat het dat ook zal proberen te vermijden.

Er moet daarom gedacht worden aan uitzonderingen die ingrijpen door menselijke hand mogelijk maken. Future of Life stelt dat dergelijke controle slechts een van de aspecten is van kunstmatige intelligentie waar nog verder onderzoek voor nodig is.

Zelfrijdende auto's

Ook de wetgeving rondom de techniek verdient aandacht. Dit speelt met name al bij zelfrijdende auto's die gebruikmaken van zelflerende systemen.

Die zouden het aantal verkeersongevallen kunnen terugdringen, maar tegelijkertijd een sterke toename in rechtszaken betekenen. Dit vanwege onduidelijkheid over de aansprakelijkheid.

Future of Life Institute pleit daarom voor gelijktijdig onderzoek naar de snijvlakken van kunstmatige intelligentie met relevante vakgebieden.

Elon Musk waarschuwde in oktober van vorig jaar al voor de risico's van kunstmatige intelligentie. Destijds riep hij op tot internationaal toezicht om te voorkomen dat de mensheid iets doms doet en de controle verliest.

Bron: NU.nl

Lees ook
Ontwikkeling 5G, blockchain en kunstmatige intelligentie in hogere versnelling

Ontwikkeling 5G, blockchain en kunstmatige intelligentie in hogere versnelling

Ontwikkeling 5G, blockchain en kunstmatige intelligentie in hogere versnelling dankzij samenwerking TU Delft en KPN Telecom en ICT-dienstverlener KPN en TU Delft zijn een strategische samenwerking aangegaan met als doel hoogwaardige nieuwe technologie te ontwikkelen op het gebied van 5G, blockchain en kunstmatige intelligentie. Met de samenwerking onder...

Kunstmatige intelligentie komt sneller dan we denken

Kunstmatige intelligentie komt sneller dan we denken

Binnen tien jaar gaat kunstmatige intelligentie Artifical Intelligence onze wereld compleet veranderen. Dat is de vaste overtuiging van de sprekers tijdens de vijfde Cobbenhagen Summit gisterenavond. De digitale revolutie gaat met kunstmatige intelligentie op korte termijn voor grote veranderingen zorgen in onze economie Op de kaart Prins Constantijn...

China wil wereldleider kunstmatige intelligentie zijn

China wil wereldleider kunstmatige intelligentie zijn

Als het aan de Chinese overheid ligt, is het land uiterlijk in 2030 wereldleider op het gebied van kunstmatige intelligentie. De overheid heeft daarvoor een drie stappen plan onthuld, dat van AI de drijvende kracht achter de economische groei van het land zal maken. Daarvoor heeft de Chinese overheid drie stappen bedacht, die de industrie in eerste...