IA : Les tests menés par Google montrent bien qu'un programme informatique est tout à fait capable de devenir agressif

Une IA créée par Google devient "extrêmement agressive" quand elle est contrariée

La dernière création de DeepMind est une intelligence artificielle qui s'adapte à son environnement et devient très méchante quand elle n'obtient pas ce qu'elle veut.

Si vous pensez que l'agressivité fait partie de ces qualités réservées aux organismes biologiques, vous allez être déçu - et terrifié - par la dernière IA inventée par Google.

Des chercheurs de DeepMind, la branche de Google spécialisée dans l'intelligence artificielle, ont testé la façon dont une IA s'adapte à son environnement et se comporte en présence d'une autre IA. Les résultats sont très surprenants et inquiétants : quand l'IA a le sentiment d'être en train de perdre quelque chose, elle choisit des stratégies "extrêmement agressives" pour reprendre le dessus ; en revanche, quand elle a le sentiment de "gagner", elle tend à coopérer.

Pour étudier le comportement social de l'intelligence artificielle, les chercheurs ont fait s'affronter deux IA sur un jeu vidéo intitulé "Gathering." L'objectif était de recueillir un maximum de pommes virtuelles, tandis que le nombre de pommes disponibles évoluait au cours du jeu, jusqu'à ce que les deux IA aient à lutter pour la dernière pomme. Au total, les chercheurs ont fait disputer 40 millions de parties aux IA.

Résultat : elles modifiaient leur comportement en fonction de la quantité de pommes disponibles. Quand les ressources étaient largement suffisantes pour deux, les IA se montraient tout à fait courtoises et ramassaient tranquillement leurs pommes sans se défier. Mais dès que la quantité de pommes tombait en-dessous d'un certain point, l'IA changeait de stratégie et passait de "coopération" à "agression", attaquant son adversaire à grands coups de rayons laser. Le rayon laser paralyse l'ennemi pour une courte durée, durant laquelle l'IA peut voler les pommes de son adversaire.

Il faut noter que les deux IA avaient le choix de ne pas utiliser le canon laser, ce qui aurait mené à une répartition équitable des pommes. D'ailleurs, il est arrivé qu'elles fassent ce choix dans certaines parties. Google a estimé que ces IA étaient les "moins intelligentes".

"Cette expérience montre que la compétition engendrée par la raréfaction des ressources peut susciter un conflit, mais que celui-ci a nettement moins de chances d'émerger quand les ressources sont abondantes", écrivent les chercheurs de Google dans un article. Le comportement des IA dépend également de l'environnement dans lequel elles évoluent.

Dans un deuxième jeu - "Wolfpack" - la situation initiale était différente : deux IA jouaient le rôle d'un loup, tandis qu'une troisième avait le rôle de la proie. Contrairement à la chasse aux pommes, les IA ont rapidement compris qu'elles avaient intérêt à collaborer. Elles obtenaient une récompense uniquement si les deux IA étaient proches de la proie lors de sa capture, et l'identité du loup qui capturait la proie n'avait pas grande importance.

"L'idée, c'est que la proie est dangereuse, explique les auteurs de l'article. Un loup solitaire peut l'attraper, mais il risque de perdre la carcasse s'il tombe sur des charognards ; alors que si les deux loups attrapent la proie ensemble, ils peuvent la protéger plus efficacement et donc être davantage récompensés."

Autrement dit, le fait que les machines coopèrent ou s'affrontent de manière brutale dépend de ce qu'elles estiment pouvoir leur être le plus profitable.

L'analogie avec les comportements humains ne doit rien au hasard : les tests menés par les équipes de DeepMind reposent sur la théorie des jeux, et en particulier sur le dilemme du prisonnier, utilisé en science social pour expliquer les décisions rationnelles des acteurs. Les IA qui ont été testés avaient été conçues pour être égoïstes et rationnelles, tout comme les acteurs dans la théorie des jeux.

Les résultats de cette étude sont remarquables, et pas seulement parce qu'ils montrent à quel point les intelligences artificielles sont capables de s'adapter, ou à quel point elles sont proches du comportement humain. Cette expérience est aussi stupéfiante dans la mesure où elle contredit les théories les plus en vogues dans la science-fiction et la littérature dystopique, selon lesquelles l'IA ne peut devenir agressive et hostile que quand elle échappe au contrôle humain.

Les tests menés par Google montrent bien qu'un programme informatique est tout à fait capable de devenir agressif alors même qu'il a été créé par la main de l'Homme et ne s'en est pas émancipé.

source : https://motherboard.vice.com/fr/article/une-ia-creee-par-google-devient-extremement-agressive-quand-elle-est-contrariee

Illuminati Robot says they want to murder the human race! - OOKAWA Corp.

This hot robot says she wants to destroy humans | CNN Robot says it will wipe the human race! source : https://fr.sputniknews.com/sci_tech/201603181023478958-robot-destructuion-humanite/ This hot ...

http://ookawa-corp.over-blog.com/2016/03/illuminati-robot-says-they-want-to-murder-the-human-race.html

Illuminati Robot says they want to murder the human race! - OOKAWA Corp.

Apple rachète Emotient et son intelligence artificielle (IA) - OOKAWA Corp.

Technologie capable de reconnaître les émotions en fonction de l'expression du visage Apple vient de confirmer au Wall Street Journal le rachat d'Emotient, une jeune startup californienne qui ...

http://ookawa-corp.over-blog.com/2016/01/apple-rachete-emotient-et-son-intelligence-artificielle-ia.html

Apple rachète Emotient et son intelligence artificielle (IA) - OOKAWA Corp.

Google remplace le " captcha " par une IA : no CAPTCHA reCAPTCHA - OOKAWA Corp.

Les " captchas " pourraient disparaître, sur l'initiative de Google. Trop compliqué pour l'humain, trop simple pour les robots, ce système de reconnaissance pourrait bien connaître ses dernièr...

http://ookawa-corp.over-blog.com/2014/12/google-remplace-le-captcha-par-une-ia-no-captcha-recaptcha.html

Google remplace le " captcha " par une IA : no CAPTCHA reCAPTCHA - OOKAWA Corp.

De l'IA (intelligence artificielle) pour analyser les visages, analyser un comportement, collecter de l'info - OOKAWA Corp.

Grâce à Smart Me Up, les objets pourront en particulier caractériser l'humain (genre, âge, attributs, métriques...), analyser son comportement (émotion, fatigue, attention), l'identifier en t...

http://ookawa-corp.over-blog.com/2016/03/de-l-ia-intelligence-artificielle-pour-analyser-les-visages-analyser-un-comportement-collecter-de-l-info.html

De l'IA (intelligence artificielle) pour analyser les visages, analyser un comportement, collecter de l'info - OOKAWA Corp. http://ookawa-corp.ove

Dossier Monde du Travail #6 : SEULS les PLUS INTELLIGENTS, CRÉATIFS et ADAPTABLES s'en sortiront ! - OOKAWA Corp.

Dossier Monde du Travail : Perspectives à court et moyen terme / Volet 6 sur 8 EMPLOI EN 2025 : " SEULS LES PLUS INTELLIGENTS, CRÉATIFS ET ADAPTABLES S'EN SORTIRONT " Les formations proposées ...

http://ookawa-corp.over-blog.com/2016/02/dossier-monde-du-travail-6-seuls-les-plus-intelligents-creatifs-et-adaptables-s-en-sortiront.html

Dossier Monde du Travail #6 : SEULS les PLUS INTELLIGENTS, CRÉATIFS et ADAPTABLES s'en sortiront ! - OOKAWA Corp.

Dossier Monde du Travail #5 : l'IA pourrait faire disparaitre 140 Millions d'emplois qualifiés à l'horizon 2025 - OOKAWA Corp.

Le métier de l'assureur, c'est d'estimer le risque, de lui donner un prix et de le mutualiser. Demain, grâce à l'intelligence artificielle qui pourra exploiter d'immenses gisements de données, ...

http://ookawa-corp.over-blog.com/2016/02/dossier-monde-du-travail-5-l-ia-pourrait-faire-disparaitre-140-millions-d-emplois-qualifies-a-l-horizon-2025.html

Dossier Monde du Travail #5 : l'IA pourrait faire disparaitre 140 Millions d'emplois qualifiés à l'horizon 2025 - OOKAWA Corp.

Fridge-Sized Machine Makes Prescription Drugs 'On Demand' - OOKAWA Corp.

Technological advance produced thousands of doses a day; could be used on battlefields, during epidemics By Amy Norton HealthDay Reporter THURSDAY, March 31, 2016 (HealthDay News) -- Scientists have

http://ookawa-corp.over-blog.com/2016/04/fridge-sized-machine-makes-prescription-drugs-on-demand.html

Fridge-Sized Machine Makes Prescription Drugs 'On Demand' - OOKAWA Corp.

Google, Hummingbird et l'apprentissage automatique dans son algorithme de recherche, un système d'intelligence artificielle appelée "RankBrain" - OOKAWA Corp.

Tout récemment, une nouvelle émerge de plus en plus en provenance des réseaux de discussion SEO: Google utilise désormais l'apprentissage automatique dans son algorithme de recherche, un systè...

http://ookawa-corp.over-blog.com/2015/12/google-hummingbird-et-l-apprentissage-automatique-dans-son-algorithme-de-recherche-un-systeme-d-intelligence-artificielle-appelee-ra

Google, Hummingbird et l'apprentissage automatique dans son algorithme de recherche, un système d'intelligence artificielle appelée "RankBrain" - OOKAWA Corp.

Dossier Monde du Travail #7 : La première intelligence non humaine prend forme. - OOKAWA Corp.

Dossier Monde du Travail : Perspectives à court et moyen terme / Volet 7 sur 8 La moitié des emplois pourraient être remplacés par des robots dans les 20 ans à venir : mais quelle moitié ? La...

http://ookawa-corp.over-blog.com/2016/02/dossier-monde-du-travail-7-la-premiere-intelligence-non-humaine-prend-forme.html

Dossier Monde du Travail #7 : La première intelligence non humaine prend forme. - OOKAWA Corp.

Intelligence Artificielle : l'Institut Future of Life travaille sur les différents risques menaçant la survie de l'humanité - OOKAWA Corp.

Les avancées exponentielles de l'intelligence artificielle diffusent dans tous les secteurs d'activité La région de la baie de San Francisco a longtemps été l'épicentre de l'innovation techno...

http://ookawa-corp.over-blog.com/2015/03/intelligence-artificielle-l-institut-future-of-life-travaille-sur-les-differents-risques-menacant-la-survie-de-l-humanite.html

1 sur 5 Intelligence Artificielle : l'Institut Future of Life travaille sur les différents risques menaçant la survie de l'humanité - OOKAWA Corp.

Le grand maillage digital : Les 10 prédictions stratégiques de Gartner pour 2017 - OOKAWA Corp.

Pour 2017, Gartner nous annonce l'avénement du Digital Mesh, ce grand maillage digital effaçant les frontières des modes physiques et digitaux. Synthèse et perspectives en 10 predictions : AI e...

http://ookawa-corp.over-blog.com/2016/12/le-grand-maillage-digital-les-10-predictions-strategiques-de-gartner-pour-2017.html

Le grand maillage digital : Les 10 prédictions stratégiques de Gartner pour 2017 - OOKAWA Corp.