Intelligence artificielle : usages et risques

[Djip]

Plus ça va plus on en parle, des dystopies des années 90 en passant par les fantasmes de Asimov et Phillip K. Dick aux drones militaires autonomes Je pense que ça peut être pas mal d'en parler / regrouper les news sur le sujet.

C'est cet article publié hier qui m'en a donné l'idée

Intelligence artificielle : Stephen Hawking appelle à faire barrage aux armes autonomes

[Aurelienazerty]

C'est sûr que ça commence à faire froid dans le dos, on en est pas à Skynet de terminator, ni à ce qu'on voit dans Matrix, mais quand même, ça avance vite ! Tient, sans parler d'IA, regardez cette vidéo : Un étudiant invente un drone équipé d’un pistolet semi-automatique.
grand fan d'Isaac Asimov, j'aimerai vraiment que l'IA suive les 3 lois de la robotique :

1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi

[Djip]

Ya des fous de partout !

Au niveau des "dangers" d'armes intelligentes et autonome l'excellent film Chappie (avec la caricature Hollywoodienne) donne quelques piste de réflexions.

Les 3 lois de la robotique de Asimov sont nécessaire à mon avis aussi, bien que leur auteur ai pris un malin plaisir à les mettre en défaut dans les 2 premiers tomes du Cycle des robots
(Spoiler) :

Spoiler

Monter

Jusqu'à l'invention de la loi Zéro lors du 6ème livre qui propose un risque important autant qu'une nécessité pour répondre à ces "erreurs"

[Djip]

Boston Dynamics : le robot Spot testé par les marines

[Aurelienazerty]

Plus d'information sur le sujet : Intelligence artificielle: OpenAI est créé par Elon Musk, Peter Thiel, Amazon Web Services et d'autres en version rapide ça donne ça : Elon Musk agit contre les robots tueurs

[Aurelienazerty]

Première défaite d’un professionnel du go contre une intelligence artificielle

Le jeu de go restait le dernier jeu de stratégie pour lequel l'Homme demeurait plus performant que la machine. C'est désormais du passé, puisqu'un programme conçu par une filiale de Google a battu un joueur professionnel.

[Aurelienazerty]

Une intelligence artificielle peut-elle devenir présidente des Etats-Unis ?

[Djip]

C'est un débat intéressant à mener, digne des meilleures histoires de SF
En effet même dans le cadre d'une programmation neuronale il existe un fond statique à l'IA qui mérite d'être open source pour plus de clarté.
Quant-à lui donner la direction d'une nation, c'est là ou les argumentations deviennent passionnantes

[Djip]

Programme Skynet, Pakistan et drônes assassins.

Nouvel OBS : La NSA aurait-elle tué des centaines d'innocents par erreur ?

Je vais bien, tout va bien.

[Djip]

Des questions ?

[Aurelienazerty]

Moi je pense à ça :

[Arken]

Toujours aussi impressionnant les présentations de Boston Dynamics, j'adore quand ils se font déséquilibrer, ça parait tellement naturel la façon qu'ils se replacent.

[Aurelienazerty]

Un jour ils se vengeront...

via The Next Web

[Aurelienazerty]

Facebook Deeptext AI : Facebook s’intéresse maintenant à ce que vous racontez

Facebook officialise le coup d’envoi de son intelligence artificielle, Deeptext AI. Le réseau social compte utiliser les capacités de ce nouveau moteur pour analyser les quantités de textes postés par les utilisateurs de Facebook et améliorer ses services.

[Aurelienazerty]

Pourquoi Google a conçu un « bouton rouge » pour désactiver des intelligences artificielles

[Arken]

Ouai ok, ou sinon il existe une solution super hightech et beaucoup moins cher en frais de R&D : tirer la prise du mur

[Aurelienazerty]

« Aujourd’hui, on peut arrêter tout programme de la manière qu’on veut, mais cela signifie en général qu’on doit tout recommencer à zéro, explique Laurent Orseau. Ces interruptions peuvent l’empêcher d’apprendre correctement. »

[Arken]

Ben en même temps, si l'IA a décidé de te tuer, qu'elle puisse continuer d'apprendre ou pas, hein, on s'en tamponne un peu le coquillard...

C'est toi qui lit pas bien. 1ère phrase :

Une intelligence artificielle (IA) est-elle capable d’empêcher un humain de la désactiver ? C’est de ce postulat que sont partis deux chercheurs pour réfléchir à une façon d’éviter que cela n’arrive.

et

« s’assurer qu’un agent apprenant [une intelligence artificielle] n’apprenne pas à empêcher son interruption »

Que ça nique l'apprentissage, c'est, peut-être, un effet de bord, mais c'est pas le coeur de la réflexion.

Je crois que de toute façon l'article part un peu dans tous les sens en mélangeant un peu tout. Déjà le terme "Bouton rouge" , le truc qui veut tout et rien dire. Pour moi un bouton rouge, c'est un interrupteur mécanique, donc aucune chance qu'il puisse être désactivé de façon software. Mais comme ils expliquent nulle part ce qu'on insinue par ce terme...

[Aurelienazerty]

C'est sûr, après moi je me dis qu'une IA on peut tellement vite en faire n'importe quoi, souviens toi de Tay, qu'il faut vraiment mettre des gardes fou de partout.

[Arken]

J'avais raté ce truc...ce bot nazi white-supremacist anti-feministe pro-trump, c'est magique

[Aurelienazerty]

Un peu de lecture sur le sujet : Droit et éthique des robots : 3 propositions futuristes à lire ce week-end

[Aurelienazerty]

Un article assez intéressant : Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ?

Outre le débat, j'ai appris que les premières voitures à moteur devaient être précédées d’un porteur d’un drapeau rouge pour signaler qu’il s’agissait d’un véhicule motorisé.

[Arken]

ça s'astique bien le chibre sur l'IA quand même.

[Aurelienazerty]

Le développement de l'intelligence artificielle inquiète, des centaines de chercheurs s'engagent

[Aurelienazerty]

Des scientifiques font une avancée vers un cerveau artificiel