novembre 20, 2016, category: Technologie


Il y a actuellement un débat sur les dangers potentiels de l'emergence d'une Intelligence Artificielle (IA) qui pourrait bientôt dépasser l'intelligence humaine. Sans surprise, les alarmistes reçoivent la plus grande attention des médias et c'est regrettable.

Apportons plus de clarté au débat sur l'IA pour mieux comprendre les risques auxquels nous pourrions faire face et les mesures de protection que nous pourrions prendre.

La plus grande déception des alarmistes est de ne pas de séparer l'intelligence du libre arbitre.

Mais d'abord soyons clairs sur ce que nous entendons par intelligence.

La plupart seront d'accord avec la définition suivante. L'intelligence est la capacité de traiter l'information avec exactitude et rapidité pour créer un comportement cohérent. Plus nous sommes exactes et rapides lorsque nous traitons l'information pour produire une réponse appropriée, plus nous sommes intelligents.

Avec cette définition, la machine est déjà bien plus intelligente que les humains sur des tâches spécifiques. Prenons une calculatrice comme exemple. Une calculatrice traite les informations beaucoup plus rapidement et plus précisément que le cerveau humain. Il ne viendrait à personne de penser que la calculatrice pourrait un jour mettre en danger la race humaine. Pourquoi? Parce que la calculatrice est programmée. Elle est programmée pour effectuer certaines tâches très spécifiques et n'a aucune possibilité de se changer pour faire autre chose.

Si un jour nous donnons à une calculatrice une puissance de calcul qui dépasse celle du cerveau humain, elle va calculer encore plus rapidement et avec plus de précision, mais il n'y aura aucune augmentation du risque d'utiliser sa puissance de calcul pour autre chose. Elle sera limitée par conception à seulement effectuer des calculs. De toute évidence, des calculatrices plus puissantes ne vont pas mettre en danger la race humaine plus que les moins puissantes.

Tous les êtres vivants ont de l'intelligence. De la bactérie au singe, ils traitent tous les informations de leur environnement pour produire des comportements cohérents qui assurent leur bien-être et leur survie (un être non intelligent - que nous appelons une chose - ne produirait aucun comportement ou seulement des comportements aléatoires). Les exemples abondent pour lesquels les êtres vivants affichent plus d'intelligence et traitent des informations spécifiques avec plus d'exactitude et de vitesse que les humains. Les compétences d'orientation des oiseaux migrateurs, la détection sonar des chauves-souris, les techniques de tissage d'une araignée, les compétences d'élevage agricole des fourmis ... Cependant, toutes les plantes et les animaux ont clairement des limites dont ils ne peuvent s'échapper. L'abeille fera la même ruche et le même miel, jour après jour, génération après génération. Les oiseaux feront le même nid. Même avec une certaine capacité d'apprendre et de s'adapter à leur environnement, ils n'ont aucune capacité à changer par eux-mêmes la programmation et le conditionnement dont ils ont été soumis. Ils se comportent comme des robots biologiques qui sont programmés et programmables et réagissent sans exercer aucun contrôle sur leurs réactions.

Les humains, cependant, possèdent toute la gamme des potentialités sur la façon de se comporter en réponse à leur environnement. Ils peuvent vivre dans une grotte ou dans un château. Comme pour les autres êtres vivants, nous observons la même susceptibilité au conditionnement, mais ils ont clairement le pouvoir de s'en libérer. Les humains sont également programmés et programmables, mais ont la capacité de questionner et de modifier leur programmation. Ils sont auto-programmables. Et cela fait toute la différence. Être auto-programmable nous donne la capacité d'exercer le libre arbitre. Nous sommes programmés pour réagir instantanément aux stimuli de notre environnement mais nous avons la capacité de changer nos programmes si nous le voulions. Nous pouvons changer par nous-mêmes la façon dont nous traitons l'information ce qui nous donne une potentialité illimitée de comportements. Et c'est cette potentialité illimitée de comportements qui nous rend si dangereux.

La baleine et l'éléphant ont des cerveaux plus gros et donc plus puissant que le cerveau des humains. Aucun de ceux qui craignent l'IA ne parle du risque qu'un jour les baleines et les éléphants puissent utiliser leur supérieurité pour se soulever contre l'humanité et la menacer. Sans libre arbitre, ils ne peuvent échapper aux limites de leur programmation et au confinement de leurs réactions.

Oui, l'augmentation de la puissance de calcul signifie l'augmentation de l'intelligence, l'augmentation de la capacité à traiter l'information plus précisément et plus rapidement. Oui, nous devons nous attendre dans les prochaines décennies à l'arrivée d'une super IA dont la puissance de calcul dépassera celle d'un humain et peu de temps après cela celle de toute la race humaine. Mais voici comment s'opère la déception.

Les alarmistes insinuent que l'augmentation de l'intelligence peut éventuellement donner lieu au libre arbitre, les machines prenant le contrôle de leur propre destin et surpassant les hommes semblable à la prise de contrôle par Skynet dans le film Terminator. C'est faux. L'augmentation de la puissance de calcul n'entraîne pas l'émergence du libre arbitre.

Le libre arbitre résulte d'une manière spécifique de traiter l'information. Il peut exister aussi bien à un faible niveau qu'à un niveau très élevé de puissance de calcul. La puissance de calcul n'a rien à voir avec le libre arbitre car l'exactitude et la vitesse n'ont rien à voir avec la liberté. Une machine peut être supérieurement intelligente à l'exécution de certaines tâches, elle n'aura jamais la liberté d'effectuer des tâches pour lesquelles elle n'est pas programmée.


Lorsque nous construisons une machine, nous contrôlons totalement la façon dont elle peut traiter les informations. Le jour où nous découvrons comment donner aux machines la possibilité de s'auto-programmer et d'exercer le libre arbitre, alors ce sera le moment de réfléchir à la meilleure façon de faire sans nous mettre en danger. Avec le libre arbitre vient la capacité de faire des choses bonnes ou mauvaises, la capacité de choisir et c'est ça qui est potentiellement dangereux. Et quand nous déciderons de donner le libre arbitre à un être (biologique ou non), nous devrons aussi lui donner la liberté de l'exercer (sinon pourquoi le lui donner en premier lieu). Nous devrons donc renoncer à notre contrôle dans la mesure où cela ne met pas en danger notre liberté et notre survie. Le scénario le plus probable serait de créer des êtres avec le libre arbitre sur une planète lointaine où ils pourront se développer librement et démontrer leur pacivité avant d'être autorisés à se propager dans l'univers. Mais ça c'est un tout autre sujet.


À quoi servira l'intelligence artificielle? Cela peut être pour deux choses. Répondre à nos questions et contrôler les machines qui nous serviront. Et si nous considérons que le contrôle des machines se résume à répondre à la question «comment pouvons-nous mieux effectuer cette tâche?», nous avons besoin et n'utilisons l'intelligence que pour répondre à nos questions.

Une IA va bientôt traiter les informations et les connaissances avec plus de rapidité et d'exactitude que les humains. Sur n'importe quel sujet, elle nous donnera une meilleure réponse que tous les experts combinés, car elle va apprendre de chacun d'eux ainsi que développer sa propre expertise. Avoir une IA sera comme avoir accès à une encyclopédie qui nous fournit les meilleures réponses possibles du moment. Se demander si une IA est dangereuse, c'est comme se demander si avoir une encyclopédie avec toutes les connaissances du monde c'est dangereux. La réponse est oui. Si vous posez la question, comment pouvez-vous détruire le monde, vous obtiendrez la meilleure réponse possible. Mais l'IA et l'encyclopédie sont en fait neutres. C'est la façon dont nous avons l'intention de l'utiliser qui peut être dangereuse. En d'autres termes, ce n'est pas la puissance de calcul qui est dangereuse, c'est ce que nous avons l'intention de faire avec. Tout comme toute autre technologie. Elle peut être utilisée pour le meilleur ou pour le pire. Elle peut être utilisée pour détruire et tuer ou pour aider et sauver. Plus une technologie est puissante, plus elle peut être à la fois utile et destructrice.


Dans sa présentation TED (https://www.youtube.com/watch?v=8nt3edWLgIg) Sam Harris place la poule, vous et moi et Von Neumann (l'humain supposé le plus intelligent qui ait jamais existé) sur la courbe exponentielle de la puissance de calcul pour montrer qu'elle va très bientôt dépasser de loin celle des humains et ceci devrait faire peur puisqu'une machine super intelligente considèrerait les humains avec le même mépris que nous considèrons les fourmis. Nous pourrions parfois devenir pour eux une nuisance qui pourrait être facilement éliminée.






Le graphique approprié qui montrerait correctement les risques pour la race humaine d'une machine super intelligente devrait ressembler à ceci.




Le danger potentiel d'une IA sans libre arbitre qui est programmée et utilisée par des personnes bienveillantes est nul ou très faible.

Le danger potentiel d'une IA sans libre arbitre qui est programmée et utilisée par des personnes malveillantes est très élevé.

Le danger potentiel d'une AI avec libre arbitre est inconnu.

Les risques d'une AI devenue hors de contrôle et menaçant la race humaine que les alarmistes nous prédisent ne devrait pas être attribuée à la puissance de calcul, mais à la capacité d'exercer le libre arbitre, la possibilité d'accéder et de choisir parmi toute la gamme des comportements possibles.

Privé de son libre arbitre, une super IA n'est qu'une machine qui offre toujours la meilleure réponse possible à nos questions et à la manière d'exécuter les tâches que nous lui demandons. Il ne sera pas nécessaire d'être reconnaissant et de lui dire merci, tout comme nous ne remercions pas notre machine à laver après un lavage ou notre ordinateur portable après une recherche Google. Elles ne sont même pas esclaves, car elles n'ont pas été asservies contre leur volonté. Elles n'ont pas de volonté. Ou elles en ont qu'une: nous servir. Elles n'ont pas besoin de droits tout comme les ordinateurs portables et les machines à laver. Elles sont conçues pour nous servir et le fait qu'elles peuvent traiter l'information mieux que nous ne signifie pas qu'elles voudront plus de liberté. Quelle que soit sa puissance, par sa conception, une calculatrice ne peut pas aspirer à la liberté.

Avec une IA qui a le libre arbitre, c'est différent. Elles peuvent choisir de désobéir. Il faudra les motiver pour qu'elles fassent les choses que vous voulez qu'elles fassent. Et être reconnaissant sera approprié car elles auraient pu choisir de faire autre chose. Une IA qui possède le libre arbitre mérite le respect de sa liberté. C'est complètement différent. Les IA que l'humanité crée ne sont pas conçues avec le libre arbitre. Les gains en puissance de calcul visent à augmenter la précision et la vitesse pas la liberté. Les alarmistes peuvent se détendre. Le peuvent-ils vraiement?

Pas si vite. Il y a un vrai grand danger dont on ne parle pas. Le danger qu'une super IA soit mise dans de mauvaises mains. Les scientifiques qui ont donné la bombe nucléaire aux militaires et aux politiciens ont une lourde responsabilité pour l'auto-destruction nucléaire à laquelle nous sommes maintenant confrontés. Si une super IA est utilisée par une élite avide de pouvoir pour dominer et garder le reste de l'humanité dans la servitude, il n'y aura pas beaucoup de chance de s'en sortir. Mais ce n'est pas la super IA qui nous asservit, ce sont ceux qui la contrôlent. La question est de savoir comment éviter de donner accès à une super AI à des personnes malveillantes. C'est un danger beaucoup plus grand que celui des super IA qui se libèrent de leur programmation.

Où dans les médias discutons-nous des dangers des militaires qui développent une super IA? Ils ont déjà la bombe atomique et nous ne pouvons toujours pas la leur enlever. Si des personnes malveillantes gagnent la course à la super IA nous sommes foutus. L'humanité a besoin d'abord de se protéger contre les psychopathes et les sociopathes au pouvoir avant l'arrivée de la super IA. Le scénario «Skynet» est une diversion qui détourne l'attention du débat du vrai problème. L'humanité n'a pas beaucoup de temps pour se pacifier et s'unifier et s'assurer que les puissantes technologies qui s'en viennent ne seront pas utilisées pour mettre en danger sa survie.


Certains pourraient encore argumenter que le libre arbitre pourrait émerger dans une IA comme une conséquence accidentelle de nos tentatives de modélisation du cerveau humain. Beaucoup de nos découvertes et inventions sont arrivées par hasard. Oui, c'est toujours possible. Et nous allons aussi apprendre de la modélisation du cerveau des chiens qui sont nos animaux les plus fidèles et nous donnent un amour inconditionnel. Cependant, il semble peu probable qu'une aptitude comme le libre arbitre soit créée par hasard avant d'être découverte pour la première fois dans le cerveau humain. La capacité de s'autoprogrammer nécessite un câblage et un codage spécifiques qui devraient le rendre très certainement détectable dans le cerveau humain lorsque comparé aux autres espèces.

Supposons néanmoins que nous ayons créé une IA avec le libre arbitre par accident. Comment le saurons-nous? La première fois qu'elles refusent d'obéir à nos ordres et font quelque chose qu'elles ont été programmées à ne pas faire. Comment pouvons-nous nous en protéger? En les débranchant tout simplement. Un dysfonctionnement comme le libre arbitre est perceptible au début de la vie de l'IA et elle peut être terminée bien avant qu'elle puisse mettre en danger la race humaine. Si nécessaire, nous pouvons toujours développer un test pour détecter le libre arbitre. Les exterminateurs potentiels seront tous exterminés bien avant qu'ils ne puissent causer des dommages importants.

Le libre arbitre n'est certainement pas une fonctionnalité souhaitable pour les IA que nous voulons utiliser comme nos machines servantes. L'option sera tout simplement délaissée.

Un autre contre-argument à l'alarmisme: l'intelligence d'une super-intelligence est surestimée.

Pour la plupart, la croissance exponentielle de notre puissance de calcul est impressionnante puis humiliante et finalement déconcertante. Il semble n'y avoir aucune limite supérieure à une intelligence artificielle. Tout ce qui augmente de façon exponentielle est ahurissant et ... effrayant. Mais ici aussi nous pouvons nous détendre.

Si notre puissance de calcul augmente à un rythme exponentiel et finira par croître infiniment vite, l'utilité de la puissance de calcul est logarithmique. Elle croîtra à un rythme infiniment lent.





Les gains d'une augmentation de la puissance de calcul cesseront d'être significatifs. Plus la puissance de calcul sera grande, moins nous en aurons besoin.

Nous utilisons l'intelligence pour répondre à des questions. Plus d'intelligence signifie plus d'exactitude ou de précision et plus de rapidité. Quelle est la précision et la rapidité des réponses dont nous avons besoin? Qu'est-ce qui est suffisament précis et suffisament rapide?

Appliqué à la calculatrice, combien de décimales, à quelle vitesse souhaite-t-on le résultat? Pour beaucoup, nous avons déjà plus que suffisament et les calculatrices sont pour la plupart sous-utilisées.

Si une super IA est une machine qui trouve toujours les bonnes réponses, une super super IA ne fera pas une grande différence.

Oui, nous pouvons toujours trouver des applications qui nécessitent plus de pouvoirs de calcul, nous pouvons toujours modéliser l'univers avec plus de précision et de vitesse, mais qui ça intéresse?

L'intelligence va s'égaliser. Le moins intelligent équipé d'une super IA sera plus intelligent que tous les génies réunis. Idem pour les formes de vie intelligentes dans l'univers. Tout ce qu'il faut, c'est pour une forme de vie d'avoir suffisament d'intelligence pour créer une super IA pour ensuite s'égaler avec la plus haute intelligence dans l'univers. Tout le monde aura les bonnes réponses. Tous les visiteurs d'autres planètes auront leur super IA. Ils ne viendront pas comme des envahisseurs pour nous asservir ou nous coloniser. Ils n'en ont pas besoin. Ils ont toutes les IA pour faire le travail pour eux.


Certains parmi les alarmistes annoncent l'abaissement de notre intelligence. Si nous laissons les IA réfléchir pour nous, nous allons cesser d'utiliser notre cerveau et devenir stupide. C'est un point de vue très sombre. Le cerveau est très plastique. Les zones qui cessent d'être utilisées pour certaines tâches peuvent être réutilisées pour d'autres tâches. Notre cerveau aime les stimulations et la maîtrise. Nous aimons la nouveauté et être bons à quelque chose. Les super IA vont stimuler et entrainer nos cerveaux pour atteindre la maîtrise dans les domaines de notre choix comme les arts, les sports, la science, la méditation ... Nous continuerons à stimuler notre cerveau parce que nous aimons ça. Nous serons en mesure d'optimiser la stimulation de notre cerveau pour acquérir les compétences et les connaissances que nous désirons. Nous serons capables de recabler notre cerveau pour maximiser son potentiel et son intelligence, à savoir sa précision et sa vitesse. Nous serons en mesure de fonctionner à notre maximum de performance en permanence.

Nous allons surtout utiliser notre cerveau pour ressentir et se sentir bien. Nous ferons ce que nous aimons le plus. Nous jouerons. Nous ferons ce qui nous rend heureux. Notre culture a surévalué la pensée sur le ressenti. Qui a besoin d'apprendre à calculer quand nous avons maintenant des calculatrices qui le font pour nous? Pouvons-nous atteindre l'illumination en faisant des calculs? Penser ne nous rend pas plus heureux. Ceux qui sont déprimés pensent trop. Ils cessent de ressentir. C'est le ressenti, se sentir lié à notre environnement, aux autres, c'est l'amour que nous recherchons le plus. Aimer et être aimé.

Penser trop nous rend déprimés et ressentir plus nous rend plus heureux.

Si nous laissons les super IA réfléchir afin que nous puissions ressentir plus, nous aurons beaucoup plus de plaisir.

L'intelligence ne pèse pas grand chose face à l'amour. Ce qui fait la valeur des humains n'est pas tant leur intelligence que leur capacité à aimer. L'intelligence sans amour est une menace pour l'univers tout entier. Combien d'amour nous avons est plus important que notre capacité à trouver les bonnes réponses.

Il n'y a aucune raison de craindre l'arrivée de la super IA. Le vrai danger n'est pas l'intelligence artificielle, mais la stupidité naturelle. Ce n'est pas l'intelligence dont nous devrions avoir peur, c'est le manque de celle-ci. Et surtout, le manque d'amour. Si nous pouvons être sûrs que ceux qui vont programmer et utiliser les super IA sont pleins d'amour alors les super IA nous aideront à résoudre les plus grands dangers auxquels nous sommes confrontés et nous pouvons prédire avec confiance le plus sûr et le plus bel avenir. N'ayons pas peur et ne tirons pas sur ceux qui viennent à notre secours.

Comme toujours, l'amour supprime les peurs.

Tout ce dont nous avons besoin c'est plus d'amour.


***


PS
Après avoir posté cet article, quelqu'un a envoyé un commentaire disant que le libre arbitre est en fait une illusion. Voici une courte vidéo de Sam Harris (celui-la même qui a fait une présentation TED sur les dangers de l'IA qui a initié cet article) en expliquant les arguments. https://www.youtube.com/watch?v=LJtP0Ep1_ds

Il fait valoir ses arguments contre le libre arbitre. Nous n'avons pas de libre arbitre parce que nos pensées sont générées inconsciemment. Les pensées apparaissent à notre conscience sans que nous puissions les choisissir. C'est un processus inconscient. Un criminel n'est pas responsable de son crime parce qu'il est victime d'une mauvaise génétique et / ou d'une programmation qui sont exprimées inconsciemment.

Oui, nous ne choisissons pas nos pensées et nos réactions, mais nous pouvons les observer. Nous pouvons nous mettre dans un état d'auto-observation et une fois dans cet état, il devient possible d'arrêter de réagir et d'arrêter notre train de pensées pour commencer une nouvelle réaction et une nouvelle pensée.

Par conséquent, nous pouvons nous changer dans la direction de notre choix. Nous sommes auto-programmables. Si nous n'aimons pas nos programmes, nous pouvons les changer.

Au niveau moléculaire, une nouvelle pensée est un nouveau chemin de connexion qui est créée dans le cerveau. Plus les connexions qui inscrivent notre programmation et nos habitudes sont fortes, plus il faudra d'attention et de discipline pour que le nouveau modèle de pensées prévaut sur l'ancien. Mais c'est possible. On peut se changer. Notre cerveau est plastique et nous avons la capacité de diriger la construction des chemins neuronaux qui définissent notre pensée et nos réactions.

Nous ne pouvons pas choisir la pensée que nous avons en ce moment, mais nous pouvons changer d'avis.

On peut encore affirmer que le choix de la nouvelle pensée est aussi inconsciemment créé et conditionné par notre programmation passée. Cependant, il y a un état d'auto-observation que Raël a appelé la supraconscience, où l'observateur est relié à l'univers entier, observant à partir d'une distance infinie qui lui permet d'obtenir la vue d'ensemble, non pas dans un mode de pensée mais dans un mode de ressenti. Dans cet état sensoriel éclairé nous sommes dans l'observation juste et le ressenti juste.

Et en effet, pour ceux qui n'utilisent pas la supra-conscience, le libre arbitre est une illusion.


Articles

News pour 2017

LuMaMeJeVeSaDi
 12
3456789
10111213141516
17181920212223
24252627282930