L’Intelligence Artificielle forte émerge (mercredi, 11 janvier 2017)

http://informationsystemsbiology.blogspot.fr/2015/06/stro...

Le «retour de l' intelligence artificielle" est une tendance impressionnante de la blogosphère. J'ai passé un certain temps et le plaisir de lire les deux grands messages de blog WaitButWhy de Tim Urban intitulé «La Révolution AI: The Road to Superintelligence" et "La Révolution AI: Immortalité ou extinction" ( partie 1 et partie 2 ).

Le coeur de ces articles est la différence entre ANI (Artificial Narrowl Intelligence, que l'on appelle AI faible), AGI (Artificial General Intelligence , ou AI forte) et ASI (Artificial SuperIntelligence). Ces articles sont fortement influencés par Ray Kurzweil et ses nombreux livres, mais font un excellent travail de collecte et de tri des opinions contradictoires. Ils montrent un consensus en faveur de l'émergence d'AGI entre 2040 et 2060. Je recommande fortement la lecture de ces messages parce qu'ils sont amusants, en fait assez profonde et offrent une très bonne introduction aux concepts que je développerai plus tard. Mais, ils manquent l'importance de la perception, les émotions et la conscience, que je vais aborder dans ce billet.

La diversité des opinions est frappante. D'une part, nous avons des avocats très enthousiastes, comme Ray Kurzweil et son livre " Comment créer un esprit " dont je parlerai plus tard, ou Kevin Kelly avec ce grand article de Wired: " Les Trois Percées qui ont enfin Unleashed AI sur le monde ". Pour ce camp, AI forte est faisable, il est à venir et il est bon. De toute évidence , Larry Page est dans ce camp . De l'autre côté, on trouve soit des gens qui ne croient tout simplement pas dans la faisabilité de l' IA forte, comme Gérard Berry, célèbre pour dire que « les ordinateurs sont stupides ", ou des gens qui sont très inquiets de ce que cela pourrait signifier pour l' humanité tels que Stephen Hawking , Bill Gates ou Elon Musk , pour neciter que quelques - uns. Une des raisons à ce sujet est si chaud dans le Web est que la course d'investissement a commencé. Chaque grande entreprise de logiciel investit massivement dans AI, comme cela est expliqué par Kevin Kelly dans son journal. IBM et Watson ont commencé la course, alors que Google faisait l' acquisition de sociétés massivement dans les domaines de l' intelligence artificielle et de la robotique. Facebook a un programme d' IA massif qui a attiré beaucoup d'attention. Kevin Kelly cite Yahoo, Twitter, LinkedIn ou Pinterest pour avoir investi dans des capacités AI récemment. Il n'y a pas de débat sur la vague de l' ANI (forme faible de l' IA), qui est à la fois représenté par Kevin Kelly ou Tim Urban. Il est déjà là, ça fonctionne très bien et il est l' amélioration rapide. La grande course (et ceux qui investissent croient qu'il ya un changeur de jeu à l' avance) est d'obtenir d' abord à la prochaine génération de l' intelligence artificielle.

Je décidai d'écrire ma propre opinion , il y a quelques mois, d' abord parce que je suis fatigué d'entendre les mêmes vieux arguments au sujet de pourquoi AI forte était impossible, et aussi parce que je trouve tout en lisant Tim Urban ou Kevin Kelly (pour ne citer que quelques - uns) qui quelques - uns des ingrédients clés pour y arriver ont été portées disparues. Par exemple, il est trop l' accent sur la puissance de calcul, ce qui est un facteur clé , mais ne suffit pas, à mon avis, pour produire AGI, même si je l' ai lu et apprécié les livres de Ray Kurzweil. Je dois dire que je suis parti trop loin de l'informatique pour être considéré comme un expert dans une forme quelconque. Laissez dire que je suis un amateur instruit, parce que je commencé ma carrière et mon doctorat dans les domaines de la représentation des connaissances, des systèmes basés sur des règles et des systèmes soi-disant experts. Je travaille depuis longtemps sur l' apprentissage automatique appliqué à l' algorithme génération , puis plus récemment sur agent intelligent d' apprentissage avec le cadre GTES . Il y a une certaine ironie pour moi lors de l' écriture de ces pages, puisque l' un de ma première conférence quand j'étais étudiant à l'Ecole Normale Supérieure en 1984 était sur le thème de l' IA en remplaçant la main - d'œuvre d'aujourd'hui (à comparer avec un de mes messages sur le même sujet de l' année dernière).

Dans ce post, je vais explorer quatre idées, ce qui semble être, à mon avis, manque de ce que j'ai lu au cours des derniers mois:

1. Intelligence artificielle est Grown, Non Conçu


Ce n'est pas une nouvelle idée. J'ai fait le livre de Kevin Kelly " Out of Control " , une référence majeure pour ce blog . L'idée centrale de son livre est que dans le but de créer des systèmes vraiment intelligents, vous devez abandonner le contrôle. Cela est vrai pour l' IA faible et fort semblables. Ce qui rend cette idée plus pertinente aujourd'hui est la disponibilité combinée de puissance de calcul massive, le stockage massif et des quantités massives de données.Comme je l' ai expliqué dans mon Big poste de données où je citais Thomas Hofmann , « Big Data devient au cœur de l'informatique », la nouvelle façon de concevoir des algorithmes est de les développer à partir de quantités massives de données. Ces nouveaux algorithmes sont généralement "simple" (pièces ou ensemble sont sous-linéaire) afin d'absorber des quantités très importantes de données (peta-octets aujourd'hui, beaucoup plus demain). Une chose que nous avons appris des dernières années est que les algorithmes simples formés à vraiment énorme corpus de preuves font mieux que des algorithmes plus complexes formés sur deséchantillons plus petits. Cela a été démontré dans la traduction automatique, la vérification grammaticale et d' autres domaines d'apprentissage de la machine.

L' un des principaux AI technologie algorithmique du moment est convolution Neural Networks(CNN) et l'accent est mis sur « l' apprentissage en profondeur ». CNN sont une famille de réseaux neuronaux - en essayant de reproduire le mécanisme du cerveau pour se pencher àpartir de couches de neurones - caractérisé par le contrôle de back-propagation del'information de la formation prévue dans le réseau de neurones. Par exemple, vous pouvez lire l' entrée Mark Montgomery sur " les tendances récentes dans les algorithmes d'intelligence artificielle ". Apprentissage en profondeur a reçu beaucoup d'attention des médias grâce au succès de esprit profond et son fondateur Demis Hassabis. Les réseaux de neurones , sont un bon exemple des systèmes qui sont cultivés, ne sont pas conçus.

Si vous lisez attentivement sur les meilleures méthodes pour la reconnaissance vocale et la génération de la langue, vous verrez que vous avez besoin de plus de puissance du processeur et de grands ensembles de formation, vous avez réellement besoin de beaucoup de mémoire pour garder cette information "vivante". J'emprunte de Mark Montgomery de la citation de Sepp Hochreiter parce qu'il fait un point très important: " L'avènement de Big Data avec les architectures matérielles avancées et parallèles a donné ces vieux filets un coup de pouce de telle sorte qu'elles révolutionnent actuellement la parole et la vision sous l'apprentissage de la marque profonde . En particulier , le réseau "long mémoire àcourt-terme" (LSTM), développé par nous il y a 25 ans, est aujourd'hui l' un des reconnaissance de la parole et degénération de langage méthodes les plus efficaces ". Kevin Kelly attribue la «arrivée tant attendue de l' IA" à trois facteurs: calcul parallèle pas cher, les grandes données et de meilleurs algorithmes. Je suis évidemment d' accord avec ces trois, mais sa vision de «données volumineuses» , comme la disponibilité d' un grand ensemble de la formation est trop étroite.

Je ne crois pas non plus que les algorithmes actuels de 2015 sont révélateurs de ce que nous allons croître en 2040 lorsque nous avons calcul et de stockage des capacités massivement supérieures. L' histoire montre que l'esprit suit l'outil et que les scientifiques adapter en permanence aux nouvelles capacités de leurs outils. Nous sommes encore au stade de l'enfance, parce que nos capacités de calcul sont vraiment très limitées (plus à ce sujet dans la section suivante). Parmi les sceptiques de la communauté de l' informatique sont des gens qui pensent - et je dois convenir - que d' être en mesure de jouer de vieux jeux d'arcade à un "niveau de génie» est encore très loin d'une véritable étape vers AGI. La capacité de concevoir et d' explorer la recherche et de jeux de stratégies a été autour depuis longtemps dans la communauté AI (ie, jouer à un jeu sans règles). Beaucoup de critiques au sujet de la possibilité d'AI cite la difficulté de créer, de produire l' art ou d'inventer de nouveaux concepts. Ici , je tends à penser le contraire, sur la base de la dernière décennie de voir lesordinateurs utilisés dans la musique ou les mathématiques (comme un indice, je voudrais citer Henri Poincaré: « Lesmathématiques sont l'art de donner le même nom à des choses différentes»). La création est pas difficile à exprimer en tant que programme, il est en fait étonnamment facile et efficace d'écrire un programme qui explore un énorme espace abstrait qui représentent de nouvelles idées, de nouvelles images ou de nouvelles musiques. La partie difficile est évidemment de reconnaître la valeur de la création, mais les ordinateurs deviennent de mieux en mieux.

2. Une intelligence artificielle vraiment intelligente Doit Découvrez le monde

L'argument le plus commun contre l'IA forte et "vrai" traitement du langage naturel, quand j'étais encore proche de la communauté AI scientifique, était le «problème sémantique», qui est, la difficulté d'associer un sens à des mots dans un programme informatique. Ce que nous avons appris au cours des dernières décennies est que le langage naturel ne peut être compris par le biais de méthodes formelles. Grammaire, règles syntaxiques, lexicographie ne peut pas vous aider à bien sans une «référence sémantique» qui est nécessaire pour comprendre, même pour désambiguïser, beaucoup de phrases qui font de notre vie quotidienne. D'une certaine manière, il faut une base de phénoménologie pour comprendre l'homme et d'être en mesure de discuter de façon convaincante.

La véritable révolution qui se passe progressivement est que le Web peut être utilisé comme cette « fondation phénoménologique ». Cela a été expliqué à moi il y a de nombreuses années par Claude Kirchner lors d' une conférence à l'NATF : si vous êtes un ordinateur et devez penser "de l' expérience" d'un chien, pourquoi ne pas utiliser le réseau de millions de documents retournés par une recherche Google avec la requête «chien» comme référence de laphénoménologie? Elle nécessite d' énormes quantités de calcul et de stockage, mais il est de plus en plus réalisable. Dans toute sa richesse, la diversité et des liens avec d' autres expériences, ce nuage de documents (texte / image / vidéo / ..) fait une base solide pour répondre à bon savoir-questions sur les chiens. Ceci est un départ des approches précédentes où l'énorme quantité de sources disponibles sur le web est utilisé pour produire des «abstractions» (concepts qui sont représentés par les vecteurs de bits produits par des techniques telles que l' indexation sémantique latente de mon défunt ami Thomas Landauer ). L'idée ici est de garder l'ensemble du réseau de document en mémoire comme un substitut à l'expérience d' un chien. Je suis un peu lourd ici -one pourrait dire qu'il est un apprentissage en profondeur paresseux -, car il est un point clé lorsque l' on veut comprendre quand nous pouvons obtenir AI forte largement disponible: il est pas la même chose d'avoir l'ensemble des documents stockés dans votre cerveau d'ordinateur ou de construire un modèle grâce à laformation. Ceci est, pour moi, un point clé puisque nous avons appris d'autres scientifiques qu'il est très difficile de laperception et de la pensée séparée, car il est difficile de séparer le corps et l' esprit. Une référence évidente qui vient à l'esprit est Alain Berthoz et son travail sur la vue (par exemple, vous pouvez lire son livre sur décision ).

Dans un premier indice que l'accès à énorme quantité de données construit la capacité de comprendre des textes, nous avons commencé à voir des progrès significatifs dans le traitement du langage naturel (NLP) et nous sommes tenus de voir beaucoup plus quand plus de stockage et plus de puissance de traitement deviennent disponibles . La PNL est l' une des principales priorités pour le programme Facebook AI que je l' ai mentionné plus tôt . Il est également une priorité pour Google, d' Apple et beaucoup, beaucoup d' autres.Il existe déjà un certain nombre de signes passionnants que nous faisons des progrès. Par exemple, les ordinateurs peuvent maintenant jouer avec les mots jeux, tels que celui qui fait les tests de QI, mieux que la plupart des humains .Ce n'est pas encore un exemple de garder tous " l' expérience desconnaissances en mémoire», mais un signe que l' apprentissage en profondeur appliquée à quantité massive de données peut fonctionner assez bien. Un autre signe que la course vers la PNL fait rage est l'apparition de services qui sont principalement basées sur la réponse à desquestions. La référence évidente ici est IBM Watson, mais il y a beaucoup d' autres services innovants qui surgissent, tels que les textos services au - dessus de WeChat . Beaucoup de ces services SMS / concierge utilisent un hybride d'assistance humaine / robot, attendant la technologie pour devenir pleinement suffisante. J'entends aussi beaucoup de frustration dans mon entourage proche des lacunes de Google translate ou Apple Siri, mais le taux de progression est très impressionnant.Si vous n'êtes pas convaincu, lisez cet article passionnant sur la formation d'IBM Watson . Au cours d' une conférence que j'ai assisté le mois dernier, Andrew McAffee utilisé le graphique (Figure 9) où vous voyez le niveau de couverture / précision atteint par les versions Watson après les versions, comme une grande illustration de la puissance de la croissance de latechnologie exponentielle.

Ceci étant dit, l' une des raisons pour lesquelles je mets l' accent sur la nécessité de la mémoire est que le ralentissement de la DRAM augmentation de capacité peut se produire plus rapidement que le déclin présumé de la loi de Moore . Il se trouve qu'il ya beaucoup de façons de continuer à augmenter la puissance de traitement, même si la vitesse est fermée à sa limite et si l' intégration (réduction du transistor dimension) est également, dans sa version à deux dimensions, pas si loin de frapper des limites strictes. D'autre part, les performances DRAM semble progresser plus lentement et avec moins deroutes pour poursuivre sa croissance. Vous pouvez jeter un oeil à la table ou le tableau suivant pour voir que la mémoire de l' ordinateur progresse plus lentement que les processeurs, qui progressent plus lentement que les disques (cette dernière partie est très bien expliqué dans " The Dilemma Innovator "). Une autre façon de voir les choses est la suivante. J'ai attendu de 1 Pb (peta-octets) de mémoire sur mon PC depuis de nombreuses années ... au début des années 90, j'ai eu quelques mégaoctets, aujourd'hui j'avoir un couple de gigaoctets. Même au TCAC précédent de 35%, il peut prendre 50 ans pour y arriver, ce qui explique pourquoi je suis plus avec le groupe de penseurs qui prédisent l' AGI survenue en 2060, parrapport au groupe optimiste (2040). D'une part, on pourrait dire que demander un Pb est beaucoup demander (il y a plusieurs façons d'obtenir ce nombre , la mienne était tout simplement 100K expériences temps 10 Go de données réelles), mais étant donné clairement que la mémoire va continuer à croître au même taux est trop optimiste.

Liaison d' un ordinateur à un très grand nombre de «expériences» en une seule étape, l'approche suivante consiste à construire des robots autonomes avec leurs propres sens. Je parle souvent le bras robotique de l'Université de Tokyo , qui est sur le point d'attraper un oeuf qui est lancé vers elle à pleine vitesse, et qui est également capable de jouer au baseball avec la précision d'un joueur professionnel. La raison de cette fête d'ingénierie est pas un algorithme incroyable, il est la vitesse incroyable à laquelle le robot voit le monde, à 50 milliers d' images par seconde. A cette vitesse, la balle ou l'œuf se déplace très lentement et l'algorithme de commande pour le bras a un travail beaucoup plus facile à réaliser. En raison de l'importance des sens, des expériences et la perception, il peut être le cas que nous voyons des progrès plus rapides des robots autonomes que cloud AI jusqu'à atteindre AGI est concerné. On pourrait dire que la meilleure façon de former une intelligence artificielle est de le laisser apprendre par la pratique, en agissant et en explorant avec un cercle complet de rétroaction ( ce qui est précisément ce qui se passe avec les DeepMind expériences de jeux d'arcade ). Cela peut signifier que les robots autonomes, qui seront clairement être équipés avec des sens de perception exceptionnelles - on peut penser à Google voiture autonome , par exemple - seront dans la meilleure situation de se développer une forme forte émergence de l' intelligence artificielle.

3. Apprentissage et décisions exigent Emotions

Pour continuer sur ce que nous pouvons apprendre de la biologie et de neurosciences, il semble clair que les ordinateurs doivent équilibrer les différents types de penser à prendre des décisions sur un large éventail de sujets, d'une manière qui apparaîtra «intelligente» à nous , les humains. Beaucoup de ma pensée pour cette section a été influencé par le livre de Michio Kaku " L'avenir de l'esprit ", mais beaucoup d' autres références pourrait être cité ici, à partir de best - seller de Damasio " l'erreur de Descartes ". L'idée clé des neurosciences est que nous avons besoin à la fois la pensée rationnelle du cortex et de la pensée émotionnelle à prendre des décisions. Les émotions semblent déclenchées principalement par " lareconnaissance des formes" circuits bas niveau du cerveau et du système nerveux. Cette distinction est également liée à laDescription du système 1 / système 2 de Kahneman . Il semble être conçu pour mélanger la logique inductive et déductive.

Michio Kaku a une façon très élégante de regarder le rôle des émotions dans le processus de la pensée. Les émotions sont une fonction «coût / évaluation» qui est câblé (grâce à l'ADN) et a évolué lentement à travers l'évolution (grâce à l'ADN), de jouer deux rôles clés. D'une part, les émotions sont une fonction d'évaluation qui est utilisée comme une méta-stratégie de recherche et d'apprendre quand on nous l'déductive, la pensée rationnelle façon. Pour les personnes formées à des problèmes d'optimisation, les émotions définissent le premier niveau de la fonction "objective". Cependant, en tant que créatures ont évolué, nous construisons nos propres objectifs, nos propres désirs et nos propres fonctions de coût pour des situations nouvelles, qui est, comment nous apprécions de nouvelles expériences. Le deuxième rôle des émotions est d'être le fondement (on pourrait dire, les ancres) pour la fonction de coût que nous cultivons par l'expérience.

Ceci est étroitement lié à un cycle clé dans la biologie que nous pourrions appeler le «cycle d'apprentissage pour les êtres vivants»: le plaisir conduit au désir, désir de la planification, de laplanification à l' action, les actions conduisent à éprouver des émotions, comme le plaisir, lapeur, la douleur, etc. J'ai entendu parler de ce cycle , il y a quelques années , alors qu'il assistait à une conférence de systèmes complexes. Il semble décrire la boucle d'apprentissage pour un grand nombre d'êtres vivants, de très simple à nous les humains. Les émotions, à lafois comme positif que le plaisir et négatifs tels que la peur, jouent un rôle clé dans ce cycle, à partir de l' évaluation des situations et la formulation de plans. Nous pouvons voir qu'une conception similaire est pertinente pour l'objectif o f générer une forte intelligence artificielle. Il est clair qu'un véritable système intelligent doit être capable de générer ses propres objectifs, ce qui est effectivement facile, comme expliqué précédemment. Simuler "volonté libre" de l'aléatoire est une tâche simple (très discutable du point de vue de la philosophie , mais efficace d'un pragmatique).Cependant, l' intelligence dans la production d'objectif , il faut utiliser une fonction objective qui peut évoluer en tant que système intelligent apprend. Émotions informatiques peuvent être utilisés comme semences (ancres) de cette fonction objectif. F ou Michio Kaku, les émotions sont heuristiques basées sur des cas qui ont été finement réglé grâce à l' évolution darwinienne pour nous faire une espèce plus adaptatives . Le mélange des émotions et le raisonnement est pas vraiment un nouveau concept dans l' IA. Il est un moyen de mélange raisonnement par cas, dans une "forme compilée" qui a été appris précédemment par la génération précédente d'instances de logiciels avec la logique duraisonnement déductif qui est «interprété» et unique à chaque instance. Ceci est clairement un modèle multi-agents (system1 vs sysytem2) qui nous rappelle « La Société de l' esprit » proposée par Marvin Minsky en 1986.

Une grande illustration de cette idée proposée par Mikio Kaku est le sens de l' humour , qui peut être décrit comme notre capacité à apprécier la différence entre ce que nous attendons (le résultat de notre propre modèle de simulation du monde) et ce qui se passe. Voici comment des farces et attrapes magiques fonctionnent. Parce que nous apprécions cette différence, nous sommes des créatures ludiques: nous aimons à explorer, d'être surpris, de jouer le jeu. Kaku fait un argument convaincant que le sens de l' humour est un  trait d'évolution clé qui favorise notre capacité d'apprentissage comme une espèce vivante. Il est également très naturel de penser que smart AIs, avec une capacité similaire à planifier et simuler en permanence ce qu'ils attendent de se produire, devrait être donné un «sens de l' humour" similaire (par exemple, l' affinité pour l'inattendu) comme une recherche "méta -stratégie". Cette remarque ramène aussi à la nécessité de «émotions» pour éviter le danger ( par exemple, la façon dont nous apprenons à ne pas jouer avec le feu). Kaku voit également l'utilisation du libre arbitre, dans le sens d'exploiter une certaine forme de hasard - avec le même débat si elle est "true" la liberté ou une astuce pour utiliser une certaine forme de générateur pseudo-aléatoire biologique -, en tant que méta-stratégie évolué comme un avantage darwinienne pour la compétition des espèces. Il prend le lièvre , par exemple, qui avait besoin de développer des chemins aléatoires pour éviter le renard. Mais un cas plus général peut être fabriqué àpartir de la théorie des jeux où l' on sait que les stratégies mixtes (qui combinent une certaine forme de choix ou «libre arbitre») sortent mieux dans une compétition que des stratégies pures (déterministes). Un point similaire et plus technique pourrait être faite à propos de l'utilisation de la randomisation dans les algorithmes de recherche , qui a fait ses preuves dans la dernière décennie comme une méta-stratégie efficace.

Je recommande fortement la lecture du livre de Michio Kaku, qui a une portée beaucoup plus grande que ce qui est discuté ici. Par exemple, les pages sur des expériences à Berkeley pour lire les pensées sont très intéressantes. Ses idées sur le rôle des émotions sont tout à fait fascinant, et faire un bon complément au livre de Kurweil que je vais discuter dans la section suivante. Pour résumer et conclure cette section, la conception des émotions informatiques est probablement la meilleure façon d'introduire une certaine forme de contrôle dans un système autonome de raisonnement émergent . Les émotions sont à la fois une amorce et un mécanisme d'échafaudage pour la culture libre arbitre. Ils constituent notre premier niveau de la fonction objective, câblé en même temps que les sens des signaux plus primitifs tels que la douleur. Comme nous apprenons à tirer des objectifs plus complexes, les plans et les ambitions, les émotions sont un mécanisme de contrôle pour garder la nouvelle fonction objective dans des limites stables. Les émotions sont en quelque sorte un mécanisme de traitement de l' information plus simple que la pensée déductive du cortex ( ce qui est la raison pourlaquelle ils travaillent plus vite dans notre corps) et ils évoluent au niveau des espèces, beaucoup plus que le niveau individuel (nous apprenons à les contrôler, de ne pas les changer) . Cela rend les émotions d'ordinateur un mécanisme qui est beaucoup plus facile à contrôler que l' intelligence émergente. Mon intuition est que cela va devenir un domaine clé pour robots intelligents autonomes.

4. La conscience est une propriété émergente de systèmes de pensée complexe

Un autre argument classique des sceptiques quant à la possibilité de l'IA forte est que les ordinateurs, contrairement à l'homme, ne seront jamais conscients de leur pensée, donc pas conscients de leurs actions. Je suis en désaccord avec cette affirmation car je pense que la conscience émergera progressivement à mesure que nous construisons des systèmes d'IA plus complexes avec un raisonnement plus profond et capacités percevoir (cf. Section 2: percevoir est aussi important que le raisonnement). Je suis conscient (jeu de mots) qu'il ya beaucoup de façons de comprendre cette déclaration et que la définition précise est l'endroit où le débat reste chaud. Ici, ma propre pensée a été influencé par le livre de Ray Kurzweil "Comment créer un esprit». Même si je ne souscris avec l'histoire complète (à savoir que tout ce dont vous avez besoin pour créer un esprit est expliqué dans ce livre), je trouve ce livre une excellente lecture pour deux raisons: il contient beaucoup de points de vue et de la substance sur l'histoire de la PNL et l'IA, et il propose un modèle de raisonnement conscient, qui est à la fois pratique et convaincante. Comme vous l'aurez deviné, ma principale préoccupation avec l'approche proposée par Kurzweil est le faible rôle joué par les sens et les émotions est sa conception d'esprit.

Ce que je prévois est un cheminement progressif vers la conscience:

Bien que je vois une progression, ce n'est pas une hiérarchie étape par étape. I t est un ensemble intégré de capacités qui émergent lors de la détection, la modélisation et les capacités de raisonnement se développent . L' émergence de la conscience est un élément clé du livre de Kurzweil, comme le montre cette citation: « À mon avis, ce qui est peut - être un subschool de panprotopsychism, est que la conscience est une propriété émergente d'un système physique complexe. Dans ce point de vue le chien est également conscient , mais un peu moins d'un humain ". La caractéristique émergente implique également qu'il est difficile de caractériser, et encore plus difficile de comprendre comment il se fait d'être. Cependant, une fois qu'une AI a atteint les quatre niveaux de capacités conscientes que je viens de décrire, il est capable de nous parler de la conscience de soi d'une manière très convaincante. On pourrait objecter que ce soit, une étroite  définition pratique de la conscience, mais je dirais qu'il est celui qui compte pratiquement, pour l' IA forte et applications robotiques autonomes. Je ne vais pas toucher à ce poste la question clé de savoir si la conscience humaine est de la même nature (une propriété émergente de nous - mêmes comme un système complexe, une caractéristique essentiellement différente de notre espèce, ou un attribut de notre âme immortelle). L' une des questions chaudes au sujet de l' IA forte est le « problème difficile de la conscience » défini par David Chambers. Les «problèmes faciles de conscience» sont des capacités d' auto-sensibilisation qui Chambers et beaucoup d' autres voient aussi facilement accessibles aux robots. " Les problèmes difficiles" qualifie pensées de réflexion à propos de ses expériences qui semblent plus difficiles à capturer avec un programme d'ordinateur / Sans essayer de répondre à cette question difficile, il est clair pour moi que la conscience exige de l' expérience, d' où l'accent que je l' ai mis sur les sens, les perceptions et les émotions . Je crois aussi que, la complexité, de détection et de raisonnement des capacités suffisantes données, l' émergence peuvent se développer "consciences artificielles» qui viendront fermer le «niveau difficile de la conscience". Il est également clair que cela va ouvrir un certain nombre de questions éthiques sur ce que nous pouvons et ne pouvons pas faire quand on expérimente avec ce type de programme AI forte. Par manque de temps, je vous renvoie au livre de James Hughes "Citizen Cyborg ", où les droits des êtres conscients émergents sont discutés.

5. Réflexions finales

Il y a beaucoup plus qui doit être dit, en particulier sur le plan philosophique de la conscience et le niveau politique sur les risques sociétaux. Donc , je ne vais pas risquer une "conclusion", je vais conclure avec quelques réflexions. Mon post précédent sur ce sujet  est âgé de près de 10 ans , mais j'ai une intuition aiguë que beaucoup suivront plus tôt que 2025 :)

Publié par Yves Caseau à 00h59

02:24 | Lien permanent | Commentaires (0) | |  del.icio.us | | Digg! Digg |  Facebook | |  Imprimer | |