Dans son excellent livre « 1000 cerveaux » (éditions quanto), Jeff Hawkins, spécialiste du néocortex, expose une nouvelle théorie de l’intelligence qui remet en question le deep learning responsable du succès actuel des IA. Il démontre que les réseaux neuronaux artificiels sur lesquels ces techniques reposent sont très éloignés des découvertes de son équipe sur le fonctionnement du cerveau humain.
Mille cerveaux coopérants en démocratie directe.
Plusieurs milliers de mini cerveaux organisés en réseaux ultra-collaboratifs où chacun apporte sa pierre à l’édifice et où la démocratie directe (l’art de voter continuellement) règne en lieu et place de la hiérarchie qu’on soupçonnait jusqu’ici, tels sont certains aspects des découvertes de Jeff Hawkins. Pour bien comprendre la théorie des 1000 cerveaux, il faut savoir qu’elle repose sur l’étude approfondie du néocortex. La partie « nouvelle » du cerveau : cet ajout dont l’évolution nous a dotés pour augmenter notre faculté à développer des relations sociales complexes. Il enrobe notre cerveau ancien comme une serviette pliée et repliée. Le néocortex est, pour sa part, subdivisé en colonnes néocorticales relativement uniformes, quelles que soient leurs tâches. C’est l’addition et surtout la collaboration de ces dernières qui produit l’intelligence. De par cette structure notre néocortex est extrêmement flexible. Les colonnes corticales opérant toutes de la même manière, elles peuvent aisément être affectées à des tâches différentes. Si vous apprenez un nouveau sport ou un instrument de musique, certaines colonnes vont se « dédier » à cet apprentissage, mais si vous changez d’idée en cours de route, si vous renoncez au tennis pour du piano, par exemple, aucun souci, car ces « mini-cerveaux » fonctionnent pour tout type « d’apprentissage ». À tel point que même en cas de handicape, comme une perte de la vue, les colonnes attitrées à cette tâche vont être réaffectée à l’ouïe, à l’odorat, voire au toucher, ce qui explique que les personnes n’ayant pas ou plus l’usage d’un sens « compensent » en excellant dans les autres.
Les IA actuelles ne sont pas flexibles.
À contrario, les réseaux neuronaux des IA sont fixes et très hiérarchisés. Une IA qui apprend à jouer au « go » sera dépourvue face à un échiquier et il faudra la reprogrammer totalement pour qu’elle sache comment s’y prendre pour déplacer roi, reine, fous, tours et pions sur 64 cases (il ne suffira pas de lui faire lire les règles et regarder des tutos). Cette « erreur » de conception explique pourquoi, aujourd’hui, les IA ne peuvent qu’être « hyper spécialisées » à contrario de nous, humains, qui somment extrêmement généralistes et souples dans ce que nous pouvons potentiellement apprendre. Cette différence d’architecture neuronale semble faire de l’IA globale (une IA qui pourrait répliquer toutes les fonctions du cerveau humain) un dessein sans trop d’espoir et une éventuelle nouvelle traversée du désert pour ce secteur qui en a déjà connu plusieurs. Sauf si les percées de Jeff Hawkins et son équipe sur la compréhension du cerveau servent de modèle à une nouvelle façon de concevoir les cerveaux artificiels.
Un espoir pour l’IAG (IA Globale) ?
À la lecture de ces découvertes, on ne manque pas de se demander si ces dernières ne vont pas révolutionner la conception des IA ? La théorie des 1000 cerveaux est certainement ce qu’on appelle en anglais un « breakthroug » et s’inspirer du seul exemple de production d’intelligence que nous connaissons, le cerveau, semble être l’unique voie possible. Toute percée dans la compréhension de son fonctionnement est donc une bonne nouvelle pour les concepteurs d’IA.
Des IA dangereuses ?
L’est-ce tout autant pour l’humanité ou est-ce un pas de plus vers la création de machines qui nuiront à notre espèce ? J’ai beaucoup aimé cette lecture pour les éclairages qu’elle apporte à ce sujet. D’une part, la partie du cerveau qui crée de l’intelligence, le néocortex, est dépourvue des instincts primaires du cerveau ancien, comme le besoin de survivre et de se reproduire à tout prix. Ce sont ces instincts qui peuvent induire des comportements agressifs, dominants, égoïstes ou encore manipulateurs. Aucun d’entre eux ne semble provenir du néocortex. En revanche, c’est bien l’intelligence produite par ce dernier, sous les impulsions du cerveau ancien, qui met aujourd’hui l’humanité en danger d’extinction (pensez à la bombe atomique ou à l’épuisement des ressources). Cela dit, une réplication du fonctionnement de notre néocortex sans les impulsions du cerveau ancien aurait pour effet la production d’une intelligence « neutre ». Il faudrait que les machines soient également dotées « d’instincts », qu’elles ressentent le froid, la faim, la peur de mourir, le besoin de se reproduire pour que leur intelligence perde son objectivité et soit mise au service de besoins primaires.
Quel avantage à produire des IA instinctives ?
Compte tenu du travail de compréhension et de développement que va demander la reproduction artificielle du néocortex et au vu de la complexité additionnelle de faire de même pour le cerveau ancien et d’intégrer les deux (pour un bénéfice nul en production d’intelligence supplémentaire) l’avantage d’une telle entreprise parait bien maigre. Les futures IA pourraient donc avoir le potentiel de créer énormément d’intelligence, mais elles n’auront pas un comportement semblable à l’humain ou aux animaux. Ce sera donc, comme pour toutes ses inventions, l’Homme qui décidera de leur application. Jeff Hawkins ne voit pas de danger provenant de l’IA a proprement parler et je dois dire que sa démonstration, basée sur une connaissance profonde du cerveau, est convaincante. Le danger reste entièrement dans les mains humaines… rien de nouveau à l’horizon !
Quand est-il de la conscience ?
La théorie des 1000 cerveaux ne la traite pas, ou que très chichement. Elle s’applique a démontrer comment le cerveau crée ce que j’appelle la conscience-mental dans mon livre « Devenez génial ». La conscience-esprit, le fait que notre corps soit un émetteur-récepteur d’information exogène, n’entre pas dans le champ d’explication de cette théorie. On devine que l’auteur a une vue matérialiste de la Vie, cependant il ne met guère plus qu’un demi-orteil dans l’eau de ce débat. Et c’est très bien ainsi, à chacun sa zone de génie. J’ai surtout compris, à la lecture de ces travaux, qu’il y’a encore plus à découvrir sur la production de l’intelligence dite intellectuelle (de type Q.I.) et de la conscience-mental que ce que j’imaginais, et cela sans même compliquer le sujet par l’ajout d’une conscience-esprit. En effet, si une nouvelle théorie de production de notre intelligence voit le jour, si elle demande une refonte de la manière dont les IA sont actuellement programmées, alors l’humain dominera encore les machines en intelligence pure pour le moment, sans même parler des autres formes, comme l’intelligence intuitive et innovatrice évoquée dans « Devenez génial ». Cela n’enlève cependant rien au danger des IA à tâche unique capables d’exceller dans leur microdomaine et qui, comme lors de l’arrivée de l’automation dans les usines, vont immanquablement changer le paysage du travail et les facultés qui seront demandés aux employés « humains ».
Yorumlar