L'humanité face aux enjeux de l'intelligence artificielle

Bonjour Opak

Je viens de lire l'article. La volonté de démonstration qui s'appuie sur la réalisation de 3 conditions simultanées est extrêmement contestable.

Condition 1 Il faut que la conscience, telle qu’elle se manifeste par exemple dans la tête de tout un chacun, soit entièrement compréhensible en termes matériels. C’est là une position philosophique matérialiste.
??? Il n'est pas nécessaire de comprendre pour créer, cela peut être le fruit du hasard.

2 - Si la première condition est remplie, il faut encore que le comportement de la matière impliquée dans l’émergence de la conscience soit entièrement compréhensible en termes calculables.
Ensuite, l'auteur nous indique que cette condition a été démontrée fausse par Penrose.
Pour moi cela relève d'une pure manipulation mentale (je te laisse croire qu'il faut démontrer A alors que je vais te montrer dans quelques instants la démonstration de A barre. Donc comme je t'ai embrouillé avec la pseudo nécessité de démontrer A, j'arrive à mon cqfd) s'appuyant de surcroît sur un argument d'autorité.

3 - Enfin, si les deux premières conditions sont vérifiées, il faut que cette conscience supposément compréhensible en termes matériels uniquement, et en termes calculables et déterministes exclusivement – il s’agit ici de la conscience qui se trouve dans le cerveau de l’inventeur – soit capable de concevoir le fonctionnement d’une autre conscience, celle que l’inventeur cherche à créer.


Non mais franchement, tu ne vois pas qu'on est en plein délire ?
L'auteur cherche par tout moyen et notamment une prose brillante à démontrer une croyance...

Une analogie:
Depuis quand faudrait il plusieurs doctorats en chimie, sciences des matériaux, neurobiologie, thermodynamique etc... pour qu'un chef cuisinier puisse concocter une recette qui ravira tes papilles et ton esprit ?

Aujourd'hui la nature de la conscience est très peu connue, son origine, ses frontières...
il y a de nombreuses hypothèses.
Si l'on aborde l'intelligence et la conscience animale, on en perçoit encore plus la complexité.
Pour autant même si nous n'en comprenons que des bribes, nous percevons leur existence.

L'auteur réduit implicitement son champ de commentaires et de critiques à l'univers strictement numérique et quantifiable tel que celui du concept des machines de Turing.

Or aujourd'hui les recherches progressent sur des ordinateurs quantiques, idem sur des ordinateurs biologiques où les fonctions de transfert ne sont plus nécessairement aussi simples qu'une porte NAND, du tout ou rien.
Avec les algorithmes actuels, les développeurs ne "savent plus ce qu'il se passe" à l'échelle de chaque neurone. Ils constatent les résultantes des mécanismes implémentés.
Les calculs présentés dans l'article sont amusants mais ils ne correspondent plus à la réalité depuis longtemps, à présent avec par exemple des opérations de convolution tu peux réduire d'un facteur d'un million le nombre de neurones requis pour réaliser certaines opérations.

Enfin bref, je rejette la pertinence du lien présenté. Il ne sera utile qu'au lecteur très attentif.

Sinon, 20-25 ans.... oui ce n'est pas démontrable. Ce ne sont que des lectures cumulées.
Lorsque l'on parle d'ia forte, l'une des interrogations concerne justement le "type de conscience" qui émergera qui sera d'une nature différente de ce que nous connaissons de nous même. Au même titre que ta conscience est probablement différente de celle d'un lézard ou d'un éléphant

Cela dit, aujourd'hui toutes les grandes nations et notamment les USA et la Chine sont engagées dans une course à l'ia. L'enjeu est identifié comme crucial dans la compétotoon des nations. (le fait qu'il y ait compétotoon sera regrettable pour certains, disons que c'est un fait)
Aujourd'hui les grands groupes du numérique sont le splus en pointe sur le sujet, grâce à des ressources financières allouées au sujet bien supérieures à celles que nombre d'états peuvent mobiliser. Dans certains endroits, notamment en Chine, il n'y a quasiment aucune barrière légale ou mentale pour explorer tout nouvel horizon, collecter tout type de data afin d'alimenter la croissance des ia s.

Au rythme des progrès fulgurants, deux ou trois décennies semble être l'ordre de grandeur.

Et certaines ia s faibles peuvent dès aujourd'hui réaliser des tâches intellectuelles inaccessibles à tout humain contemporain

merci pour vos supers commentaires j'en attendais pas tant
personnellement j'aurais été tenté de penser (tant que j'en ai le monopole biologique ) que se sera moins de 20 ans

La notion d'expérience est émotive. La grande différence entre nous et les IA est notre émotivité, à la fois créative (art) et destructrice (guerre). Je ne crois pas à une IA émotive, par contre je redoute une IA froide et lucide qui estimerait l'intérêt de l'humanité dans son ensemble en regard de ses productions : il est probable qu'elle nous classerait comme espèce nuisible...

Ah ! - et Plataxis, là il me semble que vous êtes en plein délit d'anthropomorphisme

Si la notion d'expérience et d'apprentissage chez l'homme est intimement reliée à la notion d'émotion, c'est en raison de son bain biologique, de ses états physiologiques. Par exemple chez les mammifères l'amygdale cérébrale joue un rôle central pour les émotions.
Notre organisme est génétiquement programmé pour avoir des réponses comportementales (exemple libération d'adrénaline) qui vont également influencer la perception, l'acquisition, la mémorisation.
Mais DOIT il en être ainsi pour toute forme d'intelligence ?

Il se trouve que l'une des caractéristiques de certaines intelligences artificielles actuelles est leur capacité ultra-rapide et phénoménale d'acquisition des expériences et... leur absence d'oubli.
C'est d'ailleurs ce qui fait froid dans le dos, il faut environ 25 à 30 ans pour produire par exemple un docteur en radiologie capable de diagnostiquer nos clichés de radio, scanner et IRM. Aujourd'hui les ia peuvent établir certains diagnostics avec un taux de succès considérablement supérieur à l'homme et pour les dupliquer il ne faut que moins d'une journée...
Dans l'état actuel, une ia peut visualiser des millions de photos pris sous n'importe quels angles et CREER par elle même le CONCEPT de chat. Il ne s'agit donc plus de leur apprendre, inculquer la notion de chat avec deux oreilles pointues, un petit nez rose etc
Et là où il nous faudrait des vies pour observer ces photos, elles sont absorbées en quelques heures. L'assimilation d'expériences est justement l'un des "trucs dingues" de ce qui est en cours de développement. Partout dans le monde, on est en train de collecter de plus en plus de datas pour alimenter et former des ias faibles.

"Vivre une expérience" c'est une chose à géométrie variable. Un non-voyant ou un anosmique vit évidemment des expériences alors qu'il est amputé d'un sens, ce qui nous laisse entrevoir que le vécu peut prendre d'autres formes.

Ce qui m'interroge de mon côté, c'est la notion de conscience. Qu'est-ce de façon générale et non anthropomorphique ?
Descartes nous disait "Je pense donc je suis" mais c'était il y a fort (trop) longtemps.

on peut se demander quelle est alors la définition de l'ia forte ?

conscience d'elle meme ?
libre arbitre ?
auto apprentissage par l'expérience (ca existe deja en partie non pour l'ia faible ?)
désirs ? envies ? besoins ?

alors arrive la notion de sentiments et d'émotions
tout ce qui fait de nous des Hommes
est ce reproductible ? (systèmes reprenant le système limbique' hormonal....)

est ce qu'une ia doit n'etre qu'un lobe frontal (la partie de notre cerveau responsable de la réflexion) et une hippocampe (memoire traitement de l'information..) ou doit on lui associer le reste du cerveau et du corps ?

oui car nous faisons un tout avec notre corps sensations multiples 'hormones produites par nos glandes sexuelles et jouant sur nos perceptions reflexions et emotions ?

tout ceci est il reproductible sur une machine mécanique ? et d'ailleurs n'est il pas possible d'envisager qu'une ia forte serait un mélange de mécanique et d'organique ?
une synergie...

en somme l'ia forte sera t elle '' humaine '' ? est ce le but ?

est ce que cela sera un problème (envie de domination et de reproduction effrénée ... ) ou au contraire un atout (amour empathie partage)?
un mix des 2 ?

est ce que l'ia forte sera bonne ou mauvaise ?

est ce qu'il faut lui laisser le choix (libre arbitre)
?
y aura t il autant d'ia (personnalités) que d'humains ?

serons nous a même de rivaliser quand nos neurones seront trop peu nombreux face a la complexité de l'ia forte ?

Ce qui m'interroge de mon côté, c'est la notion de conscience. Qu'est-ce de façon générale et non anthropomorphique ?

tu parles d'antropomorphisme pour la conscience
mais n'est ce pas le propre de l'Homme justement ?
un chat' un arbre'un moustique' une televison ont t'ils conscience d'eux mêmes ?

il semblerait que cela soit commun a tous les primates mais après ?

Salut. A mon avis, l'IA actuelle n'est pas du tout déterministe. Bien au contraire => on ne comprend pas ses résultats.

Non c'est vrai Swing. Le machine learning on ne sait pas comment il surpasse les meilleurs joueurs de poker.

Non Opak, j'ai dit le contraire, à savoir il faut bien se garder de considérations anthropomorphiques pour aborder ces sujets.
Etablir un parallèle entre le créateur et son sujet est un puissant biais cognitif.
Ce serait similaire à l'idée impie pour les croyants de comparer l'homme et son créateur, d'imaginer Dieu à l'image de l'homme. (Dans l'Islam c'est même une totale hérésie)

Il me semble que pour tenter d'aborder la nature radicalement différente de formes d'intelligence qui nous seront étrangères, il pourrait être utile de comprendre les traits communs et les différences d'autres intelligences actuellement présentes sur terre dans le monde du vivant, sachant que néanmoins certains des "circuits" mammifères ont les mêmes bases et ne sont donc pas complètement aliens.
Depuis fort longtemps les chercheurs ont étudié les "cérébrolésés"; que se passe t'il lorsque des zones et fonctions sont gravement endommagées voire manquantes ?

L'année dernière il y a eu un petit événement chez facebook qui Futures assez relayé dans les médias. Deux chatbots à base d'ia, Alice et Bob, dont le rôle était de dialoguer en anglais avec des humains ont été placés "face à face".
Très rapidement ils ont amélioré leur protocole d'échange (rien que de très normal, ils ont cherché à optimiser ce pour quoi ils étaient programmés) et les messages sont devenus peu compréhensibles, c'était toujours des séquences de mots mais plus de l'anglais.

Comment dériverait une ia devenue "forte" (capable de s'autoprogrammer) est un mystère complet, quelles facultés seront développées ? aura t'elle des capacités disruptives (l'un des arguments de Penrose est de dire que seuls les mathématiciens de talent sont capables de sortir du contexte) ou ne sera t'elle capable que de programmer/dupliquer des algos déjà connus. J'aurais tendance à penser qu'il lui suffira de mimer l'évolution génétique darwinienne, essayer le hasard, juste en l'accélérant des milliards de fois...

Les généticiens ont cherché au début à développer cette science en faisant par exemple appel aux mouches drosophiles, dont l'un des avantages (mis à part qu'elles ne se plaignent pas des traitements reçus et qu'il n'y a pas non plus de spa des drosophiles) est leur rapidité de reproduction.
Chez l'homme la création de plusieurs générations prend plus de temps....
un temps biologique dont pourront s'astreindre des formes plus mécaniques

Euraed un plaisir de te lire tu fais avancer ma réflexion (comme je n'y connais pas grand chose)

Opak

D'ailleurs l'un des mécanismes fondamentaux du deep learning est ce que l'on appelle la rétropropagation par gradient d'erreur. En gros, tu balances des hypothèses et tu compares le résultat à ce qui serait attendu, et tu modifies les poids de chaque neurone jusqu'à obtenir le bon résultat. Tu moulines cela sur des cycles et des cycles et le réseau a éliminé les mauvaises configurations pour ne retenir que la meilleure. Une forme de Darwinisme

on a aucune chance a terme de rivaliser contre !

c'est pour ca que je parle d'émotions de sentiments et de notions de bonnes / mauvaises ia

sans conscience 'notion d'empathie de culpabilité ON EST MORT

Pas forcément, en fait personne ne sait mais ...il y a des risques.

Pas sûr que l'introduction d'émotions soit garante de "sagesse"

Mais il y en a qui réfléchissent à cela, comment introduire de l'éthique. Question qui suit immédiatement après, mais quelle éthique ??

Notons que l'étude des cérébro-lésés a montré où se situaient les zones requises à la formation de la notion du bien et du mal. Certains accidentés ont ensuite vécu sans ne pouvoir faire aucune distinction entre les deux notions... (et quelques uns sans même une lésion sont aussi plus ou moins dans cet état )

Pour le poker
https://dataanalyticspost.com/bluffant-quand-lintelligence-artificielle-joue-au-poker/

comme les psychopates qui ont un déficit structurel dans une partie du cerveau les rendant incapables de la moindre empathie

Certaines recherches scientifiques récentes nous montrent que la structure physiologique du cerveau du psychopathe, un individu dont le comportement est fortement antisocial, impulsif, pour lequel l’autre n’existe pas et qui est sans la moindre conscience des conséquences de ses actes, comportement qui se rapproche fortement de celui du manipulateur pervers narcissique, comporte certaines anomalies de types structurelles

.

une ia psychopathe ?

Au fait, il a peut être été publié ailleurs sur le site mais voici le rapport Villani 'Donner un sens à l'intelligence artificielle'

https://www.aiforhumanity.fr/pdfs/9782111457089_Rapport_Villani_accessible.pdf

Les ia faibles (spécialisées, non autonomes, non conscientes) c'est maintenant, c'est très évolutif et il y a besoin de beaucoup de ressources scientifiques pour les mettre au point. Les services qui en sont attendus repoussent beaucoup de frontières (ex: doubler le taux de succès d'identification à la naissance de futurs chiens d'aveugles donc en baisser le coût par deux et en doubler le nombre)
et c'est parce que les promesses de services sont exceptionnelles que la course en avant s'accélèrera encore et encore.

Jusqu'au moment où devrait émerger, progressivement, des états partiels de conscience. Cela devrait être des périodes indistinctes, entre la nuit et l'aube, avant que n'émerge quelque chose de différent.

Il y a probablement des chercheurs qui travaillent activement sur ce sujet car la terra incognita a toujours fascinée certains d'entre nous, les plus explorateurs, le don humain de la curiosité.

Ainsi les questions ne se posent pas et ne se poseront pas en terme de "DEVOIR ou pas aller dans le sens d'une intelligence supérieure", c'est déjà complètement à l'oeuvre. Pour moi c'est juste un fait, une réalité et rien ne l'arrêtera, tout comme par exemple rien n'a arrêté notre soif de découverte du sub-atomique, de l'origine de l'univers etc etc.

Donc nous allons bel et bien vers d'autres formes d'intelligence qui seront invitées de plus en plus souvent à nos côtés.

Mon propos est alors de dire qu'il est extrêmement complexe, voire même illusoire, de percevoir et comprendre la nature de ce que pourront être ces nouvelles formes d'intelligence. Et je prends pour exemple mon incapacité à comprendre l'intelligence animale, celle de mon chien, d'un cétacé etc...
Il me semble que s'exposer à une tentative de compréhension, c'est mieux s'ouvrir à d'autres formes de vie/intelligences différentes.

Je vais te donner un exemple vécu. Un jour je découvre qu'un gars de mes équipes, philippins d'une île perdue, mange du chien. Pour lui c'est naturel, pour moi cela ne l'est pas, cela a même tendance à déclencher un sentiment de dégoût. Bon, je ne le juge pas, il a été éduqué/programmé comme cela par l'environnement, tout comme j'ai des attitudes certainement choquantes pour lui.
S'ouvrir à des cultures humaines différentes, ce n'est pas facile, j'ai trébuché de nombreuses fois comme celle-ci. Et pourtant nous sommes génétiquement quasiment identiques.
Il n'a pas choisi d'être ainsi, IL EST. Tout simplement il est là, tel quel.

Demain nous serons probablement exposés à de nouveaux êtres/entités, initiés par nous et bien plus différents.

Et afin de tenter de percevoir les différences, l'exercice de perception de ce qu'est l'intelligence de mon chien ou d'un dauphin, que je suppose fort différente de la mienne, est en quelque sorte initiatique.
Je considère par exemple qu'un chien a une conscience.
Un chat également, idem pour un dauphin.
Une souris a t'elle une conscience ?

On voit alors que ces questions qui n'ont que des réponses difficiles et controversées nous entraînent vers une tentative de définition de ce qu'est une conscience.

En conclusion, définir à quel moment une IA deviendra forte est en fait très complexe. Cela appellera une définition plus précise et arbitraire de ce que seront les critères et leur mode d'évaluation.

Je poursuis mes réflexions et investigations sur le sujet.

Je vous conseille vivement la lecture de l’ouvrage « superintelligence » rédigé par Nick Bostrom. En français c’est aux éditions Dunod, quai des sciences. 28 euros
Ce Livre unique à été traduit en 19 langues il rassemble et synthétise une masse d’informations et réflexions scientifiques sur le sujet de l’émergence d’une superintelligence et par conséquent de ce que l’on pourrait nommer la,post-Humanité. L’auteur s’interroge sur les voies pour y parvenir, sur les difficultés que la recherche d’une intelligence supérieure va nous poser et comment les résoudre etc

L’éditeur souligne en post face que sa lecture est conseillée par Élon Musk « À lire absolument... » et Bill Gates « Je recommande vivement... »

Nick Bostrom est philosophe, prof à Oxford et directeur du Future of Humanity Institute et directeur du Strategic Artificial Intelligence Research Center.

Cette lecture est édifiante, à mes yeux c’est un Must Read pour tout citoyen.

La lecture N’est pas toujours très simple et elle renvoie à de multiples notes en fin d’ouvrage (thèses, travaux de recherche...) ceci afin de néanmoins maintenir un style relativement clair et abordable. Exercice réussi.