ProRealTime
On y parle de tout et de rien, de l'air du temps, de nos découvertes, joies et contrariétés mais pas sur le trading ni le high tech ;)

Re: L'humanité face aux enjeux de l'intelligence artificiell

par Euraed » 14 avr. 2018 11:38

Bonjour Opak

Je viens de lire l'article. La volonté de démonstration qui s'appuie sur la réalisation de 3 conditions simultanées est extrêmement contestable.

Condition 1 Il faut que la conscience, telle qu’elle se manifeste par exemple dans la tête de tout un chacun, soit entièrement compréhensible en termes matériels. C’est là une position philosophique matérialiste.
??? Il n'est pas nécessaire de comprendre pour créer, cela peut être le fruit du hasard.

2 - Si la première condition est remplie, il faut encore que le comportement de la matière impliquée dans l’émergence de la conscience soit entièrement compréhensible en termes calculables.
Ensuite, l'auteur nous indique que cette condition a été démontrée fausse par Penrose.
Pour moi cela relève d'une pure manipulation mentale (je te laisse croire qu'il faut démontrer A alors que je vais te montrer dans quelques instants la démonstration de A barre. Donc comme je t'ai embrouillé avec la pseudo nécessité de démontrer A, j'arrive à mon cqfd) s'appuyant de surcroît sur un argument d'autorité.

3 - Enfin, si les deux premières conditions sont vérifiées, il faut que cette conscience supposément compréhensible en termes matériels uniquement, et en termes calculables et déterministes exclusivement – il s’agit ici de la conscience qui se trouve dans le cerveau de l’inventeur – soit capable de concevoir le fonctionnement d’une autre conscience, celle que l’inventeur cherche à créer.


Non mais franchement, tu ne vois pas qu'on est en plein délire ?
L'auteur cherche par tout moyen et notamment une prose brillante à démontrer une croyance...

Une analogie:
Depuis quand faudrait il plusieurs doctorats en chimie, sciences des matériaux, neurobiologie, thermodynamique etc... pour qu'un chef cuisinier puisse concocter une recette qui ravira tes papilles et ton esprit ?

Aujourd'hui la nature de la conscience est très peu connue, son origine, ses frontières...
il y a de nombreuses hypothèses.
Si l'on aborde l'intelligence et la conscience animale, on en perçoit encore plus la complexité.
Pour autant même si nous n'en comprenons que des bribes, nous percevons leur existence.

L'auteur réduit implicitement son champ de commentaires et de critiques à l'univers strictement numérique et quantifiable tel que celui du concept des machines de Turing.

Or aujourd'hui les recherches progressent sur des ordinateurs quantiques, idem sur des ordinateurs biologiques où les fonctions de transfert ne sont plus nécessairement aussi simples qu'une porte NAND, du tout ou rien.
Avec les algorithmes actuels, les développeurs ne "savent plus ce qu'il se passe" à l'échelle de chaque neurone. Ils constatent les résultantes des mécanismes implémentés.
Les calculs présentés dans l'article sont amusants mais ils ne correspondent plus à la réalité depuis longtemps, à présent avec par exemple des opérations de convolution tu peux réduire d'un facteur d'un million le nombre de neurones requis pour réaliser certaines opérations.

Enfin bref, je rejette la pertinence du lien présenté. Il ne sera utile qu'au lecteur très attentif.

Sinon, 20-25 ans.... oui ce n'est pas démontrable. Ce ne sont que des lectures cumulées.
Lorsque l'on parle d'ia forte, l'une des interrogations concerne justement le "type de conscience" qui émergera qui sera d'une nature différente de ce que nous connaissons de nous même. Au même titre que ta conscience est probablement différente de celle d'un lézard ou d'un éléphant :mrgreen:

Cela dit, aujourd'hui toutes les grandes nations et notamment les USA et la Chine sont engagées dans une course à l'ia. L'enjeu est identifié comme crucial dans la compétotoon des nations. (le fait qu'il y ait compétotoon sera regrettable pour certains, disons que c'est un fait)
Aujourd'hui les grands groupes du numérique sont le splus en pointe sur le sujet, grâce à des ressources financières allouées au sujet bien supérieures à celles que nombre d'états peuvent mobiliser. Dans certains endroits, notamment en Chine, il n'y a quasiment aucune barrière légale ou mentale pour explorer tout nouvel horizon, collecter tout type de data afin d'alimenter la croissance des ia s.

Au rythme des progrès fulgurants, deux ou trois décennies semble être l'ordre de grandeur.

Et certaines ia s faibles peuvent dès aujourd'hui réaliser des tâches intellectuelles inaccessibles à tout humain contemporain

Re: L'humanité face aux enjeux de l'intelligence artificiell

par opak35 » 14 avr. 2018 11:55

merci pour vos supers commentaires j'en attendais pas tant :top: :merci:
personnellement j'aurais été tenté de penser (tant que j'en ai le monopole biologique :mrgreen:) que se sera moins de 20 ans

Re: L'humanité face aux enjeux de l'intelligence artificiell

par plataxis » 14 avr. 2018 15:23

La notion d'expérience est émotive. La grande différence entre nous et les IA est notre émotivité, à la fois créative (art) et destructrice (guerre). Je ne crois pas à une IA émotive, par contre je redoute une IA froide et lucide qui estimerait l'intérêt de l'humanité dans son ensemble en regard de ses productions : il est probable qu'elle nous classerait comme espèce nuisible...

Re: L'humanité face aux enjeux de l'intelligence artificiell

par Euraed » 14 avr. 2018 17:30

Ah ! - et Plataxis, là il me semble que vous êtes en plein délit d'anthropomorphisme :D

Si la notion d'expérience et d'apprentissage chez l'homme est intimement reliée à la notion d'émotion, c'est en raison de son bain biologique, de ses états physiologiques. Par exemple chez les mammifères l'amygdale cérébrale joue un rôle central pour les émotions.
Notre organisme est génétiquement programmé pour avoir des réponses comportementales (exemple libération d'adrénaline) qui vont également influencer la perception, l'acquisition, la mémorisation.
Mais DOIT il en être ainsi pour toute forme d'intelligence ?

Il se trouve que l'une des caractéristiques de certaines intelligences artificielles actuelles est leur capacité ultra-rapide et phénoménale d'acquisition des expériences et... leur absence d'oubli.
C'est d'ailleurs ce qui fait froid dans le dos, il faut environ 25 à 30 ans pour produire par exemple un docteur en radiologie capable de diagnostiquer nos clichés de radio, scanner et IRM. Aujourd'hui les ia peuvent établir certains diagnostics avec un taux de succès considérablement supérieur à l'homme et pour les dupliquer il ne faut que moins d'une journée...
Dans l'état actuel, une ia peut visualiser des millions de photos pris sous n'importe quels angles et CREER par elle même le CONCEPT de chat. Il ne s'agit donc plus de leur apprendre, inculquer la notion de chat avec deux oreilles pointues, un petit nez rose etc
Et là où il nous faudrait des vies pour observer ces photos, elles sont absorbées en quelques heures. L'assimilation d'expériences est justement l'un des "trucs dingues" de ce qui est en cours de développement. Partout dans le monde, on est en train de collecter de plus en plus de datas pour alimenter et former des ias faibles.

"Vivre une expérience" c'est une chose à géométrie variable. Un non-voyant ou un anosmique vit évidemment des expériences alors qu'il est amputé d'un sens, ce qui nous laisse entrevoir que le vécu peut prendre d'autres formes.

Ce qui m'interroge de mon côté, c'est la notion de conscience. Qu'est-ce de façon générale et non anthropomorphique ?
Descartes nous disait "Je pense donc je suis" mais c'était il y a fort (trop) longtemps.

Re: L'humanité face aux enjeux de l'intelligence artificiell

par opak35 » 14 avr. 2018 23:34

on peut se demander quelle est alors la définition de l'ia forte ?

conscience d'elle meme ?
libre arbitre ?
auto apprentissage par l'expérience (ca existe deja en partie non pour l'ia faible ?)
désirs ? envies ? besoins ?

alors arrive la notion de sentiments et d'émotions
tout ce qui fait de nous des Hommes
est ce reproductible ? (systèmes reprenant le système limbique' hormonal....)

est ce qu'une ia doit n'etre qu'un lobe frontal (la partie de notre cerveau responsable de la réflexion) et une hippocampe (memoire traitement de l'information..) ou doit on lui associer le reste du cerveau et du corps ?

oui car nous faisons un tout avec notre corps sensations multiples 'hormones produites par nos glandes sexuelles et jouant sur nos perceptions reflexions et emotions ?

tout ceci est il reproductible sur une machine mécanique ? et d'ailleurs n'est il pas possible d'envisager qu'une ia forte serait un mélange de mécanique et d'organique ?
une synergie...

en somme l'ia forte sera t elle '' humaine '' ? est ce le but ?

est ce que cela sera un problème (envie de domination et de reproduction effrénée ... ) ou au contraire un atout (amour empathie partage)?
un mix des 2 ?

est ce que l'ia forte sera bonne ou mauvaise ?

est ce qu'il faut lui laisser le choix (libre arbitre)
?
y aura t il autant d'ia (personnalités) que d'humains ?

serons nous a même de rivaliser quand nos neurones seront trop peu nombreux face a la complexité de l'ia forte ?

Re: L'humanité face aux enjeux de l'intelligence artificiell

par opak35 » 14 avr. 2018 23:40

Ce qui m'interroge de mon côté, c'est la notion de conscience. Qu'est-ce de façon générale et non anthropomorphique ?
tu parles d'antropomorphisme pour la conscience
mais n'est ce pas le propre de l'Homme justement ?
un chat' un arbre'un moustique' une televison ont t'ils conscience d'eux mêmes ?

il semblerait que cela soit commun a tous les primates mais après ?

Re: L'humanité face aux enjeux de l'intelligence artificiell

par BearIsDead » 15 avr. 2018 00:20

Salut. A mon avis, l'IA actuelle n'est pas du tout déterministe. Bien au contraire => on ne comprend pas ses résultats.

Re: L'humanité face aux enjeux de l'intelligence artificiell

par BearIsDead » 15 avr. 2018 00:51

Non c'est vrai Swing. Le machine learning on ne sait pas comment il surpasse les meilleurs joueurs de poker.

Re: L'humanité face aux enjeux de l'intelligence artificiell

par Euraed » 15 avr. 2018 00:54

Non Opak, j'ai dit le contraire, à savoir il faut bien se garder de considérations anthropomorphiques pour aborder ces sujets.
Etablir un parallèle entre le créateur et son sujet est un puissant biais cognitif.
Ce serait similaire à l'idée impie pour les croyants de comparer l'homme et son créateur, d'imaginer Dieu à l'image de l'homme. (Dans l'Islam c'est même une totale hérésie)

Il me semble que pour tenter d'aborder la nature radicalement différente de formes d'intelligence qui nous seront étrangères, il pourrait être utile de comprendre les traits communs et les différences d'autres intelligences actuellement présentes sur terre dans le monde du vivant, sachant que néanmoins certains des "circuits" mammifères ont les mêmes bases et ne sont donc pas complètement aliens.
Depuis fort longtemps les chercheurs ont étudié les "cérébrolésés"; que se passe t'il lorsque des zones et fonctions sont gravement endommagées voire manquantes ?

L'année dernière il y a eu un petit événement chez facebook qui Futures assez relayé dans les médias. Deux chatbots à base d'ia, Alice et Bob, dont le rôle était de dialoguer en anglais avec des humains ont été placés "face à face".
Très rapidement ils ont amélioré leur protocole d'échange (rien que de très normal, ils ont cherché à optimiser ce pour quoi ils étaient programmés) et les messages sont devenus peu compréhensibles, c'était toujours des séquences de mots mais plus de l'anglais.

Comment dériverait une ia devenue "forte" (capable de s'autoprogrammer) est un mystère complet, quelles facultés seront développées ? aura t'elle des capacités disruptives (l'un des arguments de Penrose est de dire que seuls les mathématiciens de talent sont capables de sortir du contexte) ou ne sera t'elle capable que de programmer/dupliquer des algos déjà connus. J'aurais tendance à penser qu'il lui suffira de mimer l'évolution génétique darwinienne, essayer le hasard, juste en l'accélérant des milliards de fois...

Re: L'humanité face aux enjeux de l'intelligence artificiell

par Euraed » 15 avr. 2018 01:00

Les généticiens ont cherché au début à développer cette science en faisant par exemple appel aux mouches drosophiles, dont l'un des avantages (mis à part qu'elles ne se plaignent pas des traitements reçus et qu'il n'y a pas non plus de spa des drosophiles) est leur rapidité de reproduction.
Chez l'homme la création de plusieurs générations prend plus de temps....
un temps biologique dont pourront s'astreindre des formes plus mécaniques

Sujets similaires
Impact de l'Intelligence Artificielle sur l'économie
par Ano782345 » 14 févr. 2017 14:59 (2 Réponses)
intelligence artificielle et confiance
Fichier(s) joint(s) par Santé-Fitness » 26 janv. 2018 13:44 (6 Réponses)
Manager augmenté par l’intelligence artificielle ?
par Euraed » 01 mars 2018 12:25 (7 Réponses)
intelligence (fiscale) artificielle
par Euraed » 18 déc. 2018 04:35 (30 Réponses)
A propos de l'intelligence artificielle
par Benoist Rousseau » 18 déc. 2018 15:58 (12 Réponses)
L'intelligence artificielle Lutessia IA
par Benoist Rousseau » 24 mai 2021 14:25 (5 Réponses)
Comprendre les enjeux de l'élection aux états-unis, H & T !
Fichier(s) joint(s) par Stochastic » 06 nov. 2016 10:00 (44 Réponses)
Intelligence mentale et intelligence émotionnelle
par Richix » 19 nov. 2016 20:18 (5 Réponses)
La psychologie face aux pertes
par Devix » 15 nov. 2020 06:18 (5 Réponses)