L'humanité face aux enjeux de l'intelligence artificielle

[BearIsDead]

Merci Euraed. Je le mets dans ma TODO.

[Euraed]

Eh bien cela promet quelques échanges surnaturels pour les lecteurs de passage

[cuitaslesbananas]

oui d'ailleurs le gars qui avait fait un doigt d'honneur à un radar automatique a été relaxé par le tribunal car il n'existe pas dans le droit français d'outrage à une machine...

ça changera peut-etre bientot :musique:

"L'outrage à une machine n'existe pas en droit donc l'outrage à une personne par extension n'existe pas non plus", a déclaré l'avocat du prévenu

[cuitaslesbananas]

il n'y a pas eu outrage par extension puisque les machines ne peuvent etre offensées

avec les ia ça changera peut-etre

edit = mdr oui

[Scalpeur-Futures]

Si oui n'hésite pas à demander pardon à ton algo avant qu'il porte plainte, si il n'est pas très rancunier tu pourras peut-être t'en tirer
La susceptibilité et l'intelligence ne font pas toujours bon ménage il faudra être prudent avec ces bébêtes

[Euraed]

Voici un document d'une grande qualité, une belle recherche épistémologique sur le thème "Cerveau et conscience", auteur B Lambert.
https://www.asmp.fr/travaux/gpw/philosc/rapport3/8lambert.pdf

Sa lecture est ardue, néanmoins je la conseille vivement à toute personne qui souhaiterait approfondir ce thème de l'ia.

[Benoist Rousseau]

c'est là que je commence à avoir peur. Impressionnant et terrifiant

[BearIsDead]

Merci Euraed, .

Car bien évidemment l'algorithme de cet IA n'avait absolument pas été programmé pour cette fonctionnalité cognitive spécifique du repérage spatial. Néanmoins les chercheurs espéraient voir émerger des capacités non programmées dans le cadre du deep learning.

Attention aux boîtes noires quand même...

[Benoist Rousseau]

c'est une IA schizophrène qui me fait peur. J'en supporte déjà suffisamment sur le net. Blague à part (hélas pas une blague), une IA pourra souffrir de troubles comportementaux si elle se développe par elle-même, ce n'est pas à exclure

[Euraed]

Il "faudrait" lire le bouquin que j'ai conseillé ci-dessus "Superintelligence".
Vous réaliserez alors pourquoi nous sommes au bord (à l'échelle de l'histoire humaine) d'un précipice vertigineux.

On ne sait pas aujourd'hui quelle sera la vitesse de développement d'une IA forte mais il y aura une "singularité" à partir de laquelle cela pourrait évoluer de façon exponentielle, et il n'est intellectuellement pas exclus que cela puisse se faire en quelques minutes.
J'ai conscience que ces propos sont "trop" forts et alarmistes. C'est la raison pour laquelle j'invite chacun à acquérir des connaissances sur le sujet.

Cela tombe un peu comme un cheveu sur la soupe mais je vous trace à la hache les étapes de ce qui va arriver, à quelques différences de scénario près, car les technos sont aujourd'hui disponibles et ensuite c'est ue question d'enchaînements d'accélérations toujours croissantes.

1. Le cerveau numérique est gigantesquement plus puissant qu'un cerveau biologique (c'est lié à la rapidité de transfert physiquement limitée des informations entre neurones)

2. Par sélection répétée des embryons selon leurs caractéristiques génétiques, on peut créer aujourd'hui des humains supérieurement intelligents. Je vais droit au but même si cela choque: ceci est accepté par la société (exemple 96% des parents informés d'une trisomie décident d'un avortement) et là où pour diverses raisons (religieuses, ethiques etc) ceci ne l'est pas, les populations pousseront en ce sens.
Cela deviendra de toute façon un enjeu stratégique majeur (une nation disposant d'un milliers d'Einstein et Leibniz dominera le monde....)

3. Ainsi si les progrès scientifiques actuels sont insuffisants, demain de multiples esprits parmi les plus brillants n'ayant jamais existé sur terre travailleront sur le sujet.

4. Une autre voie s'ouvre, non mentionnée par les médias, celle de l'émulation de cerveau. En gros, on scanne à l'échelle moléculaire un cerveau et on le copie.... il y a d'autres voies mais plus exotiques, celle de la culture de tissu neuronal, voie "normale", et surtout dans l'exotisme et la rareté celle de manipulations génétiques entre animal à gros cerveau et homme)

Il n'y a donc pas que la voie dont on parle tous, celle des IAs actuelles dans un ordinateur. C'est la plus commune et la plus visible.

5. Le moment critique, la "singularité" sera celle où l'IA sera capable de s'autoprogrammer donc de s'auto-augmenter.
A l'échelle du numérique, de la vitesse de la lumière une IA qui aurait accès aux ressources du réseau distribué mondialement sera, pour faire simple, capable de faire monter elle-même son QI de 120 à 140 (ces chiffres ne sont que des exemples, on ne sait pas aujourd'hui à partir de quel "QI" au sens général le phénomène risque de s'enclencher). Ainsi dotée de nouvelles ressources intellectuelles à 140, elle sera en mesure de s'auto-améliorer à 180, puis de 180 à 300, de 300 à 600 etc... jusqu'à atteindre des dimensions inconcevables et qui n'ont plus de sens pour nous où l'on pourrait évoquer un QI de 6000.
Une dimension où l'écart entre cette IA(s) et nous même serait similaire à celui qui existe entre nous même et une souris (peut être même un ver).
C'est cette phase d'accélération vertigineuse qu'il nous faudrait maîtriser en sachant que...nous n'en aurons peut être même pas conscience ou beaucoup trop tard.
Certains scientifiques réfléchissent donc à comment possiblement accompagner cela, introduire des notions d'éthique etc...

Ce ne sont que quelques mots brutaux et caricaturaux, car hors contexte, je vous invite à lire ce livre
Au moins vous saurez, la seule inconnue à 10-20 ans près c'est quand ? mais avant la fin de ce siècle et c'est inéluctable (sauf à détruire l'homme où le renvoyer à l'âge du bronze maintenant).

[BearIsDead]

Oui mais on pourrait "imaginer" une autonomie un minimum "supervisée". Pour DeepMind, disons que tant qu'on ne lui confie pas les clés de la maison je n'ai rien contre. Aujourd'hui elle apprend à se repérer dans l'espace, très bien, je n'ai rien contre un robot domestique par exemple. En revanche ce qui m'inquièterait serait si on injecte ce type d'IA dans des domaines ultra sensibles.

[Euraed]

Techniquement ce sont aujourd'hui les réseaux à apprentissage "non supervisé" qui ont le vent en poupe et ce sont les apprentissages spontanés qui sont les plus "fascinants". Autre exemple une IA qui découvre par elle même le concept de "chat" en décryptant des centaines de milliers de photos.

[BearIsDead]

Oui, et ça ne me semble pas positif l'ami. Tu parles d'introduire une dose "d'éthique", je ne vois pas comment c'est possible dans un système qu'on ne comprend absolument pas. Merci pour ton résumé, passionnant !

[Benoist Rousseau]

Merci Euraed livre commandé

[Euraed]

Pour avoir ce goût et cette éducation d'historien, notamment ce recul, tu connais parfaitement cette notion d'accélération croissante du développement humain.
Notamment si l'on s'inscrit sur l'échelle de temps du développement biologique depuis les premières cellules jusqu'à nous, les temps pour évoluer d'une génération à l'autre se réduisent en facteur exponentiel.
En fait l'homme tel que nous le connaissons, tel que nous sommes va disparaître. Nous sommes les cro-magnons de demain...
Ce qui ne m'empêche pas d'apprécier la vie présente et d'être aussi heureux, voire plus, qu'un néanderthalien

[Euraed]

J'ai découvert un film très intéressant hier soir sur ce sujet
Une romance avec une IA

Un film qui vous laissera avec un questionnement personnel


dispo sur netflix

[Benoist Rousseau]

Merci film de ce soir j’en ferai une review

[kenzo94]

Vu au ciné ... super pour dormir ...

[Benoist Rousseau]

Oui - on disait mot pour mot la même chose lors des deux révolutions industrielles, l'électricité, la mécanisation des champs, l'internet, rien de neuf, cela fait parti des rêves humains depuis l'antiquité. J'ai déjà lu ces textes 100 fois à 100 époques différentes. Bref il a fait un gros plagiat

[brucy]

Hello

Je me rappelle de cette petite discussion , qui avais provoque moult débats interessants

Par un melange de force des choses et de hasard , ironiquement je me suis retrouve a bosser dans ce secteur comme entrepreneur , pour/avec Softbank et d autres acteurs du domaine..peux être que c était mon destin

Plus que jamais j'ai conclu que L intelligence artificielle , ca peux vouloir dire beaucoup de choses ou pas grand chose a la fois.

Perso avant mon diplôme de financial adviser , j 'était dans l industrie de la conception 3d , outil de cloud computing etc , je devais avoir 21 22 ans , c'était encore experimental , mais la direction prise ces 2 dernières années m'a fort intéressé.

Maintenant , le job consiste a utiliser et modifier des sdk de realitee augmentee , balancer 3 camera , 1 laser , une armoire de serveurs , et on a un truc a peu près equivalent a un oeil humain , (avec une focale de 110 degrés , certes).
Partant de ca , on se base sur du determinisme et des statistiques.

Si c'est vert et sous mes pieds , c'est surement du gazon. si c'est noir , brilliant , et détaché d'un mur , c'est surement un écran de tele (on va dire a 76% de chance) , et un truc avec 4 pieds et un plateau par dessus , ca dois être une table. (évidemment , un algo ne peux pas apprendre par lui meme qu'on peux poser une pomme sur une table ou, mais il peux déduire que c'est possible , étant donne qu'il y trouve une surface plane horizontale et que la lumière arrive dessus) , de meme qu'il peux utiliser le wifi pour afficher quelque chose *si* il trouve un écran , par exemple.


Toujours aucune certitudes , mais des millions de points (un point cloud , techniquement). A partir de la , on peux concevoir que chaque centimetre carre peux être "connu" , et par exemple , un drone / robot avec un model de déplacement suffisamment élaboré peux élaborer la topologie precise d un endroit n'importe ou sur terre , sans avoir besoin de qr codes , markers ou repère tridimensionnels..ca marche aussi bien pour mon salon qu'un parc ou n importe quoi d'autre (et c'est stocke sur un gros disque dur , hello privacy)

Je ne sais pas exactement si ca correspond a la fraction d'une intelligence artificielle , mais ma propre petite intelligence est mise a très forte contribution ces temps ci