Les algos dominent le monde, vraiment ? Ils seraient plus forts que les humains ?
Trois petits exemples pour montrer qu'ils ne sont jamais que le pâle reflet des présupposés pas forcément intelligents de leurs concepteurs et eux-même dénués de raison.
Les algos de facebook ont involontairement créé le phénomène QAnon en tirant des conclusions hâtives des clics des internautes. Ils ont commencé par exposer cette théorie aux conspirationnistes- ça se défend même si c'est exploiter la bassesse humaine. Puis à ceux qui croient que la terre est plate -ça commence à être tordu comme raccourci. Et finalement à quasi tous les admirateurs de Trump. Disons que ça les a pas tirés vers le haut.
Une banque US a du stopper en vitesse un algo d'aide à l'octroi des prêts. Celui-ci se basant sur des arrondis ridicules des statistiques de délinquance et de défauts de paiement, en est arrivé "grâce" à l'auto-apprentissage à refuser systématiquement les demandes de prêts des Noirs. Gageons que si on l'avait laissé faire, après leur avoir ôté tout espoir de s'élever socialement et vu la dégradation des stats induite, il aurait fini par préconiser de faire naître leurs bébés directement en prison.
Pour finir plus gentiment, voici le résultat de l'algo de suggestion de Spotify créé par des développeurs parmi les plus brillants du monde. Quel gâchis mais ceci est une autre histoire.
Sans commentaires ...
Trois petits exemples pour montrer qu'ils ne sont jamais que le pâle reflet des présupposés pas forcément intelligents de leurs concepteurs et eux-même dénués de raison.
Les algos de facebook ont involontairement créé le phénomène QAnon en tirant des conclusions hâtives des clics des internautes. Ils ont commencé par exposer cette théorie aux conspirationnistes- ça se défend même si c'est exploiter la bassesse humaine. Puis à ceux qui croient que la terre est plate -ça commence à être tordu comme raccourci. Et finalement à quasi tous les admirateurs de Trump. Disons que ça les a pas tirés vers le haut.
Une banque US a du stopper en vitesse un algo d'aide à l'octroi des prêts. Celui-ci se basant sur des arrondis ridicules des statistiques de délinquance et de défauts de paiement, en est arrivé "grâce" à l'auto-apprentissage à refuser systématiquement les demandes de prêts des Noirs. Gageons que si on l'avait laissé faire, après leur avoir ôté tout espoir de s'élever socialement et vu la dégradation des stats induite, il aurait fini par préconiser de faire naître leurs bébés directement en prison.
Pour finir plus gentiment, voici le résultat de l'algo de suggestion de Spotify créé par des développeurs parmi les plus brillants du monde. Quel gâchis mais ceci est une autre histoire.
Sans commentaires ...
