L’intelligence artificielle est-elle hors de contrôle ?

La Silicon Valley mise beaucoup sur l’intelligence artificielle

“Les géants de la Silicon Valley misent beaucoup sur l’intelligence artificielle (IA). Récemment, le directeur de Google Sundar Pichai a confirmé qu’il misait avant tout sur cette technologie. Et la société injecte de l’IA dans toute sa gamme de produits et de services, des smartphones aux assistants personnels.

S’il n’a pas encore d’application dans la vie quotidienne, AlphaGo représente une démonstration de force pour DeepMind, propriété de Google. Après avoir battu les meilleurs joueurs de Go de la planète, l’IA a triomphé cette année d’un des meilleurs programmes de jeux d’échec. Après seulement quatre heures d’apprentissage.”

Source : Le Temps

L’intelligence artificielle est omniprésente

“Il n’y a pas besoin d’utiliser un set d’ordinateurs ultra-puissants de Google ou Microsoft pour se rapprocher d’un système d’intelligence artificielle (IA). Même si ce terme est souvent utilisé à des fins marketing, l’IA est devenue omniprésente. Voici quelques exemples :”

  • Les assistants personnels
  • La reconnaissance faciale
  • La reconnaissance d’image
  • Les applications “intelligentes”
  • La création musicale

Source : Le Temps

L’exemple avec Watson d’IBM

“L’intelligence artificielle semble également exceller dans l’art de la prédiction. Certains programmes, comme Watson d’IBM, parviennent déjà, dans certaines situations, à détecter des cancers de la peau ou des poumons, avec le même niveau de fiabilité que des spécialistes. Entraîné sur la base de millions d’images radiologiques et tout autant de documents médicaux, l’algorithme apprend non seulement à reconnaître l’aspect malin ou bénin d’un cancer, mais aussi à évaluer les risques de récidive, et à adapter le traitement à partir de l’expression des gènes et des mutations dans l’ADN d’une biopsie.

«Watson, par exemple, est capable de parcourir un dossier de 300 pages en une demi-seconde, puis dire quels seraient les traitements de choix en fonction des paramètres structurés, comme le stade de la maladie, les lignes de traitements antérieurs, les informations cliniques standards ou encore les mutations présentes sur la tumeur d’un patient, ajoute Olivier Michielin. Quand le programme émet une proposition thérapeutique, il liste également les degrés d’évidence liés aux traitements et les articles scientifiques sur lesquels il s’est fondé. Cela limite l’effet boîte noire, mais n’empêche pas que l’algorithme puisse passer à côté de quelque chose sans que l’on s’en aperçoive.»”

Source : Le Temps

L’intelligence artificielle est-elle hors de contrôle ?

“Des scientifiques alertent: les algorithmes sont devenus si complexes que certaines machines prennent des décisions que l’humain ne parvient plus à expliquer. Les risques de dérives sont importants. Mais il n’est pas trop tard pour agir.

D’où la proposition de Rachid Guerraoui de «créer une traçabilité, un peu comme pour les produits bio. Il faut que les ingénieurs puissent expliquer comment leur algorithme est arrivé à ce résultat. C’est capital mais aussi difficile: les algorithmes deviennent incroyablement complexes et travaillent ensuite sur des bases de données à la taille gigantesque. Mais éduquer les ingénieurs est capital». D’autant que ces développeurs – souvent de jeunes hommes issus des grandes universités américaines et travaillant dans la Silicon Valley – ont un profil similaire, ce qui accentue le risque de créer des biais aux conséquences potentiellement dévastatrices.

Hervé Bourlard avertit: si l’IA n’est pas rapidement maîtrisée, l’homme risque de perdre rapidement confiance en la technologie. «Cet élément est capital. Aujourd’hui déjà, nous avons de moins en moins confiance dans le «hardware» le matériel informatique, qui vient souvent de Chine et dont nous ne sommes pas certains qu’il ne contienne pas de virus caché ou de porte dérobée pour des attaques. Si en plus nous ne comprenons pas ce que font les logiciels, nous risquons d’avoir des gros problèmes.»”

Source : Le Temps

This entry was posted in Google, Industry 4.0, Machine Learning, Press Review and tagged , , , . Bookmark the permalink.

Leave a Reply