Défis et risques de l'intelligence artificielle

2016/12/01 Leturia Azkarate, Igor - Informatikaria eta ikertzaileaElhuyar Hizkuntza eta Teknologia Iturria: Elhuyar aldizkaria

• Adimen artifiziala

Toute l'histoire de l'informatique est pleine d'espoirs excessifs sur certaines technologies, abandons et réticences ultérieures. Ainsi a été le traitement du langage naturel, la traduction automatique, les réseaux neuronaux, la réalité virtuelle… Ils sont tous devenus très à la mode. Dans la croyance que l'avenir était là, tout le monde est passé à travailler sur eux et, n'ayant pas obtenu les résultats attendus, ont été totalement écartés jusqu'à ce qu'ils ont repris.

Avec la création de l'informatique, il y a 50-60 ans, on a fait des prévisions très positives de ce qu'il allait supposer, en particulier dans le domaine de l'intelligence artificielle. On pensait que nous aurions tout de suite des robots qui agiraient comme les humains. Cependant, après des années d'effort, il a été clairement vu que ce n'était pas si facile. Et même si l'intelligence artificielle n'a jamais été totalement abandonnée, le monde académique a continué la recherche fondamentale, les grandes entreprises se sont limitées à des choses plus réalisables et rentables.

Objectif grandes entreprises

Cependant, ces derniers temps, toutes les grandes entreprises technologiques ont commencé à investir beaucoup dans l'intelligence artificielle. Tout le monde semble y voir le marché et l'argent, et, comme tout le temps qui se passe, tous se sont mis dans une partie pour conquérir ce marché à l'avenir.

Certaines de ces entreprises investissent dans des véhicules autonomes. Tesla, productrice de voitures électriques, fait des voitures de plus en plus autonomes, et son patron, Elon Muskiz, a récemment annoncé qu'à la fin de 2017, ils auront dans la rue une voiture totalement autonome. Sont également connus des tests que Google est en cours avec des voitures autonomes, dans le but de développer un système intégré par d'autres fabricants dans un avenir pas aussi lointain (comme cela est arrivé sur les téléphones Android). Et Apple développe également le vôtre.

D'autres, cependant, font des assistances virtuelles ou des agents de dialogue. Les assistants Google Assistant, Siri et Cortana préinstallés sur les téléphones Android, les iPhones et Windows sont connus respectivement. Et Amazon a sorti Amazon Echo et Google Home ; ce sont deux appareils qui s'installent dans le salon de la maison, avec le microphone toujours allumé, attendant des ordres parlant pour mettre la musique ou contrôler les appareils ménagers.

D'autre part, 2016 a été l'année des chatotazos. En fait, il s'agit d'agents de dialogue spécialisés qui vivent dans d'autres applications ou services, généralement dans des programmes de messagerie instantanée ou de réseaux sociaux. Ainsi, si nous ajoutons ces chatbots comme contact, nous pouvons poser des questions ou donner des ordres en langage naturel sur des domaines spécialisés (demander le temps, demander des pizzas, effectuer des consultations linguistiques...) et répondre en tant que personnes. Sur Telegram et Twitter il ya chatbots depuis longtemps et Facebook a aussi.

Tous, dans une plus ou moins grande mesure, ont besoin d'intelligence artificielle. Il est donc clair que l'intelligence artificielle est la technologie de mode dans les entreprises technologiques, et qu'ils investissent beaucoup dans ce domaine. Grâce à la capacité des machines actuelles, de grands progrès sont en cours et l'explosion d'intelligence artificielle peut être définitive.

Préoccupations et risques

Mais tout n'est pas or. Il y a des préoccupations concernant le boom de l'intelligence artificielle que nous vivons actuellement. L'un d'eux est que beaucoup de chercheurs passent du monde scientifique et académique aux entreprises. Cela peut signifier un recul du monde académique dans le domaine de l'intelligence artificielle, qui met la connaissance à la portée de toute l'humanité, car les entreprises le réservent pour eux-mêmes. Un autre danger est le transfert des recherches scientifiques à des objectifs commerciaux ou visuels.

Certains experts, quant à eux, ont vu l'avancée récente de l'intelligence artificielle, la capacité des machines que ces entreprises ont et que de plus en plus de processus et systèmes du monde réel sont contrôlés par des machines interconnectées, préoccupés par l'avenir des films apocalyptiques de science-fiction.

Ces experts ne sont pas tout. Le célèbre physicien Stephen Hawking dit textuellement: «Je crois que tout le développement de l’intelligence artificielle peut supposer la fin de l’humanité; si l’être humain développe l’intelligence artificielle, l’intelligence artificielle commencerait à agir par elle-même et se redessinerait de plus en plus vite; l’homme, en limitant les lentes évolutions biologiques, ne pourrait pas rivaliser avec elle et serait vaincu». Elon Muskiz, fondateur de l’entreprise Tesla, a déclaré: “J'espère que non seulement le chargeur de démarrage biologique pour la superintelligence numérique, qui est malheureusement de plus en plus probable”. Et l'auteur du manuel, presque standard dans le domaine de l'intelligence artificielle au cours des deux dernières décennies, Stuart J. Russell croit qu'il n'est pas prudent de développer l'intelligence artificielle à l'aveugle, sans penser au moins un peu aux risques potentiels.

L'un des leaders de Google, Eric Schmidt, a voulu chasser ces peurs en disant qu'il n'y a pas de danger aujourd'hui et que les peurs sont absurdes. Pour cela, il a utilisé un seul argument, je pense que erroné: Hawking et M ne sont pas informatiques. Dans le même temps, il a été découvert qu'une équipe d'intelligence artificielle de Google enquêtait sur les moyens d'éteindre les hypothétiques mauvaises intelligences artificielles.

Si vous me demandez, je vous dirais que ce n'est pas mal d'avoir au moins un peu de prudence. Preuve que le risque est réel, ce qui est arrivé à Microsoft avec le chat Tay. Pour démontrer ses progrès en intelligence artificielle, Microsoft a mis le chat Tay sur Twitter pour maintenir des conversations naturelles avec les jeunes. Tay apprenait des conversations réelles des jeunes, par un apprentissage automatique, et il semble qu'il a appris trop bien, car il a bientôt commencé à faire des commentaires racistes, sexistes, nazis et de mauvais goût. Il a pris sa retraite avant 24 heures. Et si nous réussissons à construire des machines intelligentes comme l'homme, le désastre est sûr !