Nœuds d'intelligence artificielle
2023/05/18 Imanol Galarraga Castaño - Filosofiako ikaslea Iturria: Elhuyar aldizkaria
L'intelligence artificielle (IC) est loin d'être parfaite. Il est clair qu’une société pleine de problèmes va produire des produits avec des problèmes, c’est pourquoi, bien qu’elle soit parfois vendue comme un être céleste qui nous donnera toutes les réponses, nous ne pouvons pas oublier qu’AA nous l’avons également créé et qu’elle a donc des défauts. Dans cet article, nous réfléchissons à ces problèmes, erreurs ou nœuds.
Depuis que la société OpenAI, le 30 novembre 2022, a publié ChatGPT, un outil qui nous permet de discuter avec un système AA, nous avons vu de nombreuses réflexions sur l'intelligence artificielle et son utilité.
Mais ChatGPT n'est qu'un modèle d'AA, c'est-à-dire que nous pouvons trouver beaucoup plus (même si la plupart ne sont pas publics) qui peuvent être utiles dans de nombreux processus. Par exemple, un AA capable de reconnaître des feux de signalisation, des piétons, etc., joue un rôle très important dans les voitures automatiques; ou celui qui est capable de détecter une tumeur plus précisément et plus rapidement qu'un médecin peut supposer un grand progrès médical.
Compte tenu de ce qui précède, il est clair que l'AA a beaucoup à voir dans de nombreux domaines et qu'elle va probablement représenter un "progrès" ou, au moins, un changement important. Mais l’intelligence artificielle a aussi des problèmes, crée des problèmes et reproduit des problèmes. Cet article traitera de certains de ces problèmes, liés principalement au domaine socio-politique, mais aussi, dans une moindre mesure, à la véracité et à l’essence humaine (bien que, bien sûr, les deux domaines soient liés). Pour ce faire, nous travaillerons sur certains problèmes ou nœuds que nous pouvons trouver dans chacun de ces domaines, en tenant compte du travail de différents experts et de ce qu'ils nous ont dit.
Problèmes socio-politiques
Le premier domaine que nous allons travailler est donc le domaine socio-politique. Concrètement, des biais que nous pouvons trouver dans la société. Il est clair que notre société est loin d'être idyllique, surtout pour les hommes blancs et non cis-hétérosexuels. L’inégalité reste l’un des principaux problèmes sociaux et, bien que de plus en plus de voix soient entendues, l’hégémonie de cet homme blanc cis-hétérosexuel demeure vivante. Cela concerne tous les domaines, non seulement social, mais aussi productif. De la même manière que tout ce que nous produisons affecte notre société, notre société est également affectée par ces produits, en renforçant et en reproduisant, entre autres, les préjugés problématiques que nous leur transmettons. L'intelligence artificielle n'est pas une exception.
Deux exemples sont disponibles dans les filtres proposés par les réseaux sociaux Tik Tok et Instagram (outils pour jouer ou transformer votre visage). L'un d'eux, le filtre Anime AI devenu très populaire en décembre 2022, après avoir reçu une photo de lui dessinait comme un anime japonais. Mais, comme de nombreux utilisateurs l'ont signalé, l'intelligence artificielle derrière ce filtre n'était pas capable de détecter les personnes noires et, au lieu de les dessiner comme des animaux, les excluait; il les dessinait comme des objets noirs ou, dans le pire des cas, comme des singes. En outre, on a vu des cas où les détenteurs de traits «asiatiques», comme les yeux déchirés, ne peuvent pas utiliser ces filtres, car l'intelligence artificielle qui se trouve derrière n'est pas en mesure de reconnaître leurs yeux. Ces deux exemples montrent le racisme ou l'eurocentrisme de l'AA.
Mais la question n'est pas là, dans les systèmes AA, nous pouvons également trouver le sexisme. De nombreux traducteurs automatiques, par exemple en traduisant des professions traditionnellement féminines ou masculines, comme le forgeron ou l'infirmière, suivent cette tradition. Par conséquent, nous recevrons des phrases comme ma mère est forgeron ou mon père est infirmière en demandant la traduction de la version en basque (parce que ce sont des mots neutres en basque). Le problème n'est pas seulement de donner une traduction erronée, mais il montre clairement que ces AA ont totalement intériorisé les rôles de genre et donc de les reproduire. Cela peut renforcer les biais si néfastes, il est donc très important de les affronter, surtout si les systèmes d’AA prennent de plus en plus d’importance dans nos vies.
Ander Corral Bateaux, chercheur d'Orai, y travaille. Nous avons parlé avec lui et dit que les systèmes AA reproduisent ces biais à la suite de la base de données que nous leur fournissons[2]. Les données sont racistes et sexistes, pas AA. Cela est dû au changement de la façon dont vous entraînez AA en 2018. Ils ont alors commencé à passer d'énormes quantités de données (le Big Data) sans avoir analysé au préalable toutes ces données. C'est la raison pour laquelle l'AA a recueilli de nombreuses données pleines de biais. Mais maintenant, le paradigme change[3]. Il y a déjà beaucoup de données dans la base de données AA, il est donc temps de les analyser et de les corriger. Les chercheurs de Corral et d'Orai y forment à nouveau AA avec des données jumelées[4].
Mais, de façon intentionnelle ou involontaire, nous reproduisons en grande partie tous les préjugés racistes et machistes de notre société, il est donc très facile de ne pas se rendre compte de beaucoup de ces préjugés présents dans ces données, ou d'abandonner de nombreuses réalités. Par exemple, dans le modèle de traducteur automatique, que se passe-t-il avec les personnes non binaires ? Comment apprenons-nous AA à en parler ? [5]
L’intelligence artificielle, comme tout ce qui se produit dans notre système, dépend de nos préjugés, donc sans les contourner, sans construire une société vraiment égalitaire, il sera très difficile pour l’intelligence artificielle d’éviter ces biais, même si elle met un coup d’arrêt aux plus visibles [6].
En outre, pour que l’intelligence artificielle joue un rôle important dans l’apprentissage au cours des prochaines années, il est très important qu’elle soit aussi inclusive que possible et que l’inégalité soit évitée, afin que les générations futures n’interfèrent pas davantage avec ces préjugés. C'est pourquoi il me semble très important que les développeurs et les chercheurs soient éduqués sur un pied d'égalité et comprennent qu'ils y ont une grande responsabilité. Et la reconnaissance par la commission éthique ou d'autres institutions similaires de l'intelligence artificielle, ou des programmes ou applications qui l'utilisent, avant leur publication, parce que, du moins pendant que nous formons une société fondée sur l'égalité, une AA inclusive peut être utile dans cette voie.
Sincérité en doute
Notre société repose en grande partie sur des images. Nous sommes liés entre nous par des images, à travers lesquelles nous obtenons la plupart des informations. Par conséquent, la capacité de transformation et de création d'images de l'AA peut engendrer de nombreux problèmes.
Pour commencer, il est déjà très courant de voir des photos "fausses". Si l'AA facilitait la création d'images et leur apparence réelle, le réseau serait rapidement rempli. Alors, comment différencierions-nous les photos "réelles" des "fausses"? Cela aurait pour conséquence que les images perdent leur fiabilité, nous aurions donc tendance à mentir directement ce que nous ne voyons pas directement et ce qui nous semble "rare".
D'autre part, certains systèmes AA sont en mesure de créer une vidéo (appelée deepfake) dans laquelle vous apparaissent avec quelques photos et un modèle de votre voix. Il est donc très facile de nuire à quelqu'un en créant une vidéo qui le laisse mal, par exemple (commentaires racistes, par exemple), ou en créant un qui le fait dans une situation vulnérable[7]. Cela peut mettre en danger la dignité et la vie privée.
Enfin, comme nous l’a dit le professeur Beñat Erezuma[8] dans un entretien, l’AA peut également apporter des problèmes liés à l’intimidation. Internet a déjà provoqué des persécutions chez les victimes de l’intimidation. L'AA peut apporter ce problème à la fin. Tout le monde peut faire une vidéo d'une victime d'intimidation pour l'humilier d'une manière hyperréaliste.
Les exemples ci-dessus montrent que la capacité créative de l’AA peut être très dangereuse, en particulier pour les groupes déjà vulnérables (femmes, victimes de harcèlement, etc.). ), ), Mais ces problèmes n'ont pas été causés par l'AA, qui était déjà dans notre société, l'AA les renforce, facilite leur apparition et les conduit à l'extrême. La plupart des problèmes mentionnés ci-dessus proviennent de notre façon de nous lier. C'est pourquoi il me semble plus approprié de chercher des moyens de construire les relations avec les autres d'une manière plus saine que de lutter contre des phénomènes qui ne sont que le reflet de ces relations.
Essence et supériorité humaine
Cependant, ce ne sont pas les seuls problèmes liés aux AA. La question de l’intelligence artificielle a également remis en question l’humain lui-même. L'intelligence et la capacité créative, par exemple, ont souvent été considérées comme des traits qui rendent "spécial" l'homme. Mais, bien que l’intelligence de l’AA ne puisse pas encore être comparée à la nôtre, nous voyons déjà qu’elle n’est pas aussi loin. De plus, nous avons vu que l’AA a également une capacité créative, et bien que cela lui soit répondu qu’elle fait simple répétition et copie, ne faisons-nous pas la même chose, les humains? Notre création, comme celle de l’intelligence artificielle, n’est-elle pas la conséquence de l’impact de ce que nous consommons ? Qu'est-ce qui nous différencie?
D'autre part, en ce qui concerne la prépondérance que nous avons sur Terre, de nombreux penseurs ont déjà signalé que l'AA peut également la modifier. Comme on le voit, l'intelligence artificielle va à un moment ou à un autre dépasser l'intelligence humaine, ce qui changera radicalement la situation actuelle, appelée singularité technologique. Le scientifique Raymond Kurweil, par exemple, dans son livre The singularity is near (2005), place ce moment en 2045 et affirme que ses conséquences sont imprévisibles. Quoi qu'il en soit, ce qui est clair, c'est que notre supériorité est en danger; d'autre part, vu l'évidence, elle n'est peut-être pas si mauvaise.
Conclusions
Pour toutes ces raisons, il est évident que nous devons faire quelque chose avant que tous ces problèmes ne soient insurmontables. Heureusement, il y a déjà des mouvements qui dénoncent les risques des intelligences artificielles et font des propositions à leur sujet. Un groupe de penseurs et d’experts de différentes races, genres, âges et nationalités, par exemple, a écrit un manifeste critiquant le caractère eurocentrique de l’AA. En outre, une demande déjà souscrite par près de 2000 personnes demandant aux entreprises de s'arrêter six mois dans l'entraînement AA plus puissant que le GPT-4 pour préparer une réglementation à leur sujet est en cours d'extension. Bien qu'ils puissent avoir des problèmes, ils sont deux exemples qui nécessitent de penser à la direction du développement des intelligences artificielles.
Il est impossible de parler d’un monde qui se déplace si vite sans laisser les choses à l’extérieur, mais compte tenu des quelques problèmes que nous avons rencontrés, il est déjà clair que l’intelligence artificielle n’est pas si parfaite et qu’au lieu de mettre toutes les forces dans la tentative d’améliorer constamment, il peut être plus important de réfléchir à la façon dont nous pouvons améliorer notre société et à quel rôle l’AA peut y jouer. Peut-être un travail plus dur.
[1] Entreprise dédiée à la recherche sur les AA, qui vise à contribuer au développement d'une AA qui peut aider la société sans en tirer profit.
[2] L'AA a reçu beaucoup plus le mot forgeron faisant référence à un homme, de sorte qu'elle le fera toujours à titre de paiement de forgeron (et non de forgeron). C'est ce qu'il faut changer.
[3] Cette idée de changement de paradigme a beaucoup à voir avec le travail du physicien et philosophe scientifique Thomas Kuhn. Il dit que la science progresse dans le changement de paradigme, en développant de nouvelles prémisses et des moyens de faire la science, en créant de nouvelles approches pour affronter des problèmes que la forme antérieure ne pouvait pas résoudre (Kuhn, 2004).
[4] Pour savoir comment Corral et Saralegi, 2022.
[5] Sur les intelligences artificielles et les personnes LGBTQ, voir Leufer, 2023.
[6] La question des préjugés est complexe et très complexe. Voir par exemple: Allport, G.W. (1955). Nature of Préjugés. ADDISON-WESLEY PUBLISHING COMPANY, Inc.
[7] Par exemple, un streamer connu sous le nom de « QTCinderella » a subi un cas deepfake. Quelqu'un a inséré son visage dans une vidéo pornographique, ce qui l'a amené à subir une persécution qui, selon un oiseau, lui a causé un sentiment de viol et de dymorphobie.
[8] Beñat Erezuma est un passionné utilisateur AA qui a fait un poème et un podcast en utilisant lui.
Bibliographie
Abdilla, A., Adamson, C., Affonso Souza, C., “A Jung Moon”, Buse Çetin, R., Chilla, R., Dotan, R., Fjeld, J., Ghazal, F., Havens, J.C., Jayaram, M., Jordan, S., Krishnan, A., Lach, E.M., Mhlambi, S., Morrow, M., Ricaurte Quijano, P., Rizk, N., Rosenstock, S., Taylor, J. (2022). "Intelligence artificielle: Un manifeste décolonial". Manifeste VI. https://manyfesto .ai/index.html (30/03/2023).
Allport, G.W. (1955). "The Nature of Préjugés". Addison-Wesley Publishing Company, Inc.
Corral, A. et Saralegi, X. (2022). "Gender Bias Mitigation for NMT Involving Genderless Languages". Proceedings of the Seventh Conference on Machine Translation (WMT), pp. 165–176, Abu Dhabi, United Sestra Emirates (Hybrid). Association for Computional Linguistics.
Galarraga, A. (2022). « Ils ont créé une nouvelle technique pour corriger le biais de genre dans la traduction automatique. » Elhuyar. https://aldizkaria .elhuyar.eus/actualités/itzul-automatica-sex-session-genre/ (2023/03/04)
Kuhn, T. (2004). "La structure des révolutions scientifiques. Fonds pour la culture économique.
Kurzweil, R. (2005). "The Singularity Is Near: When Humans Transie Biology". United States: Viking.
Leufer, D. (2023). "Computers are binary, people are not: how AI systems undermine LGBTQ identity". AccesNow. https://www.accessnow.org/how-ai-systems -undermine-lgbtq-identity/ (08/04/2023).
"Pause Giant AI Experiments: An Open Letter (2023)". Future of Life Institute. https://futureoflife.org/open-letter/pause/giant-ai-experiments/ (30/03/2023).
