Nós da intelixencia artificial
2023/05/18 Imanol Galarraga Castaño - Filosofiako ikaslea Iturria: Elhuyar aldizkaria
A intelixencia artificial (IC) está lonxe de ser perfecta. Está claro que unha sociedade chea de problemas vai producir produtos con problemas, por iso, aínda que ás veces se vende como un ser celestial que nos vai a dar todas as respostas, non podemos esquecer que AA tamén o creamos nós e que, por tanto, ten defectos. Neste artigo reflexionamos sobre estes problemas, erros ou nós.
Desde que a empresa OpenAI[1], o 30 de novembro de 2022, publicase ChatGPT, unha ferramenta que nos permite manter unha conversación cun sistema de AA, vimos moitas reflexións sobre a intelixencia artificial e a súa utilidade.
Pero ChatGPT é só un modelo de AA, é dicir, podemos atopar moitos máis (aínda que a maioría non sexan públicos) que poden ser útiles en moitos procesos. Por exemplo, un AA capaz de recoñecer semáforos, peóns, etc., desempeña unha función moi importante nos coches automáticos; ou quen é capaz de detectar un tumor con maior precisión e rapidez que un médico, pode supor un gran avance médico.
Á vista diso, está claro que a AA ten moito que ver en moitos ámbitos e que probablemente vai supor un "avance" ou, polo menos, un cambio importante. Pero a intelixencia artificial tamén ten problemas, xera problemas e reproduce problemas. Neste artigo abordaranse algúns destes problemas, relacionados principalmente co ámbito socio-político, pero tamén, en menor medida, coa veracidade e a esencia humana (aínda que, por suposto, ambos os ámbitos teñen relación). Para iso, traballaremos algúns problemas ou nós que podemos atopar en cada un destes ámbitos, tendo en conta o traballo de diferentes expertos e o que nos dixeron a nós.
Problemas socio-políticos
O primeiro ámbito que imos traballar é, por tanto, o ámbito socio-político. En concreto, dos rumbos que podemos atopar na sociedade. Está claro que a nosa sociedade segue moi lonxe de ser idílica, sobre todo para homes brancos e non cis-heterosexuais. A desigualdade segue sendo un dos principais problemas sociais e, a pesar de que cada vez se escoitan máis voces, segue viva a hexemonía deste home branco cis-heterosexual. Isto afecto a todos os ámbitos, non só ao social, senón tamén ao produtivo. Da mesma maneira que todo o que producimos afecto á nosa sociedade, a nosa sociedade tamén se ve afectada por estes produtos, reforzando e reproducindo, entre outros, os prexuízos problemáticos que transmitimos a eles. A intelixencia artificial non é unha excepción.
Dous exemplos diso podémolos atopar nos filtros que ofrecen as redes sociais Tik Tok e Instagram (ferramentas para xogar ou transformar o teu rostro). Un deles, o filtro AnimeAI que se fixo moi popular en decembro de 2022, tras recibir unha fotografía súa debuxaba como un anime xaponés. Pero, como moitos usuarios denunciaron, a intelixencia artificial que había detrás deste filtro non era capaz de detectar ás persoas negras e, en lugar de debuxalas como animes, excluíaas; debuxábaas como obxectos negros ou, no peor dos casos, como monos. Ademais, víronse casos nos que os posuidores de trazos «asiáticos», como os ollos rasgados, non poden utilizar eses filtros, xa que a intelixencia artificial que hai detrás non é capaz de recoñecer os seus ollos. Estes dous exemplos pon de manifesto o racismo ou eurocentrismo da AA.
Pero a cuestión non queda aí, nos sistemas de AA tamén podemos atopar sexismo. Moitos tradutores automáticos, por exemplo, ao traducir profesións tradicionalmente femininas ou masculinas, como o ferreiro ou a enfermeira, seguen esta tradición. En consecuencia, recibiremos frases como a miña nai é ferreiro ou o meu pai é enfermeira ao solicitar a tradución da versión en eúscaro (porque son palabras neutras en eúscaro). O problema non é só dar unha tradución equivocada, senón que deixa claro que estas AA teñen totalmente interiorizados os roles de xénero e por iso reprodúcenos. Isto pode reforzar os rumbos tan prexudiciais, polo que é moi importante afrontalos, sobre todo si os sistemas de AA adquiren cada vez maior importancia nas nosas vidas.
Ander Curral Naves, investigador de Orai, está a traballar niso. Falamos con el e di que os sistemas de AA reproducen estes rumbos como consecuencia da base de datos que nós proporcionámoslles[2]. Os datos son racistas e sexistas, non AA. Isto é debido ao cambio na forma de adestrar AA en 2018. Entón empezaron a pasar enormes cantidades de datos (o chamado Big Data) sen analizar previamente todos estes datos. Por iso, a AA recolleu moitos datos cheos de rumbos. Pero agora a paradigma está a cambiar[3]. Xa hai moitos datos na base de datos de AA, polo que chegou o momento de analizalos e corrixilos. Niso están os investigadores de Curral e Orai adestrando de novo AA con datos pareados[4].
Pero, de forma intencionada ou involuntaria, en gran medida todos reproducimos prexuízos racistas e machistas da nosa sociedade, polo que é moi fácil non darse conta de moitos destes rumbos presentes neses datos, ou abandonar moitas realidades. Por exemplo, no modelo de tradutor automático, que ocorre coas persoas non binarias? Como lle ensinamos a AA a falar deles? [5]
A intelixencia artificial, como todo o que se produce no noso sistema, depende dos nosos prexuízos, polo que sen obvialos, sen construír unha sociedade realmente igualitaria, será moi difícil que a intelixencia artificial evite eses rumbos, aínda que poña un parche aos máis visibles [6].
Ademais, para que, como se comentou ultimamente, a intelixencia artificial desempeñe un papel importante na aprendizaxe nos próximos anos, é moi importante que sexa o máis inclusiva posible e que se evite a desigualdade, para que as xeracións futuras non interioricen aínda máis estes rumbos. Por iso paréceme moi importante que os desarrolladores e investigadores estean educados en igualdade e entendan que teñen unha gran responsabilidade niso. E o recoñecemento por parte da comisión ética ou outras institucións similares da intelixencia artificial, ou dos programas ou aplicacións que a utilizan, antes da súa publicación, porque, polo menos mentres formamos unha sociedade baseada na igualdade, unha AA inclusiva pode ser útil nese camiño.
Sinceridade en dúbida
A nosa sociedade baséase en gran medida en imaxes. Relacionámonos entre nós mediante imaxes, a través das cales obtemos a maior parte da información. Por iso, a capacidade de transformación e creación de imaxes da AA pode xerar moitos problemas.
Para empezar, xa é moi habitual ver fotos "falsas". Si a AA facilitase a creación de imaxes e o seu aspecto real, a rede encheríase rapidamente. Entón, como diferenciariamos as fotos "reais" das "falsas"? Isto provocaría que as imaxes perdan a súa fiabilidade, polo que tenderiamos a mentir directamente o que non vemos directamente e o que nos parece "raro".
Doutra banda, algúns sistemas de AA son capaces de crear un vídeo (chamado deepfake) no que vostede aparece cunhas poucas fotos e un modelo da súa voz. Por tanto, é moi fácil prexudicar a alguén creando un vídeo que o deixe en mal lugar, por exemplo (comentarios racistas, por exemplo), ou creando un que o faga nunha situación vulnerable[7]. Isto pode pór en perigo a dignidade e a privacidade.
Finalmente, como nos comentou o profesor Beñat Erezuma[8] nunha entrevista, a AA tamén pode traer problemas relacionados co bullying. Internet xa provocou que as vítimas do bullying padecesen persecución en casa. A AA pode levar este problema ao extremo. Calquera pode facer un vídeo dunha vítima de bullying para humillala dunha forma hiperrealista.
Os exemplos mencionados mostran que a capacidade creativa da AA pode ser moi perigosa, sobre todo para grupos xa vulnerables (mulleres, vítimas do bullying, etc.). ). Pero estes problemas non os produciu a AA, que xa estaban na nosa sociedade, a AA refórzaos, facilita a súa aparición e lévaos ao extremo. A maioría dos problemas mencionados teñen a súa orixe na nosa forma de relacionarnos. Por iso, paréceme máis apropiado buscar formas de construír as relacións cos demais dunha maneira máis sa que loitar contra fenómenos que non son senón reflexo desas relacións.
Esencia e superioridade humana
Con todo, non son os únicos problemas en relación coas AA. O tema da intelixencia artificial tamén cuestionou o humano en si mesmo. A intelixencia e a capacidade creativa, por exemplo, consideráronse moitas veces como trazos que fan "especial" ao home. Pero, aínda que aínda non se pode comparar a intelixencia da AA coa nosa, xa estamos a ver que non está tan lonxe. Ademais, habemos visto que a AA tamén ten capacidade creativa, e, aínda que a iso respóndeselle que fai mera repetición e copia, non facemos o mesmo nós, os humanos? A nosa creación, como a da intelixencia artificial, non é consecuencia do impacto do que consumimos? Que nos diferencia?
Doutra banda, en canto á preponderancia que temos na Terra, moitos pensadores xa sinalaron que a AA tamén pode modificala. Como se especula, nalgún momento a intelixencia artificial superará a intelixencia humana, o que cambiará radicalmente a situación actual, momento que se denomina singularidade tecnolóxica. O científico Raymond Kurweil, por exemplo, no seu libro The singularity is near (2005), sitúa este momento en 2045 e afirma que as súas consecuencias son impredicibles. En calquera caso, o que si está claro é que a nosa superioridade está en perigo; por outra banda, á vista do visto, quizais non é tan mala.
Conclusións
Por todo o devandito, é evidente que debemos facer algo antes de que todos estes problemas sexan inexpugnables. Afortunadamente, xa hai movementos que denuncian os riscos das intelixencias artificiais e expoñen propostas ante eles. Un grupo de pensadores e expertos de diferentes razas, xéneros, idades e nacionalidades, por exemplo, escribiu un manifesto no que critica o carácter eurocéntrico da AA. Así mesmo, está a ampliarse unha solicitude xa subscrita por preto de 2000 persoas que piden ás empresas que se deteñan seis meses no adestramento de AA máis potentes que o GPT-4 para preparar unha regulación sobre eles. Aínda que poden ter problemas, son dous exemplos que requiren pensar na dirección do desenvolvemento das intelixencias artificiais.
É imposible falar dun mundo que se move tan rápido sen deixar as cousas fóra, pero tendo en conta os poucos problemas que vimos, xa queda claro que a intelixencia artificial non é tan perfecta e que, en lugar de pór todas as forzas no intento de mellorar constantemente, pode ser máis importante pensar como podemos mellorar a nosa sociedade e que papel pode desempeñar a AA niso. Quizais un traballo máis duro.
[1] Empresa dedicada á investigación sobre AA, que pretende contribuír ao desenvolvemento dunha AA que pode axudar á sociedade sen obter beneficios.
[2] A AA recibiu moito máis a palabra ferreiro facendo referencia a un home, polo que sempre o fará en concepto de pago de ferreiro (e non de ferreira). Iso é o que hai que cambiar.
[3] Esta idea de cambio de paradigma ten moito que ver co traballo do físico e filósofo científico Thomas Kuhn. Di que a ciencia avanza no cambio de paradigma, desenvolvendo novas premisas e formas de facer ciencia, creando novos enfoques para afrontar problemas que a forma anterior non podía resolver (Kuhn, 2004).
[4] Para saber como o fan ver Curral e Saralegi, 2022.
[5] Sobre as intelixencias artificiais e as persoas LGBTQ, ver Leufer, 2023.
[6] O tema dos prexuízos é complexo e moi traballado. Véxase por exemplo: Allport, G.W. (1955). Nature of Prexuízos. ADDISON-WESLEY PUBLISHING COMPANY, Inc.
[7] Por exemplo , un streamer coñecido como “QTCinderella” sufriu un caso deepfake. Alguén inseriu o seu rostro nun vídeo de pornografía, o que lle levou a sufrir unha persecución que, segundo un paxaro, causoulle sensación de violación e dismorfofobia.
[8] Beñat Erezuma é un apaixonado usuario de AA que fixo un poemario e un podcast utilizando el.
Bibliografía
Abdilla, A., Adamson, C., Affonso Souza, C., “A Jung Moon”, Buse Çetin, R., Berra, R., Dotan, R., Fjeld, J., Ghazal, F., Havens, J.C., Jayaram, M., Jordan, S., Krishnan, A., Lach, E.M., Mhlambi, S., Morrow, M., Ricaurte Quijano, P., Rizk, N., Rosenstock, S., Taylor, J. (2022). "Intelixencia Artificial: Un Manifesto Decolonial". Manifesto VIN. https://manyfesto .ai/index.html (30/03/2023).
Allport, G.W. (1955). "The Nature of Prexuízos dis". Addison-Wesley Publishing Company, Inc.
Curral, A. e Saralegi, X. (2022). "Gender Bias Mitigation for NMT Involving Genderless Languages". Proceedings of the Seventh Conference on Machine Translation (WMT), pp. 165–176, Abu Dhabi, United Sestra Emirates (Hybrid). Association for Computational Linguistics.
Galarraga, A. (2022). "Crearon unha nova técnica para corrixir o rumbo de xénero na tradución automática". Elhuyar. https://aldizkaria .elhuyar.eus/noticias/itzul-automatica-sexo-sesión-xénero/ (2023/03/04).
Kuhn, T. (2004). "A estrutura das revolucións científicas. Fondo de Cultura Económica.
Kurzweil, R. (2005). "The Singularity Is Near: When Humans Transie Biology". United States: Viking.
Leufer, D. (2023). "Computers are binary, people are not: how AI systems undermine LGBTQ identity". AccesNow. https://www.accessnow.org/how-ai-systems -undermine-lgbtq-identity/ (08/04/2023).
"Pause Giant AI Experiments: An Open Letter (2023)". Future of Life Institute. https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (30/03/2023).
