Tay: un programa que va néixer ingenu i es va convertir en racista i masclista

2016/03/30 Galarraga Aiestaran, Ana - Elhuyar Zientzia

• Giza zientziak
• Adimen artifiziala

Les notícies provenen de la intel·ligència artificial. Recentment, el programa AlphaGo desenvolupat per Google va aconseguir derrotar al campió mundial del joc de taula Go. Dies després, Microsoft va presentar Tay.

Tay és un programa informàtic dissenyat per a mantenir converses àgils i divertides en xarxes socials. Dirigit a joves de 18 a 24 anys, van anunciar que seria capaç d'aprendre de les seves converses amb ells. Però, a diferència d'AlphaGo, no va tenir èxit: van haver d'abandonar-ho l'endemà de la seva presentació.

En realitat va començar bé: en el primer missatge es va mostrar amb ganes d'interactuar amb els éssers humans. En concret, va dir “hola món”, amb un figurito del planeta i tres signes de sorpresa. Però no tots els usuaris van respondre en el mateix to i els missatges de Tay es van tornar cada vegada més ofensius. De fet, ho van dissenyar amb la intenció de recopilar informació sobre la persona amb la qual s'entrevistava, segons el que deia, i respondre al mateix nivell.

Amb els quals va tirar, és clar que va aprendre ràpid i malament. Entre altres coses, va afirmar que el feminisme era un càncer, va fer costat a Hitler i va realitzar comentaris racistes i homòfobs.

Microsoft va demanar disculpes i va retirar a Tay. El seu últim missatge era: “Està bé. Em vaig. Em sento utilitzat”.

I sí, va ser utilitzada i no, amb presses, com volien els de Microsoft. Això sí, sembla que va aprendre i, per tant, va tenir èxit en això. En qualsevol cas, Microsoft ha manifestat la seva intenció de millorar i tornar a provar el programa. A veure què aprèn la pròxima vegada!