Lado escuro do transformador GPT-3

2021/03/11 Roa Zubia, Guillermo - Elhuyar Zientzia

• Teknologia
• Adimen artifiziala
• Berdintasuna
• Programazioa
• Robotika

Vivimos nunha revolución da intelixencia artificial, sexa consciente ou non. E por iso é imprescindible falar do funcionamento e beneficio da intelixencia artificial (exemplo claro é a tradución automática a través de redes neuronais). Pero do mesmo xeito que se mencionan os beneficios, hai que mencionar os riscos.

No campo da intelixencia artificial, ultimamente estase cumprindo una idea ancestral. A ciencia ficción do século XX propuxo con frecuencia que as máquinas chegarían a realizar traballos creativos. Chama robot, chama o teu computador… o que queiras. Hoxe en día son moitas as máquinas capaces de escribir literatura ou compor música, por exemplo. Mellor ou peor. Pero é capaz, en certo xeito, de ser creativo. O escritor Isaac Asimov foi chamado una vez “una máquina non intelixente” porque “non é capaz de escribir una sinfonía”. E Asimov preguntou de volta “Ti es capaz de escribir una sinfonía?”.

O certo é que hoxe en día a intelixencia artificial cada vez fai mellor esas cousas. Un exemplo rechamante é o programa GPT-3. Escribe. E ben, moi ben. Fai literatura, e seguramente nin ti nin eu, non somos capaces de distinguir entre a literatura feita por un home e o GPT-3.

Con todo, non é perfecto. Débiles na escritura. Dio o propio xefe da OpenAI, que fixo GPT-3. De cando en vez comete erros tolos (e quen non! ). Con todo, é sorprendente como escribe GPT-3.

A idea é que formaron o programa (en realidade, o algoritmo do GPT-3 é secreto, pero o seu funcionamento básico é habitual). Está capacitado paira adiviñar cal é, por dicilo dalgunha maneira, a seguinte palabra que vai atopar a medida que se vai formando un texto. Así aprende a imitar estilos. En 2017, os informáticos inventaron una técnica denominada Trasformer paira aumentar a eficiencia nesta aprendizaxe. Son varios os procesadores que utilizan en paralelo paira aumentar a rapidez (en realidade é máis complicado). O nome GPT significa aproximadamente “Transformador formado-3” (do inglés Generative Pretrained Transformer) e GTP-3 é a terceira versión.

Onde está o risco? Pois o seu risco é o mesmo que a intelixencia artificial en case calquera ámbito. Se está formado con textos que non son moi apropiados en orixe (por exemplo, textos racistas), o GPT-3 tenderá a producir este tipo de textos. Entón, está claro que hai que mirar con que texto fórmase, pero paira ter un bo programa ten que utilizar miles de millóns de textos na formación e non todos poden ser supervisados previamente. Asumirá e asumirá, por tanto, os beneficios e prexuízos de todo o que “devora”. Por tanto, os programadores deben buscar formas paira canalizar en parte esa aprendizaxe eticamente. E iso non é fácil. É un gran reto paira os informáticos.