Reptes i riscos de la intel·ligència artificial

2016/12/01 Leturia Azkarate, Igor - Informatikaria eta ikertzaileaElhuyar Hizkuntza eta Teknologia Iturria: Elhuyar aldizkaria

• Adimen artifiziala

Tota la història de la informàtica està plena d'esperances excessives sobre determinades tecnologies, abandons i reticències posteriors. Així ha estat el processament del llenguatge natural, la traducció automàtica, les xarxes neuronals, la realitat virtual… Tots ells s'han posat molt de moda. En la creença que el futur era aquí, tothom ha passat a treballar en ells i, al no haver obtingut els resultats esperats, han quedat totalment descartats fins que s'han reprès.

Amb la creació de la informàtica, fa 50-60 anys, es van fer previsions molt positives del que anava a suposar, especialment en el camp de la intel·ligència artificial. Es pensava que de seguida tindríem robots que actuarien com els humans. No obstant això, després d'anys d'esforç, es va veure clarament que no era tan fàcil. I encara que mai s'ha abandonat totalment la intel·ligència artificial, el món acadèmic ha continuat amb la recerca bàsica, les grans empreses s'han limitat a coses més factibles i rendibles.

Objectiu grans empreses

No obstant això, en els últims temps, totes les grans empreses tecnològiques han començat a invertir molt en intel·ligència artificial. Tothom sembla veure aquí el mercat i els diners, i, igual que tot el temps que succeeix, tots s'han ficat en un partit per a conquistar aquest mercat en el futur.

Algunes d'aquestes empreses estan invertint en vehicles autònoms. Tesla, productora de cotxes elèctrics, està fent cotxes cada vegada més autònoms, i el seu cap, Elon Muskiz, ha anunciat recentment que per a finals de 2017 tindran al carrer un cotxe totalment autònom. També són coneguts els tests que Google està duent a terme amb cotxes autònoms, amb l'objectiu de desenvolupar un sistema integrat per altres fabricants en un futur no tan llunyà (com ha ocorregut en els telèfons amb Android). I Apple també està desenvolupant la seva.

Uns altres, no obstant això, estan realitzant assistències virtuals o agents de diàleg. Són coneguts els ajudants Google Assistant, Siri i Cortana preinstal·lats en telèfons Android, iPhones i Windows respectivament. I Amazon ha tret Amazon Tiro i Google Home; són dos aparells que s'instal·len en el saló de casa, amb el micròfon encès sempre, esperant ordres de parla per a posar música o controlar els electrodomèstics.

D'altra banda, 2016 ha estat l'any dels chatotazos. De fet, es tracta d'agents de diàleg especialitzats que viuen dins d'altres aplicacions o serveis, normalment en programes de missatgeria instantània o xarxes socials. Així, si afegim aquests chatbots com a contacte, podem fer preguntes o donar ordres en llenguatge natural sobre àrees especialitzades (preguntar pel temps, demanar pizzes, realitzar consultes lingüístiques...) i responen com a persones. En Telegram i Twitter hi ha chatbots des de fa temps i Facebook també ho té.

Tots ells, en major o menor mesura, necessiten intel·ligència artificial. És clar, per tant, que la intel·ligència artificial és la tecnologia de moda en les empreses tecnològiques, i que estan invertint molt en això. Gràcies a la capacitat de les màquines actuals, s'estan produint grans avanços, i és possible que l'explosió d'intel·ligència artificial sigui definitiva.

Preocupacions i riscos

Però no tot és or. Hi ha inquietuds sobre el boom de la intel·ligència artificial que estem vivint en l'actualitat. Un d'ells és que molts investigadors passen del món científic-acadèmic a les empreses. Això pot suposar una reculada del món acadèmic en el camp de la intel·ligència artificial, que és el que posa el coneixement a l'abast de tota la humanitat, ja que les empreses ho reserven per a si. Un altre perill és la transferència de les recerques científiques a objectius comercials o visuals.

Alguns experts, per part seva, han vist l'avanç recent de la intel·ligència artificial, la capacitat de màquines que tenen aquestes empreses i que cada vegada més processos i sistemes del món real es controlen a través de màquines interconnectades, preocupats pel futur de les pel·lícules apocalíptiques de ciència-ficció.

Aquests experts no són qualsevol. El famós físic Stephen Hawking diu textualment: “crec que tot el desenvolupament de la intel·ligència artificial pot suposar la fi de la humanitat; si l'ésser humà desenvolupa la intel·ligència artificial, la intel·ligència artificial començaria a actuar per si mateixa i s'aniria redissenyant cada vegada més ràpid; l'home, limitant les lentes evolucions biològiques, no podria competir amb ella i seria derrotat”. Elon Muskiz, fundador de l'empresa Tesla, ha assenyalat: “espero que no sols sigui el carregador biològic d'arrencada per a la superinteligencia digital, que desgraciadament s'està convertint en cada vegada més probable”. I l'autor del llibre de text, gairebé estàndard en el camp de la intel·ligència artificial en les dues últimes dècades, Stuart J. Russell creu que no és prudent desenvolupar la intel·ligència artificial a cegues, sense pensar almenys una mica sobre els riscos potencials.

Un dels líders de Google, Eric Schmidt, va voler espantar aquestes pors dient que avui dia no hi ha perill i que les pors són absurdes. Per a això va utilitzar un únic argument, jo crec que erroni: Hawking i M no són informàtics. Al mateix temps, es va descobrir que un equip d'intel·ligència artificial de Google estava investigant les maneres de poder apagar les hipotètiques males intel·ligències artificials.

Si em preguntessin, els diria que no està mal tenir almenys una mica de prudència. Prova que el risc és real, la qual cosa va passar a Microsoft amb el xat Tay. Per a demostrar els seus avanços en intel·ligència artificial, Microsoft va posar el xat Tay en Twitter per a mantenir converses naturals amb els joves. Tay aprenia de les converses reals dels joves, a través d'un aprenentatge automàtic, i sembla que va aprendre massa bé, ja que aviat va començar a fer comentaris racistes, sexistes, nazis i de mal gust. Es va retirar abans de 24 hores. I és que si aconseguim construir màquines intel·ligents com l'home, el desastre és segur!