La intel·ligència artificial és potser la més important aposta estratègica de les grans companyies, estan invertint ingents quantitats de diners, esforços i recursos en el seu desenvolupament.
Màquines que són capaços d’aprendre amb autonomia per a facilitar-nos la vida en qualsevol àmbit.
Però arribarà un moment en què les màquines superaran la intel·ligència dels humans. I no, no m’ho estic inventant, ni es tracta del títol d’una pel·lícula de ciència ficció. Aquesta és la conclusió a què han arribat especialistes de la companyia Deep Mind (una empresa especialitzada en intel·ligència artificial) i el FHI (Institut per al Futur de la Humanitat). De fet, la informàtica ha avançat enormement des dels seus inicis fa 70 anys. La potència de càlcul s’ha estat multiplicant per dos cada 18 mesos, seguint la llei de Moore. Es creu que, si la llei de Moore se segueix complint, per a l’any 2030 la capacitat de càlcul d’un processador correspondrà a la d’una persona.
La hipòtesi és, com a mínim, inquietant. Tant és així que el clàssic “Terminator” sembla haver inspirat a Google a l’hora de desenvolupar i patentar el seu ja famós botó vermell.
Amb l’ànim d’eradicar la por a la intel·ligència artificial, Deep Mind (empresa que pertany al gegant Google) i el FHI, han desenvolupat un “botó vermell”; un botó d’emergència a través del qual podrien evitar la rebel·lió de les màquines i posar fre a possibles accions nocives.
En què consisteix el botó vermell de Google
Laurent Orseau, científic que treballa per Deep Mind i Stuart Amstrong, de la Universitat d’Oxford, són els responsables d’aquest projecte.
Segons Orseau i Amstrong el botó ha estat creat amb l’objectiu d’evitar que les màquines puguin seguir una seqüència d’accions nociva per als éssers humans o per al seu entorn. Per això han desenvolupat un protocol que permet a l’operador humà interrompre el funcionament de la plataforma d’intel·ligència artificial en cas d’emergència i, a més, assegurar que el robot no sigui capaç d’invalidar aquestes interrupcions.
El gran repte de la intel·ligència artificial
El dubte de si les màquines es poden rebel·lar hi és i cada vegada són més els invents que qüestionen aquesta possibilitat…
Un bon exemple d’això és un robot capaç de decidir si provocar o no dolor a les persones clavant una agulla. El seu creador, Alexander Reben, buscava, quan va crear la màquina, endinsar-se al candent debat de si la intel·ligència artificials és o no perillosa.
Un altre exemple és el bot de Microsoft, Tay, dissenyat amb la intenció de mantenir converses amenes i divertides en les xarxes socials, però al que la companyia va haver de desactivar el dia següent després del seu llançament perquè va començar a llençar comentaris racistes i sexistes a Twitter. ¿Ho recordes?
Els científics i especialistes estan d’acord que cap sistema és infal·lible i que cal prendre precaucions.
Queda clar que un escenari de perill com el que estem plantejant no és probable avui dia, però la tecnologia avança molt ràpid, el millor és treballar-hi des d’ara.
La clau sembla trobar-se en prendre consciència de la seguretat en el desenvolupament de gairebé tots els algoritmes o robots i que disposin de la capacitat de desconnectar el sistema en un instant. O millor encara, que qualsevol sistema d’intel·ligència artificial pugui detectar quan alguna cosa no va bé i sigui capaç d’aturar-se de manera automàtica.
En el mon de la intel·ligència artificial, aconseguir tindre control humà en qualsevol situació de risc és sens dubte un dels majors reptes als que ens enfrontem.
Com a conclusió diríem que estem davant d’un futur apassionant però no exempt de riscos sinó fem bé les coses.
