El botó vermell de Google per apagar les màquines si es rebel·len contra els humans

La intel·ligència artificial és potser la més important aposta estratègica de les grans companyies,  estan invertint ingents quantitats de diners, esforços i recursos en el seu desenvolupament.

Màquines que són capaços d’aprendre amb autonomia per a facilitar-nos la vida en qualsevol àmbit.boton rojo de google

Però arribarà un moment en què les màquines superaran la intel·ligència dels humans. I no, no m’ho estic inventant, ni es tracta del títol d’una pel·lícula de ciència ficció. Aquesta és la conclusió a què han arribat especialistes de la companyia Deep Mind (una empresa especialitzada en intel·ligència artificial) i el FHI (Institut per al Futur de la Humanitat). De fet, la informàtica ha avançat enormement des dels seus inicis fa 70 anys. La potència de càlcul s’ha estat multiplicant per dos cada 18 mesos, seguint la llei de Moore. Es creu que, si la llei de Moore se segueix complint, per a l’any 2030 la capacitat de càlcul d’un processador correspondrà a la d’una persona.

La hipòtesi és, com a mínim, inquietant. Tant és així que el clàssic “Terminator” sembla haver inspirat a Google a l’hora de desenvolupar i patentar el seu ja famós botó vermell.

Amb l’ànim d’eradicar la por a la intel·ligència artificial, Deep Mind (empresa que pertany al gegant Google) i el FHI, han desenvolupat un “botó vermell”; un botó d’emergència a través del qual podrien evitar la rebel·lió de les màquines i posar fre a possibles accions nocives.

En què consisteix el botó vermell de Google

Laurent Orseau, científic que treballa per Deep Mind i Stuart Amstrong, de la Universitat d’Oxford, són els responsables d’aquest projecte.

Segons Orseau i Amstrong el botó ha estat creat amb l’objectiu d’evitar que les màquines puguin seguir una seqüència d’accions nociva per als éssers humans o per al seu entorn. Per això han desenvolupat un protocol que permet a l’operador humà interrompre el funcionament de la plataforma d’intel·ligència artificial en cas d’emergència i, a més, assegurar que el robot no sigui capaç d’invalidar aquestes interrupcions.

El gran repte de la intel·ligència artificial

El dubte de si les màquines es poden rebel·lar hi és i cada vegada són més els invents que qüestionen aquesta possibilitat…

Un bon exemple d’això és un robot capaç de decidir si provocar o no dolor a les persones clavant una agulla. El seu creador, Alexander Reben, buscava, quan va crear la màquina, endinsar-se al candent debat de si la intel·ligència artificials és o no perillosa.

Un altre exemple és el bot de Microsoft, Tay, dissenyat amb la intenció de mantenir converses amenes i divertides en les xarxes socials, però al que la companyia va haver de desactivar el dia següent després del seu llançament perquè va començar a llençar comentaris racistes i sexistes a Twitter. ¿Ho recordes?

http://www.bbc.com/mundo/noticias/2016/03/160325_tecnologia_microsoft_tay_bot_adolescente_inteligencia_artificial_racista_xenofoba_lb

Els científics i especialistes estan d’acord que cap sistema és infal·lible i que cal prendre precaucions.

Queda clar que un escenari de perill com el que estem plantejant no és probable avui dia, però la tecnologia avança molt ràpid, el millor és treballar-hi des d’ara.

La clau sembla trobar-se en prendre consciència de la seguretat en el desenvolupament de gairebé tots els algoritmes o robots i que disposin de la capacitat de desconnectar el sistema en un instant. O millor encara, que qualsevol sistema d’intel·ligència artificial pugui detectar quan alguna cosa no va bé i sigui capaç d’aturar-se de manera automàtica.

En el mon de la intel·ligència artificial, aconseguir tindre control humà en qualsevol situació de risc és sens dubte un dels majors reptes als que ens enfrontem.

Com a conclusió diríem que estem davant d’un futur apassionant però no exempt de riscos sinó fem bé les coses.

 

Related Post

Tecnologies que faran carreteres més segures, còmo... La tecnologia ha avançat a nivell vertiginós provocant canvis espectaculars en pràcticament totes les indústries. No obstant això, si parlem de transp...
La digitalització de la compra al detall Els hàbits dels consumidors, tant en el procés de recerca del producte o servei,  com en el de la compra, estan canviant, no només en l'entorn onlin...
Com el mòbil està canviant els hàbits de consum La globalització i la tecnologia han canviat profundament la forma en què consumim. Els dispositius mòbils han irromput en el nostre dia a dia convert...
Anticipatory shipping: La patent d’Amazon pe... Els avenços tecnològics i la innovació fan que sembli que el futur que fa tot just uns anys vèiem en alguns films cinematogràfics, es trobi en el pres...
0 replies

Leave a Reply

Want to join the discussion?
Feel free to contribute!

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *