{"id":1439,"date":"2017-06-06T18:22:10","date_gmt":"2017-06-06T18:22:10","guid":{"rendered":"http:\/\/ignasisayol.com\/?p=1439\/"},"modified":"2018-09-17T08:42:42","modified_gmt":"2018-09-17T08:42:42","slug":"boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos","status":"publish","type":"post","link":"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/","title":{"rendered":"Bot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos"},"content":{"rendered":"

La inteligencia artificial<\/strong> es una de las apuestas de las grandes compa\u00f1\u00edas, que est\u00e1n invirtiendo ingentes cantidades de dinero, esfuerzos y recursos en su desarrollo.<\/p>\n

M\u00e1quinas que son capaces de aprender con autonom\u00eda para facilitarnos la vida en cualquier \u00e1mbito.\"boton<\/p>\n

Pero llegar\u00e1 un momento en el que las m\u00e1quinas superar\u00e1n la inteligencia de los humanos<\/strong>. Y no, no me lo estoy inventando, ni se trata del t\u00edtulo de una pel\u00edcula de ciencia ficci\u00f3n. \u00c9sta es la conclusi\u00f3n a la que han llegado especialistas de la compa\u00f1\u00eda Deep Mind (una empresa especializada en inteligencia artificial) y el FHI (Instituto para el Futuro de la Humanidad). De hecho, la inform\u00e1tica ha avanzado enormemente desde sus inicios hace 70 a\u00f1os. La potencia de c\u00e1lculo se ha estado multiplicando por dos cada 18 meses, siguiendo la ley de Moore. Se cree que, si la ley de Moore se sigue cumpliendo, para el a\u00f1o 2030 la capacidad de c\u00e1lculo de un procesador corresponder\u00e1 a la de una persona.<\/p>\n

La hip\u00f3tesis es, cuando menos, inquietante. Tanto es as\u00ed que el cl\u00e1sico \u201cTerminator\u201d parece haber inspirado a Google a la hora de desarrollar y patentar su ya famoso bot\u00f3n rojo.<\/p>\n

Con el \u00e1nimo de erradicar el miedo a la inteligencia artificial, Deep Mind (empresa que pertenece al gigante Google) y el FHI, han desarrollado un \u201cbot\u00f3n rojo\u201d; un bot\u00f3n de emergencia a trav\u00e9s del que podr\u00edan evitar la rebeli\u00f3n de las m\u00e1quinas y poner freno a posibles acciones da\u00f1inas.<\/p>\n

En qu\u00e9 consiste el bot\u00f3n rojo de Google<\/strong><\/p>\n

Laurent Orseau, cient\u00edfico que trabaja para Deep Mind y Stuart Amstrong, de la Universidad de Oxford, son los responsables de este proyecto.<\/p>\n

Seg\u00fan Orseau y Amstrong el bot\u00f3n ha sido creado con el objetivo de evitar que las m\u00e1quinas puedan seguir una secuencia de acciones da\u00f1ina para los seres humanos o para su entorno. Para ello han desarrollado un protocolo que permite al operador humano interrumpir el funcionamiento de la plataforma de inteligencia artificial en caso de emergencia y, adem\u00e1s, asegurar que el robot no sea capaz de invalidar estas interrupciones.<\/p>\n

El gran reto de la inteligencia artificial <\/strong><\/p>\n

La duda de si las m\u00e1quinas se pueden llegar a rebelar est\u00e1 ah\u00ed y cada vez son m\u00e1s los inventos que cuestionan esta posibilidad\u2026<\/p>\n

Un buen ejemplo de ello es un robot capaz de decidir si provocar o no dolor a las personas clav\u00e1ndoles una aguja. Su creador, Alexander Reben, buscaba al crear la m\u00e1quina adentrarse en el candente debate de si la inteligencia artificia es o no peligrosa.<\/p>\n

Otro ejemplo es el bot de Microsoft, Tay, dise\u00f1ado con la intenci\u00f3n de mantener conversaciones amenas y divertidas en las redes sociales, pero al que la compa\u00f1\u00eda tuvo que desactivar el d\u00eda despu\u00e9s de su lanzamiento porque comenz\u00f3 a lanzar cometarios racistas y sexistas en Twitter. \u00bfLo recuerdas?<\/p>\n

http:\/\/www.bbc.com\/mundo\/noticias\/2016\/03\/160325_tecnologia_microsoft_tay_bot_adolescente_inteligencia_artificial_racista_xenofoba_lb<\/a><\/p>\n

Parece que muchos son los cient\u00edficos y especialistas que est\u00e1n de acuerdo en que ning\u00fan sistema es infalible y que hay que tomar precauciones.<\/p>\n

Y aunque un escenario de peligro como el que estamos planteando no es tan probable hoy en d\u00eda, la tecnolog\u00eda avanza muy r\u00e1pido, lo mejor es trabajar sobre ello desde ahora.<\/p>\n

La clave parece encontrarse en tomar conciencia de la seguridad en el desarrollo de casi todos los algoritmos o robots y que dispongan de la capacidad de desconectar el sistema en un instante. O mejor a\u00fan, que cualquier sistema de inteligencia artificial pueda detectar cuando algo no va bien y sea capaz de detenerse de manera autom\u00e1tica.<\/p>\n

En el mundo de la inteligencia artificial, conseguir tener control humano en cualquier situaci\u00f3n de riesgo es sin duda uno de los mayores retos a los que nos enfrentamos.<\/p>\n

Como conclusi\u00f3n dir\u00edamos que estamos ante un futuro apasionante pero no exento de riesgos si no hacemos bien las cosas.<\/p>\n

 <\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

La inteligencia artificial es una de las apuestas de las grandes compa\u00f1\u00edas, que est\u00e1n…<\/p>\n","protected":false},"author":1,"featured_media":2055,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[63],"tags":[],"yoast_head":"\nBot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos - Ignasi Sayol<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Bot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos - Ignasi Sayol\" \/>\n<meta property=\"og:description\" content=\"La inteligencia artificial es una de las apuestas de las grandes compa\u00f1\u00edas, que est\u00e1n…\" \/>\n<meta property=\"og:url\" content=\"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/\" \/>\n<meta property=\"og:site_name\" content=\"Ignasi Sayol\" \/>\n<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/ignasi.sayol\" \/>\n<meta property=\"article:published_time\" content=\"2017-06-06T18:22:10+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2018-09-17T08:42:42+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/ignasisayol.com\/wp-content\/uploads\/2017\/06\/boton-rojo-de-google.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"624\" \/>\n\t<meta property=\"og:image:height\" content=\"351\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Ignasi Sayol\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@http:\/\/twitter.com\/isayolsanta\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Ignasi Sayol\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"3 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/\",\"url\":\"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/\",\"name\":\"Bot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos - Ignasi Sayol\",\"isPartOf\":{\"@id\":\"https:\/\/ignasisayol.com\/#website\"},\"datePublished\":\"2017-06-06T18:22:10+00:00\",\"dateModified\":\"2018-09-17T08:42:42+00:00\",\"author\":{\"@id\":\"https:\/\/ignasisayol.com\/#\/schema\/person\/d748465f3d81d611e893b0467232287b\"},\"breadcrumb\":{\"@id\":\"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Inici\",\"item\":\"https:\/\/ignasisayol.com\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Bot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/ignasisayol.com\/#website\",\"url\":\"https:\/\/ignasisayol.com\/\",\"name\":\"Ignasi Sayol\",\"description\":\"\",\"alternateName\":\"Ignasi Sayol\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/ignasisayol.com\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"es\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/ignasisayol.com\/#\/schema\/person\/d748465f3d81d611e893b0467232287b\",\"name\":\"Ignasi Sayol\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/ignasisayol.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/ignasisayol.com\/wp-content\/uploads\/2018\/08\/isayolsanta-300x300.jpeg\",\"contentUrl\":\"https:\/\/ignasisayol.com\/wp-content\/uploads\/2018\/08\/isayolsanta-300x300.jpeg\",\"caption\":\"Ignasi Sayol\"},\"description\":\"Engineer & MBA. Entrepreneur. President @logisticCluster & @PIMEC Logistics. Comprom\u00e8s amb la meva fam\u00edlia, el meu treball, Barcelona i Catalunya.\",\"sameAs\":[\"https:\/\/ignasisayol.com\",\"https:\/\/www.facebook.com\/ignasi.sayol\",\"https:\/\/www.instagram.com\/ignasi.sayol\/\",\"https:\/\/twitter.com\/http:\/\/twitter.com\/isayolsanta\"],\"url\":\"https:\/\/ignasisayol.com\/es\/author\/admin\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Bot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos - Ignasi Sayol","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/","og_locale":"es_ES","og_type":"article","og_title":"Bot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos - Ignasi Sayol","og_description":"La inteligencia artificial es una de las apuestas de las grandes compa\u00f1\u00edas, que est\u00e1n…","og_url":"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/","og_site_name":"Ignasi Sayol","article_author":"https:\/\/www.facebook.com\/ignasi.sayol","article_published_time":"2017-06-06T18:22:10+00:00","article_modified_time":"2018-09-17T08:42:42+00:00","og_image":[{"width":624,"height":351,"url":"https:\/\/ignasisayol.com\/wp-content\/uploads\/2017\/06\/boton-rojo-de-google.jpg","type":"image\/jpeg"}],"author":"Ignasi Sayol","twitter_card":"summary_large_image","twitter_creator":"@http:\/\/twitter.com\/isayolsanta","twitter_misc":{"Escrito por":"Ignasi Sayol","Tiempo de lectura":"3 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/","url":"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/","name":"Bot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos - Ignasi Sayol","isPartOf":{"@id":"https:\/\/ignasisayol.com\/#website"},"datePublished":"2017-06-06T18:22:10+00:00","dateModified":"2018-09-17T08:42:42+00:00","author":{"@id":"https:\/\/ignasisayol.com\/#\/schema\/person\/d748465f3d81d611e893b0467232287b"},"breadcrumb":{"@id":"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/ignasisayol.com\/es\/boton-rojo-google-para-apagar-las-maquinas-se-rebelan-contra-los-humanos\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Inici","item":"https:\/\/ignasisayol.com\/"},{"@type":"ListItem","position":2,"name":"Bot\u00f3n rojo de Google para apagar las m\u00e1quinas si se rebelan contra los humanos"}]},{"@type":"WebSite","@id":"https:\/\/ignasisayol.com\/#website","url":"https:\/\/ignasisayol.com\/","name":"Ignasi Sayol","description":"","alternateName":"Ignasi Sayol","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/ignasisayol.com\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"es"},{"@type":"Person","@id":"https:\/\/ignasisayol.com\/#\/schema\/person\/d748465f3d81d611e893b0467232287b","name":"Ignasi Sayol","image":{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/ignasisayol.com\/#\/schema\/person\/image\/","url":"https:\/\/ignasisayol.com\/wp-content\/uploads\/2018\/08\/isayolsanta-300x300.jpeg","contentUrl":"https:\/\/ignasisayol.com\/wp-content\/uploads\/2018\/08\/isayolsanta-300x300.jpeg","caption":"Ignasi Sayol"},"description":"Engineer & MBA. Entrepreneur. President @logisticCluster & @PIMEC Logistics. Comprom\u00e8s amb la meva fam\u00edlia, el meu treball, Barcelona i Catalunya.","sameAs":["https:\/\/ignasisayol.com","https:\/\/www.facebook.com\/ignasi.sayol","https:\/\/www.instagram.com\/ignasi.sayol\/","https:\/\/twitter.com\/http:\/\/twitter.com\/isayolsanta"],"url":"https:\/\/ignasisayol.com\/es\/author\/admin\/"}]}},"_links":{"self":[{"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/posts\/1439"}],"collection":[{"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/comments?post=1439"}],"version-history":[{"count":4,"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/posts\/1439\/revisions"}],"predecessor-version":[{"id":3123,"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/posts\/1439\/revisions\/3123"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/media\/2055"}],"wp:attachment":[{"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/media?parent=1439"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/categories?post=1439"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ignasisayol.com\/es\/wp-json\/wp\/v2\/tags?post=1439"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}