22.4 C
Santo Domingo
lunes, enero 18, 2021

Google trabaja sobre un «botón rojo» para prevenir la rebelión de los robots

Mientras la ciencia avanza rápidamente en la creación de sistemas de inteligencia artificial, Google se encuentra en el proceso de desarrollo de un «gran botón rojo», mecanismo que podría prevenir actos dañinos de los robots agentes de aprendizaje por refuerzo.

En su nuevo informe los investigadores advierten que en el mundo real es poco probable que los agentes de aprendizaje por refuerzo funcionen siempre de manera óptima. «Si un agente opera en tiempo real bajo supervisión humana, a un operador humano le puede surgir la necesidad de tocar el gran botón rojo para prevenir que el agente continúe haciendo una secuencia de acciones dañinas ―para el agente o para su entorno― y llevar al agente a una situación más segura», reza el documento.

El equipo de Google DeepMind junto con otros científicos ha propuesto un protocolo que le permitiría al operador humano interrumpir el funcionamiento de la plataforma de inteligencia en caso de que sea necesario y, además, asegurar que el robot no aprenda a prevenir o invalidar estas interrupciones. Se espera que de esta manera se pueda evitar consecuencias irreversibles.

Tras analizar varios algoritmos, los científicos llegaron a la conclusión de que algunos de ellos, como el Q-learning, ya pueden funcionar de manera segura, mientras que otros, como el Sarsa, pueden ser modificados para convertirse en ininterrumpibles.

Related Articles

Una investidura explosiva, el día más bajo de la democracia estadounidense

POR:  AGENCIA EFE ESTADOS UNIDOS.- La investidura de Joe Biden esta semana es una de las pruebas de fuego más decisivas para la democracia estadounidense,...

Maluma, el primer hombre en reinar en la portada de la revista «ELLE» en EEUU

POR:  AGENCIA EFE Miami.- El artista colombiano Maluma se convirtió este viernes en el primer hombre en protagonizar en solitario la portada de la...

La cantante puertorriqueña Chesca da positivo a la COVID-19

POR:  AGENCIA EFE PUERTO RICO.- La cantante puertorriqueña Chesca, quien lanzó recientemente su nuevo sencillo, «Como Tú Me Querías Remix», junto a su compatriota y...

Latest Articles

Una investidura explosiva, el día más bajo de la democracia estadounidense

POR:  AGENCIA EFE ESTADOS UNIDOS.- La investidura de Joe Biden esta semana es una de las pruebas de fuego más decisivas para la democracia estadounidense,...

Maluma, el primer hombre en reinar en la portada de la revista «ELLE» en EEUU

POR:  AGENCIA EFE Miami.- El artista colombiano Maluma se convirtió este viernes en el primer hombre en protagonizar en solitario la portada de la...

La cantante puertorriqueña Chesca da positivo a la COVID-19

POR:  AGENCIA EFE PUERTO RICO.- La cantante puertorriqueña Chesca, quien lanzó recientemente su nuevo sencillo, «Como Tú Me Querías Remix», junto a su compatriota y...

Samsung presenta su producto insignia para 2021 en la CES: el Galaxy S21

POR:  AGENCIA EFE LOS ÁNGELES.- Samsung presentó este jueves el nuevo Galaxy S21 Ultra 5G, el producto insignia de la compañía surcoreana para 2021 que...

La caravana migrante se duplica a su paso por Guatemala

Migrantes cruzan la frontera entre Honduras y Guatemala en El Florido, el 16 de enero de 2021.Luis Echeverria / Reuters https://youtu.be/zfMchyeBkIA La multitud se enfrentó varias veces...