29.6 C
Santo Domingo
jueves, octubre 29, 2020

Google trabaja sobre un «botón rojo» para prevenir la rebelión de los robots

Mientras la ciencia avanza rápidamente en la creación de sistemas de inteligencia artificial, Google se encuentra en el proceso de desarrollo de un «gran botón rojo», mecanismo que podría prevenir actos dañinos de los robots agentes de aprendizaje por refuerzo.

En su nuevo informe los investigadores advierten que en el mundo real es poco probable que los agentes de aprendizaje por refuerzo funcionen siempre de manera óptima. «Si un agente opera en tiempo real bajo supervisión humana, a un operador humano le puede surgir la necesidad de tocar el gran botón rojo para prevenir que el agente continúe haciendo una secuencia de acciones dañinas ―para el agente o para su entorno― y llevar al agente a una situación más segura», reza el documento.

El equipo de Google DeepMind junto con otros científicos ha propuesto un protocolo que le permitiría al operador humano interrumpir el funcionamiento de la plataforma de inteligencia en caso de que sea necesario y, además, asegurar que el robot no aprenda a prevenir o invalidar estas interrupciones. Se espera que de esta manera se pueda evitar consecuencias irreversibles.

Tras analizar varios algoritmos, los científicos llegaron a la conclusión de que algunos de ellos, como el Q-learning, ya pueden funcionar de manera segura, mientras que otros, como el Sarsa, pueden ser modificados para convertirse en ininterrumpibles.

Related Articles

Joven Actor de origen dominicano protagonizará serie de Netflix

SANTO DOMINGO.- Netflix ya inició el proceso para llevar a su plataforma la vida del exquarterback de San Francisco, Colin Kaepernick, quien de acuerdo a...

La app que más ingresa en los iPhones, con 33,8 millones en un mes: Tinder

POR:  AGENCIA EFE MADRID.- La aplicación de citas Tinder facturó en septiembre de 33,8 millones de dólares (28,5 millones de euros) en la tienda virtual...

Cubanoamericanos le darán el triunfo a Trump en Florida

Por Tim Golden Una vez más, Florida parece ser fundamental para la carrera presidencial estadounidense. Donald Trump y Joe Biden enfrentan una pregunta que se ha...

Latest Articles

Joven Actor de origen dominicano protagonizará serie de Netflix

SANTO DOMINGO.- Netflix ya inició el proceso para llevar a su plataforma la vida del exquarterback de San Francisco, Colin Kaepernick, quien de acuerdo a...

La app que más ingresa en los iPhones, con 33,8 millones en un mes: Tinder

POR:  AGENCIA EFE MADRID.- La aplicación de citas Tinder facturó en septiembre de 33,8 millones de dólares (28,5 millones de euros) en la tienda virtual...

Cubanoamericanos le darán el triunfo a Trump en Florida

Por Tim Golden Una vez más, Florida parece ser fundamental para la carrera presidencial estadounidense. Donald Trump y Joe Biden enfrentan una pregunta que se ha...

Maluma: volvió a tomar fuerza un video de su “molestia” por el romance de Belinda y Nodal

Una transmisión en vivo que el reggaetonero realizó hace un par de meses lo ha posicionado recientemente en relación a la llamada “pareja del...

Segunda ola de COVID-19 será peor que la primera

Países como Francia, España y el Reino Unido están experimentando algunos de los aumentos más significativos. Qué están haciendo para prepararse Por Juan Dillon la...