24.2 C
Santo Domingo
lunes, abril 19, 2021

Google trabaja sobre un «botón rojo» para prevenir la rebelión de los robots

Mientras la ciencia avanza rápidamente en la creación de sistemas de inteligencia artificial, Google se encuentra en el proceso de desarrollo de un «gran botón rojo», mecanismo que podría prevenir actos dañinos de los robots agentes de aprendizaje por refuerzo.

En su nuevo informe los investigadores advierten que en el mundo real es poco probable que los agentes de aprendizaje por refuerzo funcionen siempre de manera óptima. «Si un agente opera en tiempo real bajo supervisión humana, a un operador humano le puede surgir la necesidad de tocar el gran botón rojo para prevenir que el agente continúe haciendo una secuencia de acciones dañinas ―para el agente o para su entorno― y llevar al agente a una situación más segura», reza el documento.

El equipo de Google DeepMind junto con otros científicos ha propuesto un protocolo que le permitiría al operador humano interrumpir el funcionamiento de la plataforma de inteligencia en caso de que sea necesario y, además, asegurar que el robot no aprenda a prevenir o invalidar estas interrupciones. Se espera que de esta manera se pueda evitar consecuencias irreversibles.

Tras analizar varios algoritmos, los científicos llegaron a la conclusión de que algunos de ellos, como el Q-learning, ya pueden funcionar de manera segura, mientras que otros, como el Sarsa, pueden ser modificados para convertirse en ininterrumpibles.

Related Articles

NBA: Adebayo y Randle en gran noche; aquí las 10 mejores en la jornada de ayer

La presencia de los nuevos jugadores líderes que hay dentro de la liga se hizo sentir en la jornada de la NBA con las...

Luis García y Yeison Michel van a la plataforma en clasificatorio Tokio 2020 en pesas

Los dominicanos Yeison Michel y Luis García saltarán a la plataforma en la primera jornada este lunes del XXIX Campeonato de Mayores de Levantamiento...

Luis García y Yeison Michel van a la plataforma en clasificatorio Tokio 2020 en pesas

Los dominicanos Yeison Michel y Luis García saltarán a la plataforma en la primera jornada este lunes del XXIX Campeonato de Mayores de Levantamiento...

Latest Articles

NBA: Adebayo y Randle en gran noche; aquí las 10 mejores en la jornada de ayer

La presencia de los nuevos jugadores líderes que hay dentro de la liga se hizo sentir en la jornada de la NBA con las...

Luis García y Yeison Michel van a la plataforma en clasificatorio Tokio 2020 en pesas

Los dominicanos Yeison Michel y Luis García saltarán a la plataforma en la primera jornada este lunes del XXIX Campeonato de Mayores de Levantamiento...

Luis García y Yeison Michel van a la plataforma en clasificatorio Tokio 2020 en pesas

Los dominicanos Yeison Michel y Luis García saltarán a la plataforma en la primera jornada este lunes del XXIX Campeonato de Mayores de Levantamiento...

El helicóptero de la NASA en Marte completa su primer vuelo, un hecho histórico

El helicóptero experimental de la NASA en Marte despegó el lunes de la polvorienta superficie roja de Marte para completar el primer vuelo controlado...

Abinader solicitará en la Cumbre Iberoamericana mayor solidaridad adaptada a la coyuntura del momento

El presidente de la República Dominicana, Luis Abinader, llevará a la Cumbre Iberoamericana de Andorra del próximo miércoles un llamamiento a la solidaridad entre...