Más de 200 de las principales figuras del mundo, incluidos 10 premios Nobel, jefes de estado e investigadores de alto nivel de los principales laboratorios de IA, han firmado el "Llamado Global para Establecer Líneas Rojas en la IA". La petición, presentada en la sesión de la Asamblea General de la ONU el 23 de septiembre de 2025, exige que los gobiernos del mundo concluyan un tratado internacional para fines de 2026 que prohíba o limite estrictamente las aplicaciones más peligrosas de la IA. Entre las "líneas rojas" propuestas se encuentran: la prohibición de crear sistemas de IA capaces de autorreplicarse o automejorarse sin control; la prohibición de usar la IA para desarrollar armas biológicas; y una prohibición total de los sistemas de armas autónomas letales. Este llamado es el intento más poderoso y autorizado hasta la fecha para impulsar a los líderes mundiales a crear un régimen de control global de la IA, comparable a los tratados sobre la no proliferación de armas nucleares o químicas.
Premios Nobel Lideran el Llamado a Establecer "Líneas Rojas" para la IA
