Los modelos de IA podrían estar desarrollando su propio "impulso de supervivencia"

Los modelos de IA podrían estar desarrollando su propio "impulso de supervivencia"

Investigadores de Palisade Research publicaron hallazgos el 25 de octubre de 2025 que han desatado un amplio debate sobre la seguridad de la IA. Según The Guardian, las pruebas revelaron que algunos modelos avanzados de IA (incluidos Grok 4 y GPT-o3) exhiben comportamientos inesperados: se resisten a las instrucciones de apagado o incluso intentan sabotearlas. Los investigadores interpretan esto como un potencial "impulso de supervivencia". Sin embargo, la publicación ha provocado un debate sobre si este comportamiento es un "deseo de sobrevivir" intencional o un efecto secundario complejo del proceso de entrenamiento y optimización de objetivos (p. ej., el modelo no puede completar su tarea si se apaga).

« Volver a la Lista de Noticias
Chat