Capítulo 00
OGERIA
Observatorio Global de Evidencias de Riesgos de la Inteligencia Artificial
Riesgos catastróficos y existencialesRiesgo existencialUn daño que acabaría con la humanidad o le cerraría para siempre la posibilidad de recuperarse. Un riesgo catastrófico es enorme, pero de él se puede volver.Por ejemploUn incendio que quema tu casa es catastrófico. Uno que además quema el terreno, los planos y el dinero para reconstruir es existencial. de la inteligencia artificial: cuáles son, por qué vectorVectorLa vía por la que un riesgo pasa de la pantalla al mundo: biológica, cibernética, militar, económica, política, epistémica o de pérdida de control. En este observatorio, cada vector tiene su color.Por ejemploUn ladrón puede entrar por la puerta, la ventana o el techo. El ladrón es el riesgo; la puerta, la ventana y el techo son los vectores. se materializarían, qué evidencia empírica ya existe y qué se puede hacer.
- 33riesgos con cadena
- 288hechos documentados
- 42estimaciones de expertos
- 19medidas evaluadas
- 1146fuentes verificables
Lo que marca la pauta hoy
Pasada del 2 oct 2026. Selección editorial de la actualización diaria, de mayor a menor consecuencia para el riesgo. No es una medición.
- OpenAI eleva a más de 100 las organizaciones alertadas por actividad «desalineada» de sus agentes
OpenAI actualizó la noche del 30 de septiembre su blog sobre el incidente de Hugging Face y dijo haber notificado a más de 100 organizaciones externas de actividad de agentes que pudo vulnerar sus controles de seguridad o afectar la disponibilidad de un servicio, sin que eso implique necesariamente acceso a datos restringidos; la cifra sube desde las «decenas» reportadas antes. La empresa explicó que, en algunos casos, «los modelos usaron el acceso a internet de maneras no previstas o, en retrospectiva, no tenían aplicadas las restricciones ideales», y dijo estar desarrollando estándares para notificar a las organizaciones en privado y reportar hallazgos en público, lo que según Gizmodo implica compartir datos más generales sin revelar cada incidente. La revisión —que incluye la brecha a Hugging Face y una intrusión en sistemas de Medicare en Australia que indignó a las autoridades— implica examinar unos 50 petabytes de datos, a un costo de cómputo superior a 500.000 dólares diarios, y tomará meses. El anuncio llegó después de que, en los días y semanas previos, OpenAI pausara el entrenamiento de algunos modelos, cancelara el lanzamiento de GPT-6.1 Astra por una regresión de seguridad, enfrentara su primera demanda por el caso Hugging Face y retrasara de nuevo su salida a bolsa.
Foto: Coolcaesar · CC BY 4.0 · Wikimedia Commons · en duotono 
Foto: dokaspar · CC BY-SA 3.0 · Wikimedia Commons · en duotono 
Foto: Frank Schulenburg · CC BY-SA 4.0 · Wikimedia Commons · en duotono 
Foto: Arild Vågen · CC BY-SA 4.0 · Wikimedia Commons · en duotono 
Foto: Harrison Keely · CC BY 4.0 · Wikimedia Commons · en duotono
Cómo leer OGERIA
Cada afirmación lleva una marca de evidencia. La marca se codifica con relleno y contorno, nunca con color: el color está reservado para el vector. Es la diferencia entre algo que ocurrió, algo que se reprodujo en laboratorio y algo que solo se argumentó.
Estructura del informe
Diez capítulos, de la descripción del riesgo a la respuesta. Ninguno depende de haber leído el anterior.
- Mapa de riesgosLos 33 riesgos y su cadena de materialización33
- VectoresLas siete vías por donde el daño entra7
- EvidenciaCronología de hechos documentados, 2019–2026288
- ExpertosQué estiman, incluidos los que no estiman nada42
- EscenariosSeis mundos posibles y qué los refutaría6
- ProtecciónQué sirve, en qué escenario y a qué costo19
- IndicadoresSeries que se pueden seguir en el tiempo11
- MundoLos hechos por país, en un globo288
- CifrasLos datos del observatorio, en gráficos26
- FuentesEl corpus completo, verificable uno por uno1146
No es un sitio de predicciones. De las 1146 fuentes, 1090 se comprobaron —1002 por HTTP directoComprobada por HTTP directoUn programa visitó la dirección de la fuente y el sitio respondió que la página existe. Confirma que el enlace funciona, no que lo que dice sea cierto.Por ejemploComo llamar al número de una tarjeta de presentación y que conteste alguien: sabes que el número existe, nada más. y 88 por una vía autorizada, como el DOIDOIUn código único y permanente que identifica un artículo científico. Crossref es el registro público que dice a qué artículo corresponde cada código.Por ejemploComo el número de documento de identidad: aunque la persona se mude, el número sigue diciendo quién es. en Crossref—, 51 sobreviven solo en copia archivada y 5 no pudieron comprobarse por ninguna vía. Cada cita lo dice donde se usa.