Anthropic crea una IA tan peligrosa que decide no publicarla y lanza Project Glasswing para defensa
Esto no se ve todos los días: una empresa de inteligencia artificial crea su modelo más potente hasta la fecha y decide no hacerlo público porque es demasiado peligroso. Eso es exactamente lo que ha hecho Anthropic con Claude Mythos (también conocido internamente como «Capybara»), un modelo con una estimación de 10 billones de parámetros que ha demostrado una capacidad sin precedentes para descubrir y explotar vulnerabilidades zero-day en infraestructuras críticas.
Leído así puede sonar a ciencia ficción, pero la realidad es que Anthropic clasificó el modelo bajo sus protocolos de seguridad más estrictos (ASL-4) y tomó la decisión de no ofrecerlo a través de sus APIs públicas. En lugar de monetizarlo directamente, la compañía lanzó el Project Glasswing, una iniciativa defensiva que pone una versión controlada de Claude Mythos al servicio de organizaciones que trabajan en ciberseguridad para encontrar y parchear fallos antes de que los exploten actores maliciosos.
Lo que hace especialmente relevante a Glasswing es el calibre de las empresas que se han sumado al consorcio: Amazon Web Services, Apple, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, Nvidia y Palo Alto Networks. Anthropic ha comprometido 100 millones de dólares en créditos de uso del modelo y 4 millones adicionales en donaciones para seguridad open source.
A nivel de negocio, esto marca un precedente importantísimo. Hasta ahora, la carrera de la IA iba exclusivamente en una dirección: hacer modelos más grandes, más capaces, y ponerlos en manos de cualquiera lo más rápido posible. Anthropic acaba de demostrar que hay un límite donde la capacidad se convierte en amenaza, y que no publicar puede ser más estratégico que publicar. Es la primera vez que una empresa de IA frontera toma una decisión así con tanta transparencia.
Para los que trabajamos con tecnología, la reflexión va más allá del titular. Si un modelo de IA puede encontrar vulnerabilidades zero-day en infraestructuras críticas mejor que cualquier equipo humano, ¿quién debería tener acceso a eso? ¿Solo los gobiernos? ¿Las grandes tech? ¿Y qué pasa con las PYMEs que ni siquiera saben que sus sistemas son vulnerables? Glasswing es un primer paso interesante, pero la pregunta de fondo sigue abierta: ¿estamos preparados para gestionar herramientas de IA que son más peligrosas que útiles en las manos equivocadas?
