Anthropic lanza un modelo de IA similar a Mythos con sistemas de seguridad reforzados

🤖 Anthropic amplía el acceso a sus modelos de IA con nuevas medidas de seguridad

Anthropic PBC está ampliando el acceso a una nueva generación de sus modelos de inteligencia artificial, al mismo tiempo que introduce mayores controles para limitar determinados usos de alto riesgo.

La compañía anunció el lanzamiento de Claude Fable 5, un modelo que incorpora mecanismos de seguridad diseñados para restringir ciertas consultas relacionadas con áreas sensibles, entre ellas la ciberseguridad y la biología.

La decisión llega meses después de que Anthropic advirtiera que su potente modelo Mythos era capaz de identificar y explotar vulnerabilidades en software crítico cuando recibía instrucciones para hacerlo.

🛡️ Anthropic busca ampliar el acceso a modelos de IA más potentes sin liberar de forma general capacidades que podrían utilizarse para causar daños.

🧠 ¿Qué es Claude Fable 5?

Según Anthropic, Claude Fable 5 es su modelo más potente disponible para usuarios de pago y clientes empresariales.

El nuevo modelo incorpora mejoras significativas en diferentes áreas profesionales y técnicas.

• 💻 Programación y desarrollo de software.
• 📊 Análisis de datos.
• 🔎 Investigación.
• 🧠 Resolución de problemas complejos.
• 📚 Trabajo avanzado de conocimiento.
• ⚙️ Tareas profesionales de larga duración.

La compañía asegura que Fable 5 puede trabajar durante períodos más prolongados en problemas complejos y mejorar el rendimiento frente a generaciones anteriores.

🔐 Algunas consultas estarán restringidas

Una de las principales diferencias de Fable 5 será la incorporación de salvaguardas adicionales para determinados tipos de solicitudes.

Estas restricciones afectarán especialmente a consultas relacionadas con áreas consideradas de mayor riesgo, como:

• 🛡️ Ciberseguridad avanzada.
• 🧬 Determinadas consultas relacionadas con biología.
• ⚠️ Solicitudes que puedan implicar capacidades potencialmente peligrosas.

Cuando una solicitud active estas protecciones, Claude podrá redirigir la respuesta hacia otro modelo denominado Claude Opus 4.8.

⚠️ Anthropic reconoce que un modelo con capacidades avanzadas también puede generar nuevos riesgos si se utiliza sin controles adecuados.

🛡️ Las salvaguardas serán conservadoras

Anthropic explicó que ha configurado inicialmente estas medidas de seguridad utilizando un criterio conservador.

Esto significa que algunas solicitudes legítimas podrían ser bloqueadas aunque no representen realmente una amenaza.

Según la compañía, estas protecciones se activan, en promedio, en menos del 5% de las sesiones.

El objetivo es permitir que Fable 5 pueda llegar rápidamente a usuarios y empresas sin liberar de manera general determinadas capacidades consideradas más sensibles.

⚡ Mythos 5 ofrecerá capacidades más avanzadas

Junto con Fable 5, Anthropic también anunció una versión actualizada denominada Claude Mythos 5.

Según la información proporcionada, ambos utilizan el mismo modelo subyacente, pero Mythos 5 tendrá restricciones de seguridad flexibilizadas en determinadas áreas.

Su acceso no será general.

Estará disponible principalmente para organizaciones autorizadas a utilizar capacidades avanzadas de ciberseguridad mediante una iniciativa especial de Anthropic.

🦋 Project Glasswing: acceso controlado a Mythos

La iniciativa recibe el nombre de Project Glasswing, inspirado en la mariposa de alas transparentes conocida por camuflarse a plena vista.

El proyecto permite que determinadas organizaciones tengan acceso a las capacidades avanzadas de Mythos bajo un esquema controlado.

Anthropic amplió recientemente el programa incorporando aproximadamente 150 organizaciones adicionales, elevando a alrededor de 200 el número total de entidades con acceso.

🔐 La estrategia busca que las capacidades más sensibles de la IA estén disponibles para organizaciones autorizadas sin ofrecerlas automáticamente a todos los usuarios.

🌎 Project Glasswing se expande a nuevos sectores

Según la información proporcionada, las nuevas organizaciones participantes se encuentran distribuidas en más de 15 países.

La expansión también incorpora sectores que inicialmente no estaban representados dentro del proyecto.

• ⚡ Energía.
• 💧 Suministro de agua.
• 🏥 Salud.
• 📡 Comunicaciones.
• 🖥️ Hardware.

Anthropic no reveló los nombres de las nuevas organizaciones incorporadas ni todos los países a los que pertenecen.

🏢 Grandes compañías participaron en la primera etapa

En su lanzamiento inicial, Project Glasswing estuvo limitado a aproximadamente 40 organizaciones.

Entre las compañías y entidades mencionadas en la información proporcionada se encuentran:

• ☁️ Amazon.
• 🍎 Apple.
• 🔎 Google.
• 🪟 Microsoft.
• 🧠 Nvidia.
• 🛡️ CrowdStrike.
• 🏦 JPMorgan Chase.
• 🌐 Cisco.
• ⚙️ Broadcom.
• 🔥 Palo Alto Networks.
• 🐧 Linux Foundation.

La presencia de organizaciones tecnológicas, financieras y de ciberseguridad refleja la importancia que Anthropic está dando a las pruebas controladas de sus modelos más avanzados.

🚨 ¿Por qué Anthropic limita el acceso a Mythos?

Mythos se ha convertido en una pieza importante dentro de la estrategia tecnológica de Anthropic debido al nivel de capacidad que puede alcanzar.

La compañía tomó la inusual decisión de restringir su acceso después de determinar que el modelo podía identificar y explotar vulnerabilidades en importantes sistemas operativos y navegadores web cuando recibía instrucciones para hacerlo.

Esto presenta una situación compleja.

Las mismas capacidades que pueden utilizarse para encontrar y solucionar vulnerabilidades también podrían utilizarse de manera indebida.

🛡️ En ciberseguridad, una IA muy avanzada puede convertirse tanto en una poderosa herramienta defensiva como en un riesgo si sus capacidades son utilizadas incorrectamente.

⚖️ El desafío del uso dual de la inteligencia artificial

Este escenario refleja uno de los principales desafíos actuales de la inteligencia artificial: el denominado uso dual.

Una misma tecnología puede utilizarse para objetivos beneficiosos o perjudiciales dependiendo de quién la utilice y con qué propósito.

En ciberseguridad, por ejemplo, una IA avanzada podría ayudar a:

• 🔎 Detectar vulnerabilidades.
• 🧪 Analizar aplicaciones y sistemas.
• 🛡️ Fortalecer defensas.
• 📊 Investigar incidentes.
• ⚡ Automatizar determinadas tareas de seguridad.

Pero algunas de esas mismas capacidades podrían representar un riesgo cuando son utilizadas fuera de contextos autorizados.

💻 Anthropic quiere mantener las capacidades comerciales

A pesar de estas restricciones, Anthropic continúa desarrollando modelos cada vez más capaces para tareas de alto valor comercial.

Entre las áreas prioritarias se encuentran:

• 💻 Desarrollo de software.
• 💰 Finanzas.
• 🛡️ Ciberseguridad.
• 🔬 Investigación.
• 📊 Análisis de información.
• 🧠 Automatización de tareas complejas.

La estrategia consiste en ampliar rápidamente las capacidades generales del modelo mientras mantiene controles adicionales sobre determinadas funciones consideradas sensibles.

⏱️ Una tarea de dos meses realizada en un día

Anthropic también presentó ejemplos destinados a demostrar el potencial de Fable 5 para realizar trabajos profesionales complejos.

Según la compañía, durante una prueba la empresa de pagos Stripe consiguió completar en un solo día una extensa tarea de ingeniería de software.

Anthropic afirmó que realizar manualmente ese trabajo habría requerido aproximadamente dos meses de trabajo de un equipo.

⚡ Este tipo de resultados muestra por qué los modelos avanzados de IA están comenzando a tener un impacto importante en el desarrollo de software y la productividad empresarial.

🔬 Mythos también muestra capacidades para investigación científica

Las capacidades descritas no se limitan al desarrollo de software.

Anthropic señaló que una hipótesis generada por Mythos sobre un nuevo mecanismo relacionado con una proteína de E. coli fue posteriormente confirmada en un artículo científico elaborado por un laboratorio que investigaba el mismo tema.

Este ejemplo muestra el potencial de los modelos avanzados para apoyar procesos de investigación y análisis científico.

Al mismo tiempo, también ayuda a explicar por qué Anthropic aplica restricciones adicionales en áreas como la biología.

🧪 Más de 1,000 horas intentando vulnerar las protecciones

Antes de ampliar el acceso a Fable 5, Anthropic realizó internamente un programa destinado a encontrar posibles formas de eludir los mecanismos de seguridad del modelo.

Equipos especializados dedicaron más de 1,000 horas de pruebas a evaluar la solidez de estas protecciones.

Según Anthropic, durante esas evaluaciones no se encontró ningún método universal capaz de sortear las restricciones implementadas.

🔐 Las pruebas de seguridad buscan reducir la posibilidad de que usuarios encuentren mecanismos generales para evitar las restricciones del modelo.

🔄 Anthropic continuará ampliando Project Glasswing

La compañía planea seguir aumentando gradualmente el número de organizaciones autorizadas para trabajar con las capacidades avanzadas de Mythos.

También explorará otras alternativas para permitir que socios de confianza puedan acceder a determinadas funciones relacionadas con ciberseguridad.

Esto permitiría mantener un equilibrio entre innovación, investigación defensiva y control de capacidades consideradas de mayor riesgo.

📈 La IA avanzada también forma parte de la estrategia empresarial de Anthropic

El lanzamiento de estos modelos también coincide con una etapa importante para el crecimiento empresarial de Anthropic.

Según la información proporcionada, la compañía presentó de forma confidencial documentación preliminar ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) relacionada con una posible salida a bolsa.

En este contexto, Mythos y la nueva generación de modelos Claude podrían convertirse en piezas importantes para demostrar la capacidad tecnológica y comercial de la empresa.

🏁 La competencia entre las grandes compañías de IA continúa

Anthropic no es la única compañía que busca convertir los modelos avanzados de inteligencia artificial en herramientas capaces de realizar trabajos profesionales cada vez más complejos.

La competencia está impulsando modelos capaces de trabajar en áreas como programación, investigación, análisis de información, automatización y seguridad.

Pero a medida que aumenta su capacidad también crece una pregunta fundamental:

¿cómo ofrecer modelos más potentes sin aumentar innecesariamente los riesgos?

🎯 Fable 5 y Mythos 5 representan dos niveles de acceso

La estrategia presentada por Anthropic establece una diferencia clara entre capacidades de uso general y capacidades consideradas más sensibles.

🤖 Claude Fable 5

• 👥 Disponible para un grupo más amplio de usuarios.
• 💻 Orientado a programación y tareas profesionales.
• 📊 Mejoras en análisis e investigación.
• 🔐 Incorpora mayores restricciones en áreas sensibles.
• 🛡️ Determinadas consultas de ciberseguridad pueden ser redirigidas.

⚡ Claude Mythos 5

• 🔐 Acceso más controlado.
• 🛡️ Capacidades avanzadas relacionadas con ciberseguridad.
• 🏢 Disponible para organizaciones autorizadas.
• 🦋 Acceso mediante iniciativas como Project Glasswing.
• ⚠️ Restricciones flexibilizadas en determinadas áreas.

🔮 El reto: desarrollar una IA potente y segura

El caso de Fable 5 y Mythos 5 representa uno de los grandes debates de la inteligencia artificial actual.

Los modelos están aumentando rápidamente su capacidad para programar, investigar, analizar información y resolver problemas complejos.

Pero cuanto mayor es esa capacidad, más importante resulta establecer mecanismos que permitan controlar cómo se utilizan determinadas funciones.

🤖 El futuro de la IA no dependerá únicamente de crear modelos más inteligentes. También dependerá de encontrar formas responsables de controlar capacidades que pueden tener un impacto significativo en el mundo real.

🛡️ Inteligencia artificial y ciberseguridad: una combinación cada vez más importante

Para las empresas, esta evolución también demuestra que la inteligencia artificial tendrá un papel cada vez mayor dentro de la ciberseguridad.

Los modelos avanzados podrían ayudar a los equipos especializados a analizar grandes cantidades de información, detectar vulnerabilidades y responder con mayor rapidez ante determinados incidentes.

Sin embargo, la tecnología debe implementarse junto con controles adecuados, supervisión humana y políticas de seguridad.

🔐 Una IA más potente puede fortalecer la defensa digital, pero su implementación también requiere mayor responsabilidad y mejores controles.

💻 CODEIN & JNC EIRL

La inteligencia artificial y la ciberseguridad están transformando la manera en que las organizaciones desarrollan, protegen y administran su tecnología.

🛡️ En CODEIN & JNC seguimos de cerca las tendencias en inteligencia artificial, desarrollo de software, infraestructura y ciberseguridad que están transformando el entorno tecnológico empresarial.

• 👥 Personas.
• 💻 Tecnología.
• 📈 Resultados.

CODEIN & JNC — Transformamos ideas en código, construimos tu futuro digital.