Anthropic actualiza los filtros de biología de Claude Fable 5 y reduce un 85% los bloqueos erróneos sin eliminar protecciones para usos de alto riesgo.

Anthropic anunció una importante actualización de los sistemas de seguridad de Claude Fable 5 relacionados con consultas sobre biología.

El objetivo es permitir que el modelo responda a muchas más preguntas legítimas sin debilitar las barreras destinadas a impedir usos potencialmente peligrosos de la inteligencia artificial.

Según la compañía, los cambios redujeron aproximadamente un 85% los llamados “fallbacks” relacionados con biología, situaciones en las que una consulta activa los sistemas de protección y es transferida automáticamente desde Fable 5 hacia un modelo con capacidades biológicas más limitadas.

La actualización debería ser especialmente visible en consultas cotidianas relacionadas con salud y educación. Anthropic menciona como ejemplos la interpretación de resultados de laboratorio, preguntas sobre síntomas y el aprendizaje de conceptos biológicos.

Los profesionales sanitarios también deberían poder utilizar Fable 5 en un mayor número de tareas clínicas. La empresa reconoce que los filtros utilizados inicialmente eran deliberadamente muy amplios y podían bloquear solicitudes completamente legítimas como medida preventiva.

El impacto también se extenderá al resto de los productos de Anthropic. La compañía estima que el número total de transferencias hacia modelos alternativos caerá aproximadamente un 67% en Claude.ai, 55% en Cowork, 17% en Claude Code y 7% en Claude Platform.

La preocupación de Anthropic gira alrededor del denominado “dual use” o doble uso. Una misma capacidad avanzada puede ayudar a un científico a desarrollar nuevos medicamentos, pero también podría ser aprovechada para producir sustancias tóxicas, modificar patógenos o facilitar el desarrollo de armas biológicas.

Anthropic asegura que Fable 5 ya puede superar a expertos humanos en determinadas tareas biológicas complejas, aumentando tanto su potencial científico como los riesgos asociados a un posible uso malicioso.

Para controlar esos riesgos, Anthropic utiliza modelos más pequeños denominados clasificadores de seguridad, que analizan las consultas antes de permitir que Fable 5 las procese.

Durante las últimas semanas, la compañía modificó las reglas internas del clasificador, creó nuevos datos de entrenamiento y volvió a entrenar el sistema para distinguir mejor entre consultas benignas y solicitudes peligrosas.

Sin embargo, las restricciones no desaparecen. Consultas profesionales consideradas de doble uso relacionadas con virología, toxicología, diseño molecular, investigación biológica avanzada y desarrollo de medicamentos pueden continuar siendo desviadas a Opus 5.

La actualización representa un avance importante para hacer que modelos de Inteligencia Artificial extremadamente capaces sean más útiles sin retirar completamente sus barreras de seguridad.

El desafío para Anthropic será mantener ese equilibrio: filtros demasiado estrictos reducen la utilidad de la tecnología, mientras que protecciones demasiado permisivas podrían abrir la puerta precisamente a los riesgos que la compañía intenta evitar.

Siguenos por Twitter a través de @Geeksroom y no te pierdas todas las noticias, cursos gratuitos y demás artículos. También puedes seguirnos a través de nuestro canal de Youtube para ver nuestros vídeos, a través de Instagram para ver nuestras imágenes! O vía Bluesky si ya estás cansado de Twitter