El reclamo de los especialistas

En la carta, los expertos argumentan que las empresas que desarrollan modelos de IA no deberían ser las únicas responsables de evaluar la seguridad de sus propios sistemas. Por ello, piden que se establezcan mecanismos de evaluación independientes que permitan verificar, desde fuera, los riesgos asociados a las tecnologías de Anthropic y OpenAI.

La petición se enmarca en un debate cada vez más amplio sobre la gobernanza de la IA: a medida que los modelos ganan capacidades, también crece la presión para que existan controles externos que complementen los procesos internos de las propias compañías.

Contexto del debate sobre seguridad

La carta abierta se suma a las voces que reclaman mayor transparencia en el desarrollo de modelos avanzados. Sus impulsores sostienen que la evaluación por terceros es necesaria para que reguladores, usuarios y la sociedad en general puedan confiar en las afirmaciones de seguridad que realizan las empresas del sector.

Hasta el momento, ni Anthropic ni OpenAI han anunciado públicamente cambios en respuesta a esta carta, y el texto no especifica un mecanismo concreto de supervisión adoptado por ambas compañías.

Implicaciones para la industria

El llamado a evaluaciones independientes podría influir en la forma en que las empresas de IA estructuran sus políticas de seguridad y en la relación entre desarrolladores de modelos y autoridades reguladoras. El debate sobre quién debe auditar a los creadores de IA se ha convertido en uno de los ejes centrales de la discusión internacional sobre regulación tecnológica.

La carta demuestra que la exigencia de una evaluación de seguridad independiente de Anthropic y OpenAI por parte de expertos en AI es un hecho real, por lo que su veredicto es: Verdadero.