El reclamo: seguridad supervisada desde fuera

La misiva señala que las propias empresas desarrolladoras de grandes modelos de lenguaje no deberían ser los únicos jueces de la seguridad de sus sistemas. Los expertos que firman la carta argumentan que la evaluación independiente —es decir, realizada por terceros sin vínculos con Anthropic ni OpenAI— es necesaria para garantizar que los riesgos de estos sistemas sean medidos con objetividad.

La carta se dio a conocer a través de publicaciones y foros vinculados a la comunidad de evaluación de AI, donde el debate sobre quién debe auditar los modelos avanzados ha cobrado fuerza en los últimos tiempos. El documento llama a establecer procesos formales de evaluación de seguridad que no dependan del criterio interno de las compañías.

Un debate abierto en la industria

El planteamiento llega en un momento en que el desarrollo de modelos de AI avanzados se concentra en un puñado de empresas, entre ellas Anthropic y OpenAI. Los firmantes sostienen que la creciente capacidad de estos sistemas hace más urgente la existencia de estándares de seguridad verificables de manera externa.

El documento no detalla un modelo institucional concreto para esas evaluaciones, y su publicación representa una posición de expertos más que una decisión regulatoria. Tampoco se han anunciado hasta el momento respuestas formales por parte de las dos empresas mencionadas en la carta.

La iniciativa forma parte de una corriente más amplia dentro del sector, que discute cómo dotar de independencia a los procesos de auditoría de modelos de uso general. Sin embargo, los efectos prácticos de la carta dependerán de si las compañías y los reguladores la recogen en sus políticas de seguridad.

En conjunto, la afirmación de que los expertos en AI publicaron una carta abierta pidiendo evaluaciones de seguridad independientes de Anthropic y OpenAI resulta Mayormente verdadero.