La designación y el debate

Anthropic nombró a Accenture para realizar las evaluaciones de seguridad de sus modelos de IA. La controversia se centra en que, al tratarse de una contratación directa de la empresa desarrolladora, surgen dudas sobre la autonomía real del evaluador respecto a la compañía auditada.

El caso reabre la discusión general sobre cómo garantizar evaluaciones de seguridad de IA creíbles cuando las auditorías dependen de acuerdos comerciales con las propias empresas de IA. Hasta el momento no se han anunciado cambios en el marco de evaluación por parte de las partes involucradas.

El enfoque de Anthropic en seguridad de sus modelos ha sido un elemento central de su posicionamiento en el sector de la IA, por lo que la elección de un socio evaluador externo y las preguntas sobre su independencia revisten especial relevancia para la percepción pública de sus compromisos de seguridad.

En conjunto, la afirmación de que Anthropic designó a Accenture como evaluador de seguridad de IA y que la polémica por la independencia se ha ampliado resulta Mayormente verdadero.