Una advertencia sobre los riesgos de la IA

Bengio, ganador del premio Turing y figura central en el desarrollo del aprendizaje automático, sostuvo que los sistemas de inteligencia artificial más avanzados plantean riesgos de tal magnitud que no pueden dejarse en manos de la competencia comercial entre empresas o países. Por ello, abogó por mecanismos de gobernanza internacionales con un nivel de rigor similar al del control de armamento nuclear.

El investigador ha venido señalando de forma reiterada los peligros asociados a los modelos más potentes, incluidos los sistemas de gran capacidad basados en LLM, y ha instado a los gobiernos a coordinarse más allá de las fronteras nacionales.

Llamamiento a la cooperación internacional

La propuesta apunta a un marco de supervisión global en el que los Estados compartan información y establezcan límites comunes al desarrollo y despliegue de la IA de frontera. Bengio subrayó que, sin un control de este tipo, la carrera tecnológica podría adelantarse a la capacidad de las sociedades para gestionar sus consecuencias.

El contraste con el régimen de no proliferación nuclear es deliberado: se trata de una tecnología cuyo potencial de daño justificaría, según el experto, tratados y organismos internacionales con poder real de verificación.

El dictamen sobre esta afirmación es: Verdadero