El alcance de la nueva norma

La legislación, aprobada en California, se convierte en una de las primeras regulaciones estatales de Estados Unidos centradas específicamente en el uso de la IA por parte de menores. Según lo dispuesto en la ley, cuando un sistema de inteligencia artificial detecte comportamientos o situaciones de riesgo para un usuario menor de edad, la empresa proveedora deberá informar de ello a los padres o tutores legales.

La norma responde a la creciente preocupación social por el impacto de los chatbots y los companions de IA en la salud mental y la seguridad de los niños, un debate que ha cobrado fuerza en Estados Unidos a medida que estos servicios se generalizan entre los usuarios adolescentes.

Obligaciones para las empresas de IA

Con la entrada en vigor de la ley, las empresas que operen servicios de IA accesibles para menores en California deberán implementar mecanismos de detección de riesgo y establecer canales de comunicación con los tutores. Esto supone un cambio operativo significativo para las plataformas, que hasta ahora gestionaban estos casos de manera discrecional y sin una obligación legal explícita de notificación.

California, donde se concentran gran parte de las principales empresas de tecnología e IA de Estados Unidos, funciona habitualmente como un referente regulatorio: las normas que aprueba suelen influir en la legislación de otros estados y en las prácticas de la industria a nivel nacional.

Un precedente para la regulación de la IA

La aprobación de esta ley se produce en un contexto de intensificación del escrutinio público y político sobre los efectos de la IA en los usuarios más jóvenes, tanto en Estados Unidos como en otros mercados. Hasta ahora, la mayoría de las iniciativas regulatorias se habían centrado en la privacidad de datos de menores; la norma de California amplía el enfoque hacia la interacción directa de los niños con los sistemas de inteligencia artificial.

El texto aprobado establece que la notificación a los padres es obligatoria cuando se detectan riesgos, aunque los detalles sobre los umbrales concretos de detección y los procedimientos de comunicación dependerán de la implementación que realicen las empresas y de las regulaciones secundarias que desarrolle el estado.

En conclusión, la afirmación de que California ha promulgado una ley de regulación de la IA infantil que obliga a avisar a los padres ante riesgos detectados es, según las fuentes consultadas, Mayormente verdadero.