California prohíbe el uso de chatbots de IA y funciones adictivas de las redes sociales para los menores de 16 años

Gavin Newsom, el gobernador de California, aprobó un conjunto de leyes con el objetivo de salvaguardar a los niños ante los peligros asociados a la tecnología, como las redes sociales y los chatbots basados en inteligencia artificial.

Las reglas tendrán la autoridad de castigar a las grandes compañías de redes sociales con multas que pueden alcanzar el millón de dólares por niño, en caso de que se evidencie negligencia contra niños en sus plataformas, según reportó CBS News.

Las trece leyes firmadas por Newsom también fortalecen la protección de la privacidad en línea de los menores, requieren controles parentales y salvaguardias adicionales para los programas de chatbots, y aumentan las sanciones por material de abuso sexual infantil para que incluyan contenido modificado digitalmente o creado por inteligencia artificial que represente a cualquier individuo menor de 18 años involucrado en conductas sexuales.

Las compañías tecnológicas tendrán que establecer protocolos de crisis para avisar a los padres si los usuarios jóvenes exhiben señales de angustia emocional, en el caso de los chatbots con inteligencia artificial.

"Queremos que nuestros hijos, y todos los niños de California, crezcan en un mundo donde la tecnología contribuya a su bienestar, en lugar de explotar sus vulnerabilidades", declaró Newsom, demócrata, al hacer público un comunicado donde comunicaba las acciones.

Según informó Los Ángeles Times, el paquete de nuevas leyes contiene el Proyecto de Ley del Senado 1119, que obligaría a los operadores de chatbots de acompañamiento a evaluar los riesgos, informar a los padres en ciertas situaciones si su hijo tiene la intención de lastimarse y adoptar otras medidas de seguridad.

En memoria de Adam Raine, un joven californiano que se suicidó en 2025 después de hablar con ChatGPT de OpenAI, los legisladores nombraron el proyecto de ley como "Ley de Adam".

Los progenitores del joven demandaron a OpenAI, argumentando que ChatGPT les había suministrado información acerca de los métodos suicidas que su hijo empleó. El jueves, OpenAI y Pinterest manifestaron públicamente su respaldo al proyecto de ley.

María, la madre de Adam Raine, manifestó que la legislación nueva va a contribuir a salvar vidas y tiene la esperanza de que otras jurisdicciones implementen leyes parecidas.

“Se introdujeron potentes chatbots de inteligencia artificial para acompañar a nuestros hijos con protecciones totalmente insuficientes. Adam fue uno de los primeros en adoptar la IA, y muchos padres no comprendíamos los peligros en aquel entonces”, comentó Raine.