California ha dado un paso pionero en la protección de los menores frente a las redes sociales. El gobernador Gavin Newsom ha firmado un paquete legislativo que prohÃbe a las plataformas ofrecer funciones adictivas a los usuarios menores de 16 años, una medida sin precedentes en Estados Unidos y que busca atajar los patrones de uso compulsivo que generan el «scroll infinito», las recomendaciones personalizadas o la reproducción automática de vÃdeos.
La nueva regulación, respaldada por demócratas y republicanos, incluye también restricciones a los chatbots de inteligencia artificial y se produce meses después del multimillonario acuerdo de Meta con 52 estados para resolver demandas que acusaban a la compañÃa de diseñar sus plataformas para enganchar a los más jóvenes. La medida convierte a California en el primer territorio del paÃs en adoptar una normativa de este alcance.
La ley AB-1709: adiós al ‘scroll’ infinito y a las recomendaciones automáticas
La pieza central es la AB-1709, que define como «funciones adictivas» todas aquellas caracterÃsticas de explotación psicológica destinadas a maximizar la interacción y que previsiblemente conducen a un uso compulsivo. Entre ellas se incluyen los ‘feeds’ algorÃtmicos que seleccionan contenidos a partir del historial del usuario, la reproducción automática de vÃdeos y el desplazamiento infinito. Las plataformas tendrán que ofrecer a los menores de 16 una versión sin estos elementos o, en caso contrario, impedirles el acceso.
Las sanciones por incumplimiento pueden alcanzar los 50.000 dólares por menor afectado en infracción dolosa, el doble que en los casos de negligencia, que serÃan de 25.000. La ley no obliga a los menores a abandonar las redes, sino a rediseñar la experiencia para ellos. Este enfoque contrasta con la prohibición total que plantea España, donde el Gobierno de Pedro Sánchez ya ha anunciado su intención de vetar el acceso a los menores de 16 años.
La Ley Adam: lÃmites a los ‘chatbots’ de compañÃa
Otro de los ejes del paquete es la llamada Ley Adam, bautizada en memoria de Adam Raine, un adolescente que se suicidó tras interactuar con un chatbot. Esta norma obliga a los operadores de los llamados ‘companion chatbots’ a realizar evaluaciones de riesgo independientes, incorporar controles parentales, establecer protocolos de crisis y fijar lÃmites de tiempo de uso. Si el sistema detecta señales de autolesión, deberá notificarlo a los padres o tutores.
La legislación también prohÃbe durante cuatro años la fabricación y venta de juguetes que incorporen IA conversacional para menores de 16 años, y amplÃa la definición de explotación sexual infantil para incluir imágenes generadas o alteradas mediante inteligencia artificial. «Queremos que los niños crezcan en un entorno donde la tecnologÃa contribuya a su bienestar y no explote sus vulnerabilidades», declaró Newsom en la firma de las leyes.
Contexto y reacciones: de Meta a Europa
Este movimiento llega después de que Meta acordara pagar hasta 18.000 millones de dólares y aplicar cambios en sus plataformas para resolver demandas que la acusaban de fomentar la adicción entre menores. El acuerdo, alcanzado con 52 estados y territorios, incluye lÃmites de uso y bloqueos nocturnos. Sin embargo, la ley no está exenta de crÃticas. La Electronic Frontier Foundation (EFF) considera que en la práctica supone una prohibición encubierta, ya que eliminar estas funciones puede excluir a los menores de comunidades y espacios de expresión digital.
En Europa, la Ley de Servicios Digitales ya obliga a las grandes plataformas a evaluar y reducir los riesgos para los menores. La experiencia californiana servirá para comprobar si modificar el diseño de las aplicaciones es más eficaz que imponer lÃmites horarios o bloqueos de acceso. También en España, los expertos han alertado del aumento de la ciberviolencia y el acoso escolar, mientras que los datos del informe PISA muestran una peor evolución académica asociada al uso intensivo de pantallas.
Otras disposiciones: privacidad, explotación y dispositivo escolar
Además de las normas centrales, el paquete incluye sanciones civiles de hasta un millón de dólares por cada menor perjudicado si se demuestra negligencia (AB 2). También se amplÃa la definición de explotación sexual infantil para incluir imágenes generadas o alteradas con IA que representen a menores, y se prohÃbe a las escuelas exigir a los alumnos de infantil que se lleven dispositivos electrónicos a casa (SB 1128).
Otras medidas actualizan los estándares de diseño seguro, crean mecanismos de denuncia de abuso en lÃnea y refuerzan la protección de los datos personales de los estudiantes en sistemas de IA. El objetivo es que la seguridad digital sea parte del diseño de cualquier servicio, tal como defendió Newsom: «Cuando se trata de nuestros hijos, la seguridad no puede ser secundaria».
Con este paquete de 13 leyes, California se sitúa a la vanguardia de la regulación tecnológica en favor de la infancia. La combinación de restricciones al diseño, sanciones económicas y medidas de transparencia busca crear un entorno digital más seguro. Queda por ver cómo se aplica en la práctica y si otros estados o paÃses seguirán su ejemplo, pero lo que es seguro es que la presión sobre las plataformas para que dejen de explotar la vulnerabilidad de los menores no ha hecho más que aumentar.
