EE.UU.-Tom Siegel, fundador del equipo de confianza y seguridad de Google y antiguo vicepresidente de esa área, pidió esta semana frenar el desarrollo de la inteligencia artificial (IA) y advirtió que la industria tecnológica está repitiendo errores cometidos durante el crecimiento de las redes sociales.
El especialista sostuvo que las consecuencias para niños y adolescentes podrían ser todavía más graves, debido a la rapidez con la que las empresas están incorporando nuevas capacidades a los chatbots y otros servicios utilizados diariamente por millones de jóvenes.
“Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños”, declaró Siegel a Reuters. También consideró poco realista esperar que el sector tecnológico resuelva el problema por sí mismo, sin intervención o supervisión externa.
Advierten que se repiten errores de las redes sociales
La advertencia ocurre mientras las compañías de redes sociales enfrentan miles de demandas relacionadas con acusaciones de daños a usuarios jóvenes. Al mismo tiempo, gobiernos de distintos países trabajan en medidas para restringir o regular el acceso de menores a esas plataformas.
De acuerdo con Siegel, el avance acelerado de la IA muestra señales de un patrón similar. La preocupación también es compartida por algunos investigadores académicos y especialistas de la industria, quienes consideran que estas herramientas pueden crear riesgos nuevos o ampliar problemas ya presentes en los entornos digitales.
Siegel anunció que se incorporó a Common Sense Media, una organización sin fines de lucro dedicada a defender los derechos de los niños en internet. La agrupación, fundada en 2003, realiza investigaciones y evalúa la idoneidad de diferentes contenidos y productos de comunicación para las audiencias infantiles.
En mayo, Common Sense Media puso en marcha el Instituto para la Seguridad de los Jóvenes en la IA, dedicado a estudiar y evaluar cómo utilizan los niños la inteligencia artificial. Siegel será el primer director ejecutivo de esta organización.
Anthropic y la Fundación OpenAI, entidad sin fines de lucro que controla OpenAI, se encuentran entre los patrocinadores del instituto. Siegel explicó que buscará desarrollar normas que permitan exigir responsabilidades a las compañías de IA, mediante la colaboración con empresas y grupos independientes.
Verificación de edad y controles para familias
El exdirectivo trabajó en Google entre 2004 y 2019. Según relató, dejó la compañía después de concluir que el sector tecnológico se había estancado en su capacidad para crear espacios digitales seguros para los consumidores.
Entre los posibles riesgos para los jóvenes, Siegel mencionó situaciones relacionadas con el suicidio, la psicosis y la denominada “descarga cognitiva”. Este último concepto describe una posible disminución del pensamiento crítico cuando las personas recurren constantemente a la inteligencia artificial para obtener respuestas.
Como medidas inmediatas, propuso que Anthropic y OpenAI apliquen sistemas de verificación de edad más estrictos para impedir que menores accedan a sus chatbots. También señaló que Google podría ofrecer una opción para desactivar los “Resúmenes de IA” y el “Modo IA” en su buscador, de manera similar a los controles existentes para filtrar contenido sexualmente explícito.
Siegel reconoció que estas decisiones podrían reducir temporalmente el uso de los servicios o afectar los ingresos. Sin embargo, advirtió que la falta de acciones preventivas podría derivar en demandas y regulaciones con consecuencias más severas para las compañías.
Ante sus comentarios, un portavoz de Google indicó que los padres disponen de controles para desactivar por completo el acceso de los niños al motor de búsqueda. OpenAI respondió que emplea señales de las cuentas y del comportamiento, además de la edad declarada por cada usuario, para identificar a menores. Anthropic no respondió de inmediato a la solicitud de comentarios.
Evaluaciones similares a pruebas de seguridad
Una de las prioridades de Siegel en Common Sense Media será ampliar el uso de estándares independientes para medir los riesgos de las herramientas de IA disponibles al público. Comparó este modelo con las pruebas de choque realizadas a los automóviles antes de evaluar su seguridad.
El especialista reconoció que la eficacia del proyecto dependerá, en parte, de la disposición de las empresas para colaborar. Aunque esa participación no está garantizada, consideró que existe una posibilidad suficiente de cooperación para asumir la dirección del nuevo instituto.
