EE.UU.- La tecnológica OpenAI presentó una propuesta legislativa en California enfocada en seguridad para los chatbots de IA para niños, lo que supone la primera vez que la compañía se adentra en el ámbito de la política estatal, justo cuando enfrenta una demanda por la muerte de un menor que interactuó durante meses con ChatGPT.
La medida bautizada como ‘AI Companion Chatbot Safety Act’ (‘Ley de Seguridad de Chatbots de IA’, en español) propone controles de seguridad para los chatbots de IA, como su modelo estrella ChatGPT.
La medida busca complementar las protecciones existentes en materia de seguridad y salud mental para chatbots, contempladas en una legislación aprobada por el gobernador de California, Gavin Newsom, en octubre pasado, según informó a la revista Político un asesor de OpenAI.
La tecnológica también estaría dialogando con diversas partes interesadas, incluyendo otras empresas tecnológicas, grupos de la industria y defensores de los derechos de los usuarios, para avanzar la legislación.
El abogado de OpenAI, Tom Hiltachk, ha sido el encargado de presentar la iniciativa que, desde el lunes por la noche, estuvo puesta en consideración del público en el sitio web de la Fiscalía General de California.
Para poder estar en la boleta de las elecciones de noviembre de 2026 la iniciativa tendrá que contar con el número de firmas requeridas que la avalen.
La iniciativa compite con otra propuesta de seguridad de la IA para niños presentada por Common Sense Media, una organización sin fines de lucro dedicada a la seguridad en línea de los niños, que propone medidas más estrictas que las presentadas por OpenAI.
La seguridad de los menores que usan los chatbots se ha convertido en una prioridad en California. El pasado octubre, Newsom firmó una ley que exige a las plataformas recordar a los usuarios que están interactuando con un chatbot y no con un humano.
Para los usuarios menores de edad, la notificación aparecerá cada tres horas para los usuarios. Además, las tecnológicas deberán establecer protocolos para prevenir, abordar e informar sobre el suicidio.
OpenAI se encuentra en una batalla legal por la muerte de Adam Raine, de 16 años, que se quitó la vida tras meses de interactuar con ChatGPT en abril pasado.
La querella legal presentada en una corte de San Francisco (California) afirma que “ChatGPT ayudó activamente a Adam a explorar métodos de suicidio”, por lo que acusa a OpenAI, la empresa matriz de GPT-4o, y Altman de homicidio culposo.
La tecnológica, por su parte, ha negado ser responsable del suicidio, argumentando que “las lesiones y daños alegados por los demandantes fueron causados o contribuidos (…) por uso indebido, no autorizado, imprevisible e inapropiado de ChatGPT” por parte del joven.
Con información de comunicado
EFE
