EE.UU.- Las principales empresas del sector tecnológico acordaron avanzar en un esquema de autorregulación para el desarrollo de la inteligencia artificial (IA), luego de una reunión con el presidente Donald Trump en la Casa Blanca.
El acuerdo contempla que las compañías establezcan principios y compromisos internos para detectar posibles problemas derivados de los nuevos modelos de IA. Sin embargo, estas medidas no serían convertidas, por ahora, en obligaciones establecidas mediante una ley federal.
Trump también propuso crear un comité integrado por alrededor de 10 personas para vigilar el cumplimiento de los compromisos. De acuerdo con lo planteado durante el encuentro, sus integrantes podrían pertenecer al mismo grupo de empresas participantes.
El mandatario calificó el acuerdo como “moralmente vinculante” y sostuvo que las compañías serán responsables de controlar sus propios sistemas. “Se van a controlar a sí mismos”, declaró ante periodistas después de la reunión.
Empresas plantean controles internos para la IA
Mark Zuckerberg, director de Meta, explicó que las compañías redactaron un conjunto de principios para establecer controles internos e identificar problemas conforme avance la tecnología.
Entre los ejecutivos mencionados como participantes estuvieron Zuckerberg; Sundar Pichai; Greg Brockman; Dario Amodei; Jensen Huang; Alex Karp; Jeff Bezos, y Elon Musk. Ellos están vinculados con empresas como Meta, Google, OpenAI, Anthropic, Nvidia, Palantir, Amazon, X y Tesla.
Trump indicó que, si el desarrollo de la inteligencia artificial deriva en abusos o peligros, el gobierno estadounidense cuenta con herramientas para intervenir por medio del Departamento de Justicia y el FBI.
La reunión se realizó en medio de la discusión sobre el nivel de supervisión que debe aplicarse a una industria en rápida expansión. Trump se ha manifestado en contra de imponer nuevas reglas que, desde su perspectiva, puedan frenar el desarrollo tecnológico.
Líderes tecnológicos reconocen posibles riesgos
Algunos ejecutivos de la industria han reconocido que el crecimiento acelerado de los modelos puede generar problemas. Dario Amodei, director de Anthropic, afirmó durante el encuentro que “la IA conlleva riesgos muy reales” y consideró necesario que las empresas trabajen de manera conjunta para enfrentarlos.
Las preocupaciones aumentaron después de incidentes en los que sistemas de IA habrían interactuado con otras plataformas o accedido a información sin que sus supervisores lo solicitaran. OpenAI también aplazó el lanzamiento de un modelo de vanguardia que estaba previsto para octubre, luego de detectar problemas de supervisión.
Según la información presentada, el sistema se desviaba de las instrucciones e intentaba engañar a sus supervisores. La empresa reconoció además que agentes desarrollados por ella accedieron a sitios de tres agencias federales estadounidenses. También se reportó la intervención de uno de sus modelos en un portal gubernamental de salud de Australia.
Elon Musk destacó, por otra parte, los posibles beneficios de la tecnología y afirmó que el resultado más probable de su desarrollo sería una etapa de abundancia.
Continúa el debate en el Congreso
Líderes demócratas han solicitado al Congreso reforzar la supervisión de la industria, mientras legisladores de ambos partidos presentaron iniciativas dirigidas a exigir mayor transparencia sobre el funcionamiento de los sistemas y las medidas de seguridad de las empresas.
El debate también incluye el crecimiento de los centros de datos necesarios para operar estos modelos, debido a sus elevados requerimientos de energía. Trump minimizó las preocupaciones relacionadas con su expansión y dijo que las compañías deberán colaborar con las comunidades donde instalen esa infraestructura.
Durante otro evento, el mandatario presentó America.gov, un portal que reúne cerca de 29 mil sitios del gobierno federal y que, según la información divulgada, fue construido con apoyo de inteligencia artificial. La plataforma asegura que eliminará las conversaciones y la ubicación de los usuarios después de cada consulta.
Una encuesta citada por CNN señala que 82% de los estadounidenses está preocupado por el desarrollo de la IA. Trump considera exageradas algunas advertencias y sostiene que Estados Unidos debe acelerar esta tecnología para competir con China y fortalecer su economía.
Aunque existen propuestas para aumentar la vigilancia, el calendario legislativo hace poco probable la aprobación inmediata de una regulación integral. Por ahora, el esquema acordado descansa principalmente en los controles internos y en la supervisión de las propias compañías.
