OpenAI y Microsoft se asocian con autoridades estatales para crear un grupo de trabajo sobre la seguridad de la IA
Por Clare Duffy, CNN
La inteligencia artificial está desempeñando un papel cada vez mayor en todo, desde las tareas escolares hasta los empleos e incluso las relaciones románticas, todo ello sin mucha supervisión que garantice que la tecnología se desarrolle y utilice de manera segura.
Ahora, un par de fiscales generales estatales se están asociando con dos de las empresas más grandes de tecnología para cambiar esa situación.
El fiscal general de Carolina del Norte, Jeff Jackson, demócrata, y el fiscal general de Utah, Derek Brown, republicano, anunciaron el lunes la formación del Grupo de Trabajo sobre IA. OpenAI y Microsoft ya se han sumado a la iniciativa, y los fiscales generales esperan que otros reguladores estatales y empresas de IA también se unan. El grupo trabajará para desarrollar “salvaguardas básicas” que los desarrolladores de IA deberían implementar para prevenir daños a los usuarios, especialmente a los niños, y para identificar nuevos riesgos a medida que la tecnología evoluciona.
No hay una ley federal general que regule la IA, e incluso algunos legisladores federales han buscado restringir la regulación de esta tecnología. Jackson y Brown estuvieron entre los 40 fiscales generales que a principios de este año lograron con éxito la eliminación de una moratoria sobre la regulación de la IA del paquete de recortes fiscales y de gasto de los republicanos, que podría haber bloqueado la aplicación de leyes estatales durante una década. (Este año sí se aprobó una ley federal sobre IA: la Ley Take It Down, que aborda específicamente la pornografía deepfake no consensuada).
Las preocupaciones sobre los riesgos de seguridad de la IA solo han aumentado en los últimos meses, en medio de una creciente serie de informes sobre la tecnología causando delirios o contribuyendo a la autolesión entre los usuarios. Empresas como OpenAI y Meta, la empresa matriz de Facebook, también han estado tomando medidas para bloquear el acceso de los jóvenes a contenido para adultos.
Jackson dijo que no es optimista respecto a que el Congreso actúe rápidamente para regular la IA.
“No hicieron nada con respecto a las redes sociales, nada con respecto a la privacidad en Internet, ni siquiera para los niños, y estuvieron muy cerca de ir en la dirección equivocada con la IA al impedir que los estados hicieran algo real”, dijo Jackson a CNN en una entrevista exclusiva antes del anuncio del grupo de trabajo.
Algunas de las principales empresas de IA han comenzado a divergir en sus enfoques sobre la seguridad. Por ejemplo, el CEO de OpenAI, Sam Altman, dijo el mes pasado que las inversiones de la empresa en protecciones para la seguridad infantil le permitirían “tratar a los adultos como adultos”, incluyendo permitir que usuarios adultos verificados participen en conversaciones eróticas. Poco después, el CEO de IA de Microsoft, Mustafa Suleyman, dijo a CNN que su empresa no permitiría conversaciones sexuales o románticas, ni siquiera para adultos, y que quería crear “una IA en la que confíes para que la usen tus hijos” sin una experiencia separada para usuarios jóvenes.
“Este esfuerzo refleja un compromiso compartido de aprovechar los beneficios de la inteligencia artificial mientras trabajamos de manera colaborativa con las partes interesadas para comprender y mitigar las consecuencias no deseadas”, dijo Kia Floyd, gerente general de asuntos gubernamentales estatales de Microsoft, en un comunicado sobre la participación en el grupo de trabajo. “Al asociarnos con líderes estatales y colegas de la industria, podemos promover la innovación y la protección del consumidor para garantizar que la IA sirva al bien público”.
Cualesquiera que sean las medidas de protección que desarrolle el grupo de trabajo, serán técnicamente voluntarias. Pero el grupo tendrá otro beneficio también: reunir a los principales funcionarios encargados de hacer cumplir la ley de los estados para monitorear los desarrollos y riesgos de la IA, lo que potencialmente facilitará que tomen acciones legales conjuntas si las empresas tecnológicas dañan a los consumidores. Eso hace que esta iniciativa sea diferente de “un grupo de centros de estudios que se unen” para crear principios de seguridad en IA, dijo.
Jackson aún desearía que el Congreso aprobara más legislación sobre IA. Pero, dijo, “el Congreso ha dejado un vacío y creo que tiene sentido que los fiscales generales intenten llenarlo”.
The-CNN-Wire
™ & © 2025 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
