Florida demanda a OpenAI, alegando que ChatGPT no es seguro para los niños
Por Hadas Gold, CNN
Florida está demandando a OpenAI y a su CEO, Sam Altman, alegando que saben que ChatGPT no es seguro, especialmente para los menores.
El estado se convierte en el primero en demandar a OpenAI por los presuntos peligros de su producto.
“Sam Altman y ChatGPT han elegido la carrera de la IA por encima de la seguridad y la protección de nuestros niños. Han elegido el beneficio por encima de la seguridad pública, y no lo vamos a permitir aquí en Florida”, dijo el fiscal general de Florida, James Uthmeier, en una conferencia de prensa el lunes.
La demanda, presentada el lunes en el décimo circuito de Florida, acusa a OpenAI de prácticas comerciales engañosas e injustas, negligencia y de violar las leyes de responsabilidad por productos. También busca responsabilizar a Altman “personalmente por el daño que ha causado a los floridanos”, incluido su presunto “absoluto desprecio por el riesgo para la vida humana causado por la conducta de sus empresas”.
La demanda enumera una larga lista de acusaciones contra ChatGPT, entre ellas ayudar a autores de tiroteos masivos, fomentar el suicidio, causar “humillación pública”, volver adictos a menores a una herramienta “sin supervisión parental” y hacer que los usuarios pierdan “habilidades de pensamiento crítico”.
OpenAI no respondió de inmediato a una solicitud de comentarios.
Uthmeier dijo que, en última instancia, necesitan que OpenAI “cambie su programación” y que podrían ser responsables de “potencialmente miles de millones de dólares”.
La demanda se centra específicamente en las acusaciones de que OpenAI carece de controles parentales eficaces para usuarios jóvenes, señalando que la versión gratuita de ChatGPT no tiene “ningún mecanismo de control de acceso o verificación de edad” y que OpenAI no exige que las cuentas de los niños estén vinculadas a la cuenta de un padre o tutor.
La demanda también dice que, incluso si las cuentas están vinculadas, OpenAI solo notificará a los padres sobre contenido preocupante en “situaciones limitadas” y que “en ningún caso un padre puede solicitar acceso a qué información ha proporcionado un niño a ChatGPT”.
La demanda civil se basa en la primera investigación penal de la historia contra OpenAI que Uthmeier inició en abril, sobre si la empresa “tiene responsabilidad penal” por un tiroteo masivo en la Universidad Estatal de Florida el año pasado.
El presunto atacante en ese caso tuvo conversaciones extensas con ChatGPT en los días previos al tiroteo, incluidas conversaciones sobre detalles específicos de tiroteos masivos en la universidad y consejos sobre cómo usar las armas, alegan las autoridades de Florida.
OpenAI dijo en ese momento que el tiroteo “fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”.
“En este caso, ChatGPT proporcionó respuestas fácticas a preguntas con información que podría encontrarse ampliamente en fuentes públicas en internet, y no alentó ni promovió actividad ilegal o dañina”, dijo un portavoz de OpenAI en abril.
Uthmeier dijo que espera que otros estados se sumen a su esfuerzo.
Varios estados han tomado medidas contra otras empresas de IA. En mayo, Pensilvania demandó a Character.AI, acusando a su chatbot de hacerse pasar por médicos (Character.AI dijo que han tomado “medidas contundentes” para dejar claro que sus bots de IA no son reales).
En enero, Kentucky también demandó a la empresa detrás de Character.AI por “aprovecharse de los niños” y llevarlos “a autolesionarse”. Character.AI dijo en ese momento que su “máxima prioridad es la seguridad” y que está desarrollando “sólidas funciones de seguridad” para menores.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
