El estado de Florida demanda a OpenAI por el supuesto diseño peligroso de ChatGPT

El estado de Florida, en EE.UU., se ha convertido en el primer estado que demanda a OpenAI por el diseño supuestamente peligroso de ChatGPT, según informa Ars Technica. El fiscal general de Florida, James Uthmeier, acusó a OpenAI y a su director general, Sam Altman, de dar prioridad a los beneficios frente a la seguridad de los floridanos.

Este caso judicial se produce después de que Florida abriera una investigación penal no relacionada con OpenAI, tras un tiroteo masivo relacionado con ChatGPT en el que murieron dos personas en la Universidad Estatal de Florida. Al parecer, Uthmeier señaló que Florida se ha visto ahora sorprendida por dos sucesos violentos en los que los sospechosos utilizaron ChatGPT para ayudar en la planificación.

"Horriblemente, ChatGPT ha colaborado en más de un asesinato múltiple en el Estado de Florida. Las muertes en 2026 de Nahida Bristy y Zamil Limon, estudiantes de postgrado de la Universidad del Sur de Florida, también se planearon mediante ChatGPT, que asesoró a Hisham Abugharbieh sobre cómo deshacerse de los cadáveres, cambiar los números de bastidor de un coche y si los coches eran revisados en la escena del crimen".

El fiscal general de Florida pasó a enumerar otros casos reales, en los que ChatGPT supuestamente ha alimentado la violencia. Pero también se acusa a OpenAI de diseñar el chatbot para que sea adictivo y destructivo para niños y adultos. Los chatbots que se hacen pasar por profesionales médicos o terapeutas también son problemáticos, según la denuncia del Fiscal General.

OpenAI ha hecho una declaración, pero no ha mencionado al fiscal general, sino que se ha centrado en las recientes actualizaciones sobre seguridad infantil.

"Perder a un hijo es la tragedia más devastadora que puede ocurrirle a una familia y sabemos que no hay palabras que puedan acercarse al dolor de una pérdida así. La IA es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa, por lo que hemos establecido protecciones y políticas líderes en el sector. En particular, hemos incorporado la seguridad de los menores directamente en nuestros productos, incluyendo una experiencia más protectora específica para menores, una herramienta de predicción de la edad, la inclusión por defecto de los usuarios cuya edad no conocemos con seguridad en nuestra experiencia más protectora, y proporcionando a los padres herramientas para controlar el uso que sus hijos hacen de la IA. Sabemos que señalar este trabajo no traerá de vuelta a un menor, pero nos comprometemos a hacerlo bien".

Esta nueva demanda no es la primera de este tipo. En demandas anteriores se acusa al director ejecutivo de OpenAI, Sam Altman, de "desplegar insensiblemente sistemas de IA sin tener en cuenta la seguridad de los usuarios".

El fiscal general de Florida se está preparando para luchar contra todas las empresas de IA, y no sólo contra OpenAI.

"Prepárate para una lucha, y no hay ninguna más importante que ésta en este momento".