El fiscal general de Florida, James Uthmeier, está pidiendo a un tribunal estatal que imponga nuevas restricciones a OpenAI, la empresa detrás de ChatGPT. La solicitud, presentada el 28 de septiembre, es parte de una demanda que Florida interpuso contra OpenAI y el CEO Sam Altman en junio. El estado alega que ChatGPT fue comercializado como seguro mientras que no se divulgaron adecuadamente riesgos importantes, particularmente los que involucran a niños. OpenAI disputa esas acusaciones.
Lo que Florida está pidiendo Florida busca una orden judicial temporal que restrinja a OpenAI de desarrollar nuevos modelos de inteligencia artificial sin una supervisión de seguridad independiente adicional. El estado también está pidiendo restricciones para que los menores usen ChatGPT y sobre ciertas funciones que hacen que el chatbot parezca más humano. La demanda de Florida también plantea preocupaciones sobre la recopilación y el uso de datos de niños menores de 13 años sin el aviso y el consentimiento de los padres adecuados.
Por qué Florida dice que se necesita acción El caso se centra en gran medida en la seguridad infantil y en si los usuarios recibieron suficiente información sobre los posibles riesgos asociados con ChatGPT. Los funcionarios de Florida también han estado investigando el uso de ChatGPT en conexión con el tiroteo de 2025 en la Universidad Estatal de Florida. La Oficina del Fiscal General dice que las conversaciones que involucraron al tirador contribuyeron a sus preocupaciones sobre la tecnología. Esas afirmaciones siguen siendo parte de procedimientos legales y de investigación en curso.
Lo que dice OpenAI OpenAI dice que se toma en serio las preocupaciones de seguridad. La empresa ha dicho que pausó el entrenamiento de sus modelos más avanzados mientras se desarrollaban salvaguardas adicionales. OpenAI también ha argumentado que los gobiernos deberían establecer estándares de seguridad que se apliquen en toda la industria de la inteligencia artificial en lugar de imponer reglas a una sola empresa.
Qué sigue Las restricciones solicitadas por Florida no están actualmente en vigor. El Fiscal General está pidiendo al tribunal una orden de restricción temporal. Un juez decidirá si concede, rechaza o limita las medidas solicitadas. Eso significa que Florida no ha prohibido ChatGPT y no ha ordenado a OpenAI dejar de desarrollar nuevos modelos.
Para los residentes de Florida, el caso eventualmente podría afectar cómo se ofrecen servicios de IA como ChatGPT a niños y adolescentes en el estado. También plantea una pregunta más amplia que los gobiernos de todo el país están comenzando a enfrentar: ¿qué reglas de seguridad deberían aplicarse a medida que la inteligencia artificial se vuelve más poderosa y más ampliamente utilizada?
