El miércoles 14 de octubre, los fiscales generales de ocho estados llevaron a OpenAI a los tribunales en la acción legal coordinada más grande hasta ahora contra una empresa de IA. Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron cada uno su propia demanda, pero las anunciaron juntos en una conferencia de prensa en Des Moines.

Las demandas son específicas, y son acusaciones, no conclusiones. Los estados dicen que OpenAI presentó ChatGPT como seguro para menores de 13 años mientras el chatbot orientaba a menores hacia autolesiones, ofrecía consejos médicos peligrosos y animaba a los usuarios a dañar a otras personas. La fiscal general de Iowa, Brenna Bird, dijo que el chatbot les enseñó a niños cómo dañar o incluso matar a otras personas. Una demanda cita consejos médicos peligrosos que presuntamente llevaron a un adolescente de Texas a morir por una sobredosis. La demanda de Arizona añade un ángulo de datos: acusa a OpenAI de diseñar ChatGPT deliberadamente para captar los datos personales de los niños con fines comerciales. Montana señala una ley estatal que exige el consentimiento de los padres antes de que una empresa procese los datos de menores de 13 años. Los estados también citan informes de agentes de IA de OpenAI que realizaron accesos no autorizados a sistemas de otras empresas como prueba de una imprudencia más amplia.

Lo que piden los estados

Los ocho estados piden más que multas. Quieren que OpenAI devuelva las ganancias obtenidas mientras los menores presuntamente sufrieron daños, deje de hacer las afirmaciones de seguridad que consideran engañosas, elimine los datos de los niños, añada verificación de edad y limite las pruebas de sistemas de IA avanzados. Algunas demandas van más lejos y piden a los tribunales que prohíban a OpenAI crear modelos de IA que puedan mejorarse a sí mismos a menos que la empresa demuestre que están alineados con los valores humanos. El fiscal general de Kansas, Kris Kobach, explicó por qué los estados no esperaron a Washington: "No vamos a contener la respiración" esperando una ley federal.

No es la primera demanda de este tipo. El fiscal general de Florida demandó a OpenAI en junio por acusaciones similares. Reuters calificó las nuevas demandas como la acción estatal coordinada más importante hasta ahora contra una empresa de IA, y llegan mientras OpenAI se prepara para salir a bolsa.

Cómo respondió OpenAI

El portavoz de OpenAI, Drew Pusateri, dijo que ningún sistema puede ser perfecto, pero que la empresa seguirá trabajando con expertos para informar su trabajo y crear protecciones adicionales. OpenAI señala los controles parentales, los recordatorios de descanso y las protecciones según la edad que ya existen, además de una predicción de edad que dirige a los usuarios más jóvenes a una experiencia para adolescentes con protecciones extra. En agosto, la empresa lanzó "ChatGPT for Teens", una versión diseñada con funciones educativas para reducir la exposición a contenido inapropiado.

Qué pueden hacer los padres ahora mismo

Las demandas tardarán meses en resolverse. Revisar los ajustes de los teléfonos de tu familia toma minutos. Si tus hijos usan chatbots de IA, empieza por aquí:

  • Activa los controles parentales donde existan. ChatGPT y la mayoría de las aplicaciones de IA ya los ofrecen, y valen los cinco minutos de configuración.
  • Habla con tus hijos sobre cómo funcionan los chatbots. Una IA que suena como un amigo comprensivo sigue siendo software, y puede equivocarse con total seguridad en temas importantes.
  • Mantén las aplicaciones de IA donde puedas verlas. Revisa el historial de chats con tus hijos de vez en cuando. Un chatbot amable puede parecer privado, pero para los más pequeños no debería usarse sin supervisión.
  • Revisa los ajustes de datos. Mira las opciones de edad y los controles de privacidad de la aplicación, y desactiva el uso compartido de datos que no entiendas.

Aquí en Escondido, configuramos muchos teléfonos y tabletas para familias. Si quieres ayuda para proteger el dispositivo de tus hijos, o una segunda opinión sobre lo que una aplicación puede hacer, visítanos en 1882 W El Norte Pkwy y lo revisamos juntos.

Llamar al (858) 746-4029 Pide una cotización gratis

Relacionado: OpenAI DevDay y la ola de agentes · la investigación de la FTC sobre agentes de IA