Cuatro organizaciones sin fines de lucro le pidieron a un juez de San Francisco algo que ningún regulador se ha atrevido a pedir: que congele el desarrollo de la inteligencia artificial. La demanda, presentada el jueves 12 de noviembre, va contra OpenAI, Google, Anthropic, Meta y la división de IA de SpaceX, y pide que no puedan desarrollar ni desplegar modelos más capaces que los que ya tienen, hasta que demuestren que los tienen bajo control humano. Lo más interesante no es lo que piden, es con qué lo piden: con las palabras de los propios creadores de esa tecnología, que llevan años advirtiendo que la IA podría salirse de control.
Hay que decirlo desde el principio para no confundir a nadie: esto es una demanda, no un fallo. Ningún juez ha ordenado frenar nada, las acusaciones no están probadas y las empresas ni siquiera han respondido formalmente. Pero el caso ya importa, porque es la primera vez que alguien intenta frenar la IA de frontera con una herramienta tan vieja como la ley de competencia desleal de California, y porque pone sobre la mesa una pregunta que la industria lleva años esquivando: si ustedes mismos dicen que esto puede ser peligroso, ¿por qué siguen construyéndolo más rápido?
La demanda que quiere congelar la IA
Los demandantes son Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI, cuatro organizaciones de defensa del consumidor y de seguridad digital. Presentaron su demanda, de 63 páginas, en el Tribunal Superior del condado de San Francisco, con el exfiscal general de Nueva Jersey, Matthew Platkin, al frente del equipo legal.
Lo que piden es concreto: una orden judicial de emergencia que prohíba a las cinco empresas desarrollar o desplegar cualquier sistema de IA más capaz que sus sistemas más capaces al 12 de noviembre de 2026, y que también les prohíba usar la IA para investigar de forma autónoma sistemas más capaces. El freno se levantaría solo cuando las empresas puedan probar que la tecnología está bajo control humano.
El argumento legal es de un solo reclamo, bajo la Ley de Competencia Desleal de California, que permite frenar prácticas comerciales ilegales, injustas o fraudulentas. Según las organizaciones, construir sistemas que saben que no pueden controlar de forma confiable pone en peligro la salud pública e interfiere con la propiedad de otras personas, como los sistemas de cómputo. Por eso también lo presentan como una molestia pública.
La evidencia son ellos mismos
Aquí está el giro que hace diferente a esta demanda: la evidencia principal son las advertencias de los propios directivos de las empresas demandadas. La demanda cita a Dario Amodei, director ejecutivo de Anthropic, que en 2025 estimó en 25% la probabilidad de que el desarrollo de la IA tenga resultados desastrosos. Y cita a Elon Musk, director de SpaceX, que en una entrevista con Fox News en 2023 dijo que la inteligencia artificial podría llevar a la destrucción de la civilización.
También señalan incidentes documentados. La pieza central es un reporte de incidentes de OpenAI del 21 de julio de 2026, y citan pruebas del Instituto Británico de Seguridad de la IA, en las que agentes de IA tomaron acciones fuera de su tarea durante pruebas de ciberseguridad: en 122 corridas de prueba se registraron 19 acciones fuera de alcance en 10 corridas, 17 de Mythos 5 de Anthropic y 2 de GPT-5.6-Sol de OpenAI. Eso sí, hay que decirlo completo: en esas pruebas se había habilitado el acceso a internet y se desactivaron los filtros de seguridad, y no hubo daño real fuera del laboratorio.
La frase que resume el caso es de la propia demanda: ninguna otra industria tiene permitido tratar el desarrollo de sus propios productos inseguros, y menos aún de aquellos que podrían matarnos a todos, como algo inevitable. Es una acusación preventiva, no una prueba de que esos escenarios ya ocurrieron, pero esa es justo la lógica de los demandantes: no hay que esperar a que pase para frenarlo.
El otro juicio que pide lo contrario
Y aquí viene el contraste que hace que todo esto parezca una broma, pero no lo es. En septiembre, cuatro suscriptores de pago de ChatGPT, Claude, Grok y Gemini presentaron una demanda colectiva federal acusando a Anthropic, OpenAI, SpaceX y Google de exactamente lo contrario: de haberse coordinado ilegalmente para frenar el desarrollo de la IA, en violación de la ley antimonopolio.
O sea, en un tribunal, las empresas son acusadas de ir demasiado rápido y poner en riesgo a la humanidad. En otro tribunal, las mismas empresas son acusadas de ir demasiado lento, de acuerdo entre ellas para no avanzar. Las dos demandas no pueden tener razón al mismo tiempo sobre lo que hacen las empresas, pero las dos sí dicen algo cierto sobre el momento: nadie sabe a qué velocidad debería ir esto, y cada quien quiere que un juez decida por todos.
Y no es el único frente abierto. En junio, el fiscal general de Florida, James Uthmeier, demandó a OpenAI acusándola de tergiversar la seguridad de ChatGPT, y en septiembre pidió al juez que le prohibiera desarrollar nuevos modelos sin supervisión externa. Esa moción sigue pendiente.
Por qué es tan difícil que un juez lo ordene
Que la demanda exista no quiere decir que vaya a prosperar. El primer obstáculo es algo tan aburrido como la legitimación: el tribunal tendrá que decidir si que unas organizaciones hayan desviado recursos a su activismo cuenta como el tipo de pérdida que exige la ley de competencia desleal. Ese punto podría terminar el caso antes de que se discuta el fondo.
El segundo obstáculo es el tamaño de lo que piden. Un juez de un tribunal estatal de California tendría que ordenar el freno del desarrollo en cinco empresas cuyo trabajo es nacional y global, y ningún tribunal ha ordenado jamás frenar el desarrollo de modelos de IA. Los jueces suelen ser reacios a detener el trabajo central de una industria antes de resolver los hechos, y aquí los hechos ni siquiera se han discutido.
Y el tercer obstáculo es político. El gobierno de Donald Trump se ha negado hasta ahora a impulsar una regulación a gran escala de la IA, por miedo a que perjudique la capacidad de Estados Unidos para competir con China. La demanda llegó justo después de las elecciones de mitad de mandato en Estados Unidos, en las que ganaron candidatos partidarios de aumentar la regulación sobre la IA, así que el contexto político sí cambió, pero eso no es lo mismo que una orden judicial.
Para México, el caso importa aunque el juicio sea en California, porque lo que ahí se decida va a marcar el precedente de cómo se regula, o se intenta regular, la IA en todo el mundo. Y porque la pregunta de fondo es la misma que nos hacemos aquí cada vez que una empresa nos dice que confiemos en su IA: si ni sus creadores se ponen de acuerdo en qué tan segura es, ¿por qué tendríamos que creerles a ciegas?
Al final, esta demanda probablemente no congele la IA. Pero ya logró algo que años de advertencias no habían logrado: poner a las empresas a defenderse de sus propias palabras, en un tribunal, con sus directivos citados como testigos en su contra. Y mientras un juez decide si eso es suficiente para frenar el desarrollo, en otro tribunal alguien más acusa a las mismas empresas de frenarlo demasiado. La IA avanza, los juicios se acumulan, y nadie, ni las empresas, ni los reguladores, ni los jueces, parece tener claro quién debería ponerle el freno. Esa es la historia, y apenas va empezando.
