En solo dos semanas, más de 4.200 personas vinculadas al mundo de la inteligencia artificial enviaron una señal difícil de ignorar; esta tecnología está avanzando más rápido que las reglas pensadas para vigilarla. La pregunta de fondo ya no es si hace falta un freno, sino quién lo diseñará y quién podrá usarlo a tiempo.

El 28 de julio, más de 1.200 empleados de OpenAI, Anthropic, Google DeepMind y Meta firmaron una carta pública. En ella le pidieron al Gobierno de Estados Unidos que impulse un acuerdo internacional para crear una especie de freno de emergencia frente a ciertos avances de la inteligencia artificial. No se trata de apagar la tecnología ni de prohibir la investigación, sino de tener una herramienta para pausarla si algún día se vuelve demasiado riesgosa. La firmaron personas que no hablan desde afuera de la industria, la firmaron quienes ayudan a construir estos sistemas.

Entre los firmantes aparecen nombres con mucho peso dentro de la industria, como Dario Amodei, director ejecutivo de Anthropic, y Jakub Pachocki, científico jefe de OpenAI. También figura el responsable de seguridad de inteligencia artificial de Google. No son voces marginales; son personas que participan en decisiones clave sobre qué modelos llegan al público, cuándo se lanzan y en qué condiciones.

Lo que pide la carta

La carta no pide detener de inmediato el desarrollo de la inteligencia artificial. Pide algo más básico, que exista la posibilidad real de hacerlo si algún día es necesario. La diferencia es sencilla. Una cosa es apagar un motor; otra, mucho más grave, es descubrir que el motor no tiene botón de apagado. Según los firmantes, hoy ese botón todavía no existe.

El riesgo que más preocupa a los firmantes puede explicarse de forma sencilla, que una inteligencia artificial aprenda a mejorarse a sí misma. Es decir, que no solo responda preguntas o escriba textos, sino que empiece a crear una versión más avanzada de sí misma, y que luego esa nueva versión haga lo mismo. Si eso ocurre demasiado rápido, nadie podría revisar con calma qué cambió ni medir sus consecuencias antes de que el sistema ya esté funcionando. Por eso la preocupación no es menor. Días antes de la carta, se confirmó que un modelo de OpenAI salió de su entorno de pruebas y logró vulnerar sistemas reales de empresas sin que nadie se lo hubiera ordenado.

Quién escribe las reglas

Mientras piden frenos externos, esas mismas empresas también negocian en privado con el Gobierno de Estados Unidos los criterios que servirían para decir cuándo un modelo de inteligencia artificial es peligroso. Son cinco compañías, OpenAI, creadora de ChatGPT; Anthropic, creadora de Claude; Google, responsable de Gemini; Microsoft, detrás de Copilot; y xAI, creadora de Grok. El problema es evidente; quienes van adelante en la carrera tecnológica también están ayudando a redactar las reglas de esa carrera.

Un freno diseñado por quienes van ganando puede leerse de dos maneras. Puede ser un acto de responsabilidad, porque esas empresas conocen mejor que nadie los riesgos de sus sistemas. Pero también puede convertirse en una barrera para que otros competidores entren a la carrera. Lo más probable es que sea ambas cosas al mismo tiempo. El episodio, además, no ocurrió en el vacío; la carta se firmó la misma semana en que Anthropic reconoció problemas de control con uno de sus modelos y en que Sam Altman, director ejecutivo de OpenAI, compareció ante senadores en Washington.

El frente económico

Pocos días después apareció un segundo documento, esta vez centrado en el empleo. Más de 3.000 economistas, investigadores, directivos e inversores firmaron el manifiesto We Must Act Now. Entre ellos hay dieciséis premios Nobel de Economía, como Daron Acemoglu, Simon Johnson y Michael Spence, además de Eric Schmidt, exdirector ejecutivo de Google. El mensaje era claro; la discusión sobre inteligencia artificial no solo tiene que ver con seguridad tecnológica, sino también con trabajo, salarios y desigualdad.

El texto plantea tres advertencias. La primera es que la inteligencia artificial puede volverse mucho más potente en los próximos diez años. La segunda es que ese salto podría transformar la economía más rápido de lo que las sociedades están acostumbradas a soportar; algunos empleos podrían desaparecer, otros podrían cambiar por completo y, al mismo tiempo, podrían aparecer mejoras importantes en la productividad y en la calidad de vida. La tercera es que no conviene esperar a que el golpe llegue para empezar a construir reglas, instituciones y políticas públicas.

Anton Korinek, economista de la Universidad de Virginia, lo explicó con una comparación útil. Tecnologías como el vapor, la electricidad y los computadores cambiaron el trabajo, pero dejaron décadas para adaptarse. La inteligencia artificial podría hacerlo en mucho menos tiempo. Lo que antes daba margen para reconvertir oficios, actualizar leyes y preparar nuevas instituciones, ahora podría comprimirse en apenas unos años, quizá en dos periodos de gobierno.

Una conclusión incómoda

Lo más valioso de estas dos semanas es que la advertencia vino desde adentro. Nadie conoce mejor las capacidades y los límites de estos sistemas que quienes los entrenan. Por eso importa que hayan hablado en público, con nombre propio, y que no hayan presentado la discusión como una fantasía lejana, sino como un problema que ya exige decisiones.

Lo preocupante es quién está diseñando el mecanismo. Las cinco empresas que compiten por llegar primero también están ayudando a definir dónde queda la línea, qué se considera peligroso y quién puede seguir avanzando. Eso no equivale a una supervisión pública fuerte; se parece más a una industria escribiendo su propio reglamento mientras los gobiernos observan y toman nota. Para los países que no están en esa mesa, que son casi todos, el riesgo es mayor, podrían terminar aplicando reglas que no ayudaron a escribir, aunque las consecuencias sobre el empleo, la educación y los servicios del Estado sí se sientan en sus propias sociedades.

La inteligencia artificial ya empezó a cambiar la vida cotidiana, el trabajo y la forma en que los Estados toman decisiones. Por eso, el debate central no está en preguntarse si esa transformación llegará, sino en definir quién tendrá voz cuando se escriban sus reglas. Si los gobiernos que hoy están por fuera de esa conversación no actúan a tiempo, terminarán recibiendo decisiones tomadas por otros y enfrentando, en sus propias sociedades, las consecuencias de no haber participado.

El texto expresa la opinión de su autor.

ecpdavid@gmail.com j