Hay algo que no cierra en Silicon Valley. Las mismas empresas que compiten día y noche por lanzar el modelo de inteligencia artificial más potente del mercado son las que ahora piden frenar.
Te puede interesar
Dario Amodei, CEO de Anthropic, publicó un ensayo titulado "We Must Pace the Frontier" en el que sostiene que la industria debe bajar el ritmo.
Horas después, Sam Altman, su principal rival al frente de OpenAI, le dio la razón. Y Elon Musk, dueño de xAI, se sumó con un mensaje corto en X: "Dario tiene razón".
La escena es insólita. Tres de los hombres más poderosos de la tecnología, que compiten ferozmente por liderar un mercado que mueve miles de millones de dólares, coinciden en que el avance es demasiado rápido.
Alarma en Silicon Valley: los creadores de la IA piden frenar su propio desarrollo
"Debemos reducir la velocidad de la carrera por los modelos de frontera para que los mecanismos de seguridad puedan acompañar el aumento de capacidades", escribió Amodei. La frase, en el fondo, es una admisión: ni ellos pueden controlar del todo lo que están creando.
La discusión no surgió de la nada. Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, renunció a su puesto con una denuncia brutal. Dijo que ninguna de las dos compañías está actuando de manera responsable y que están "corriendo directamente hacia una superinteligencia auto-mejorante" mientras "apuestan con nuestras vidas".
Anthropic ya dio el primer paso. La empresa permitirá que evaluadores externos tengan acceso permanente a sus sistemas, con un nivel de acceso similar al de sus propios empleados.
De esta forma, podrán verificar el cumplimiento de las medidas de seguridad, reportar incidentes y evaluar el alineamiento de los modelos durante el entrenamiento. Es un cambio de fondo: hasta ahora, las empresas de IA mantenían sus sistemas bajo llave y solo compartían lo que querían compartir.
Altman confirmó que OpenAI hará lo mismo. "Es una gran idea y nosotros haremos lo mismo", dijo. Y reveló que el tema fue uno de los principales puntos de discusión dentro de la compañía en las últimas semanas.
El respaldo de Musk, que también compite en la carrera por la IA con xAI, terminó de configurar un escenario inédito: los tres principales jugadores del sector reconocen, al mismo tiempo, que la velocidad de la competencia se convirtió en un riesgo.
La paradoja es evidente. Cada empresa tiene incentivos comerciales para lanzar modelos más capaces antes que sus rivales. Pero los sistemas de evaluación, regulación y supervisión necesitan tiempo para entender qué riesgos aparecen a medida que la IA gana autonomía.
Esa tensión entre la velocidad de la innovación y la lentitud de los controles es la que ahora los propios protagonistas admiten que no pueden resolver solos.
