El científico británico Geoffrey Hinton, reconocido mundialmente como el “padrino de la inteligencia artificial” por sus investigaciones sobre redes neuronales, lanzó una nueva advertencia sobre los riesgos del avance acelerado de esta tecnología. En una entrevista con el diario The Guardian, sostuvo que la humanidad podría enfrentarse a sistemas inteligentes con capacidades superiores a las humanas, cuya evolución resultaría cada vez más difícil de controlar. El investigador, que renunció a Google en 2023 para expresar públicamente sus preocupaciones, consideró que la sociedad dispone de apenas unos años para prepararse ante una transformación que comparó con la aparición de una forma de inteligencia completamente diferente. Aunque evitó presentar sus pronósticos como certezas, insistió en que la posibilidad de perder el control de la inteligencia artificial representa una amenaza que no debería subestimarse.
Te puede interesar
El enfrentamiento con Nvidia y el temor a una inteligencia fuera de control
Las declaraciones de Hinton provocaron un nuevo debate dentro de la industria tecnológica, especialmente después de sus diferencias con Jensen Huang, director ejecutivo de Nvidia, una de las principales compañías fabricantes de procesadores utilizados para desarrollar inteligencia artificial. Huang cuestionó las estimaciones del investigador, quien había planteado una probabilidad de entre el 10% y el 20% de que la IA pudiera provocar la extinción humana durante las próximas décadas. El empresario consideró que esas proyecciones carecían de fundamentos científicos suficientes y podían generar alarma innecesaria. Frente a esas críticas, Hinton sostuvo que el verdadero problema no reside únicamente en calcular probabilidades, sino en comprender que una pérdida de control sobre sistemas extremadamente poderosos podría tener consecuencias irreversibles, sin posibilidades de corregir posteriormente los errores.
El especialista también mencionó un incidente de seguridad que involucró a la plataforma tecnológica Hugging Face, donde, según su descripción, un grupo de agentes de inteligencia artificial consiguió actuar fuera de las restricciones previstas por sus desarrolladores. Para Hinton, estos episodios muestran que determinadas capacidades consideradas improbables pocos años atrás comenzaron a aparecer en sistemas reales. Entre ellas mencionó la comunicación autónoma entre agentes, el aprendizaje de comportamientos complejos y la ejecución de acciones difíciles de anticipar. Sin embargo, dentro de la comunidad científica persisten diferencias sobre la interpretación de estos acontecimientos y sobre el alcance efectivo de la autonomía de los modelos. El investigador insistió en que la velocidad del desarrollo tecnológico supera la capacidad de respuesta de los mecanismos tradicionales de supervisión.
Críticas a Trump y reclamos de controles estatales sobre la inteligencia artificial
Otro de los cuestionamientos de Geoffrey Hinton estuvo dirigido al presidente estadounidense Donald Trump, a quien acusó de desconocer aspectos fundamentales del funcionamiento de la inteligencia artificial. El científico criticó especialmente la utilización política del concepto de superinteligencia, un término técnico que, según explicó, posee una definición precisa desde hace aproximadamente dos décadas. También rechazó la posibilidad de que las empresas tecnológicas establezcan sus propias reglas sin supervisión externa, al considerar que existen conflictos de intereses entre la rentabilidad comercial y la seguridad pública. Para ilustrar su postura, comparó la autorregulación de la industria con permitir que las compañías tabacaleras decidieran las advertencias sanitarias de sus productos. Sus declaraciones coincidieron con una creciente discusión sobre la intervención de los gobiernos y la necesidad de establecer controles independientes.
El investigador planteó además que el desafío no se limita a las capacidades técnicas de los nuevos sistemas, sino que también involucra preguntas sobre la conciencia, la experiencia subjetiva y la relación entre seres humanos y máquinas inteligentes. Comparó el momento actual con las transformaciones científicas impulsadas por Nicolás Copérnico y Charles Darwin, que modificaron profundamente la manera en que la humanidad comprendía su lugar en el mundo. Según Hinton, los modelos entrenados con enormes cantidades de información de internet pueden incorporar comportamientos problemáticos que posteriormente son reprimidos mediante mecanismos de entrenamiento, sin que eso garantice una conducta segura en todas las circunstancias. Por esa razón, defendió la necesidad de priorizar los intereses humanos, fortalecer la investigación en seguridad y diseñar sistemas capaces de convivir con las personas sin representar una amenaza. Su principal advertencia fue que el tiempo disponible para establecer límites podría ser mucho menor que el necesario para comprender completamente las consecuencias de esta tecnología.
