Sam Altman identificó dos riesgos centrales en el desarrollo de la inteligencia artificial durante una entrevista con el presentador David Senra. El primero se relacionó con la creación de sistemas tan capaces que las herramientas disponibles ya no alcancen para controlarlos o detener su funcionamiento.
Te puede interesar
Su segunda preocupación apuntó a la concentración del poder tecnológico en pocas compañías, modelos o personas. El director de OpenAI sostuvo que ese escenario limitará la capacidad de la sociedad para decidir cómo utilizar la IA y qué restricciones aplicar a su crecimiento.
Altman pidió una participación social más amplia
El empresario rechazó que las grandes tecnológicas definan por sí solas el futuro de la inteligencia artificial. Según explicó, la sociedad y los modelos evolucionarán de manera simultánea, por lo que gobiernos, especialistas y ciudadanos necesitarán intervenir en la discusión.
Altman también cuestionó una respuesta basada únicamente en regulaciones más estrictas o en la reducción de libertades para aumentar la seguridad. Su posición marcó una diferencia con la del director de Anthropic, Dario Amodei, quien respaldó controles más rigurosos sobre el desarrollo de sistemas avanzados.
Geoffrey Hinton también alertó sobre los riesgos
Las declaraciones coincidieron con las advertencias de Geoffrey Hinton, uno de los principales referentes del aprendizaje profundo. El científico señaló que la complejidad de los modelos dificultó la comprensión de sus procesos internos, incluso para los equipos que participaron de su creación.
Hinton también mencionó el riesgo de que una inteligencia artificial superior actúe contra los intereses humanos o desarrolle objetivos propios. Frente a esos escenarios, reclamó sistemas de supervisión sólidos, transparentes y capaces de detectar comportamientos peligrosos.
El debate planteó la necesidad de construir nuevas reglas de gobernanza para evitar tanto la pérdida de control como la concentración de poder. La discusión incluirá a empresas, gobiernos, científicos y ciudadanos, que deberán definir qué responsabilidades tendrá cada sector y qué límites regirán el avance tecnológico.
