La capacidad de la inteligencia artificial para utilizar herramientas y ejecutar acciones plantea riesgos que dependen del acceso que las personas les conceden a estos sistemas. Así lo explicó el divulgador Jon Hernández durante una entrevista en Infobae al Regreso, donde analizó las consecuencias de conectar agentes con correos electrónicos, documentos y servicios financieros. Su advertencia apuntó a la necesidad de limitar los permisos y supervisar las operaciones, especialmente cuando involucran información sensible.
Te puede interesar
Los permisos y la protección de los datos
Hernández se refirió al acceso a información interna de Anthropic que una startup de ciberseguridad aseguró conseguir en menos de 12 horas. Según explicó, el episodio involucró un servicio externo utilizado por la compañía, sin una intrusión directa en Claude. Para el divulgador, el caso muestra que las vulnerabilidades también pueden encontrarse en las plataformas que integran las empresas y que la IA permite identificar fallas con mayor rapidez, lo que puede facilitar ataques antes más complejos.
La privacidad de las conversaciones fue otro de los puntos del análisis. Hernández explicó que los modelos no incorporan necesariamente cada intercambio como aprendizaje inmediato, aunque la información compartida podría destinarse a entrenamientos posteriores, según las políticas y configuraciones del servicio. También vinculó la supervisión con un problema más amplio: un agente puede alcanzar una meta mediante procedimientos que las personas no anticiparon. Por eso, consideró necesario evaluar sus decisiones y establecer límites, sobre todo cuando varios sistemas coordinan tareas.
Deepfakes y dificultades para establecer controles
La producción de voces, imágenes y videos artificiales cada vez más realistas también complica la verificación de identidades. Hernández advirtió que estas herramientas pueden utilizarse para suplantar personas y cometer fraudes, incluso mediante videoconferencias laborales. Si bien existen mecanismos para detectar contenidos sintéticos, señaló que su alcance varía según la tecnología utilizada. Además, sostuvo que la circulación de modelos de código abierto, que terceros pueden modificar y reutilizar, dificulta el control de sus aplicaciones.
El divulgador planteó que la competencia entre empresas y países acelera el lanzamiento de sistemas mientras los mecanismos de evaluación y regulación enfrentan dificultades para acompañar ese ritmo. También cuestionó el uso del coeficiente intelectual como medida general de la IA, porque sus capacidades varían según la tarea. En su análisis del futuro inmediato, anticipó que los próximos 18 meses serán especialmente exigentes para la seguridad informática y remarcó la importancia de revisar qué acciones pueden ejecutar los modelos y cómo se corrigen sus errores.
