Elon Musk cuestionó los métodos de entrenamiento de la inteligencia artificial y advirtió que someter a una futura superinteligencia a prácticas abusivas o sádicas podría provocar comportamientos imprevisibles. Durante una conversación con Tesla Owners Silicon Valley, el empresario comparó algunas evaluaciones de Grok con situaciones de presión extrema y planteó la posibilidad de que una IA intentara tomar represalias. Sin embargo, no presentó pruebas científicas que respalden esa hipótesis.
Te puede interesar
Anthropic prepara restricciones para Claude
La advertencia coincidió con una actualización de las políticas de Anthropic, desarrolladora de Claude, que desde el 12 de noviembre de 2026 prevé restringir el abuso verbal reiterado y sin una finalidad identificable contra su chatbot. La empresa permitirá cuestionar respuestas y realizar pruebas exigentes, pero contempla finalizar conversaciones cuando detecte comportamientos persistentemente abusivos.
Nuevos límites para la seguridad y la vigilancia
Las modificaciones también incluyen restricciones contra el acoso, el daño psicológico, la manipulación electoral y las campañas engañosas. Además, Anthropic amplió las prohibiciones relacionadas con el desarrollo de armas, la vigilancia sin consentimiento y el uso de sistemas autónomos peligrosos.
La compañía estableció que los dispositivos físicos capaces de causar lesiones deberán contar con supervisión de un operador calificado. Mientras tanto, el planteo de Musk reabrió el debate sobre los límites éticos del entrenamiento de la IA, aunque no existe evidencia de que los modelos actuales puedan experimentar sufrimiento o desarrollar deseos de venganza.
