Ya no estamos hablando de una película de ciencia ficción. Un robot humanoide sufrió una falla y terminó lanzando violentas patadas contra seres humanos, ese episodio debería preocuparnos mucho más de lo que lo ha hecho, no porque la máquina haya adquirido conciencia, odio o voluntad propia, sino por algo mucho más serio: una tecnología creada para obedecer puede convertirse, en cuestión de segundos, en un peligro físico para las personas que están a su alrededor. Y cuando una máquina tiene fuerza, autonomía y capacidad de movimiento, una falla deja de ser simplemente un problema técnico, puede convertirse en una amenaza, ese es el verdadero campanazo de alerta.
Lo digo además desde una posición que ya había expresado antes de que este episodio ocurriera. Yo vengo advirtiendo desde hace rato que la inteligencia artificial no debe convertirse en sustituto del criterio humano, mucho menos en política, muchos no prestaron atención porque parecía una preocupación exagerada frente a una herramienta que apenas comenzaba a popularizarse, hoy la discusión cambió, la IA puede ser extraordinariamente útil para analizar información, ordenar datos o apoyar tareas, pero entregarle decisiones políticas a una máquina es otra cosa, gobernar exige contexto, responsabilidad, sensibilidad humana y asumir consecuencias que ningún algoritmo puede cargar.
Durante décadas, la televisión imaginó el futuro tecnológico de una manera mucho menos amenazante. Los Supersónicos, estrenados en 1962, mostraban un mundo lleno de robots, automatización, pantallas, asistentes mecánicos y máquinas capaces de hacerle la vida más cómoda al ser humano, era una visión optimista: la tecnología estaba allí para servirnos, y justamente por eso resulta interesante recordar que, mucho antes de que existiera la inteligencia artificial como la conocemos hoy, la cultura popular ya intentaba imaginar hacia dónde podía llevarnos el progreso tecnológico, el futuro estaba siendo contado en dibujos animados, pero todavía sin la agresividad que después aparecería en otras historias.
Y hay un caso todavía más llamativo, en 1973, en Super Friends, apareció el episodio “Professor Goodfellow’s G.E.E.C.”, allí, una computadora era diseñada para eliminar el trabajo físico, el esfuerzo intelectual y hasta la responsabilidad humana, hasta terminar fuera de control, era una advertencia presentada desde la televisión infantil, no como una guerra entre humanos y máquinas, sino como una reflexión sobre cuánto poder estamos dispuestos a entregarles. La diferencia con Terminator resulta enorme: aquella película, estrenada en 1984, llevó la idea al extremo y convirtió a las máquinas en una amenaza agresiva contra la humanidad, la imaginación tecnológica también se había vuelto más oscura.
Ese recorrido cultural dice mucho sobre cómo cambió nuestra relación con las máquinas, primero imaginamos robots que limpiaban, cocinaban, transportaban y facilitaban nuestra existencia, después aparecieron historias en las que esas mismas máquinas podían tomar decisiones contra nosotros, Terminator llevó esa idea al extremo: una inteligencia artificial capaz de utilizar máquinas para perseguir y exterminar seres humanos, aquello era ficción, pero ayudó a instalar una pregunta que hoy adquiere una dimensión diferente: ¿qué sucede cuando construimos sistemas capaces de actuar con autonomía y ya no podemos anticipar completamente su comportamiento? El problema ya no es imaginarlo, es determinar ¿cuánto estamos dispuestos a arriesgar?.
Por eso la advertencia de Naciones Unidas adquiere una dimensión distinta. La ONU ya está hablando de riesgos que van mucho más allá del debate sobre empleos, productividad o innovación, su preocupación alcanza los derechos humanos, la seguridad y la posibilidad de que la inteligencia artificial avanzada genere riesgos existenciales para la humanidad, no se trata de anunciar que las máquinas acabarán mañana con nosotros, se trata de reconocer que estamos desarrollando una tecnología cuyo alcance puede superar nuestra capacidad para anticipar todas sus consecuencias, cuando Naciones Unidas enciende semejante alarma, ignorarla por completo sería una irresponsabilidad.
Aquí aparece una paradoja de esta revolución tecnológica: mientras más inteligentes hacemos las máquinas, más difícil puede resultar comprender todas las decisiones que toman, durante décadas, una persona ordenaba y una máquina ejecutaba, ahora construimos sistemas capaces de analizar, aprender, decidir, planificar y actuar, esa transformación es extraordinaria, pero cambia las reglas del juego. Ya no basta con preguntar qué puede hacer una máquina, tenemos que preguntarnos qué hará cuando encuentre una situación que sus diseñadores nunca contemplaron y, sobre todo, si todavía podremos detenerla. Esa pregunta debería estar en el centro del debate público.
Y aquí la política tiene una responsabilidad que todavía parece no comprender en toda su dimensión. Los gobiernos reaccionan a una tecnología que avanza mucho más rápido que las leyes. Las empresas compiten por desarrollar la inteligencia artificial más poderosa, mientras los Estados intentan ponerse de acuerdo sobre reglas mínimas, pero hay una conclusión que debería ser evidente: una herramienta que puede equivocarse, manipular información o generar respuestas falsas no puede convertirse en la autoridad que determine el rumbo de una sociedad. La política puede utilizar inteligencia artificial como apoyo; jamás debería entregarle su capacidad de decidir.
Mucho menos cuando estas tecnologías comienzan a tener aplicaciones militares. La combinación de inteligencia artificial, drones, robots y sistemas autónomos puede modificar completamente la naturaleza de los conflictos, una cosa es utilizar una máquina como herramienta bajo supervisión humana y otra muy distinta permitir que identifique, seleccione y ataque objetivos con una intervención humana cada vez menor, allí ya no hablamos solamente de innovación, hablamos de poder, responsabilidad y vida humana. Ningún avance tecnológico debería permitir que la decisión de quitar una vida termine convertida en una operación automática cuya responsabilidad nadie quiera asumir.
La humanidad está jugando con una tecnología que podría superar nuestra capacidad de control. El robot que, producto de una falla, terminó lanzando atacando a seres humanos vuelve imposible tratar el asunto como una simple fantasía. Desde Los Supersónicos hasta Super Friends y, después, Terminator, la cultura popular pasó de imaginar máquinas que nos ayudaban a advertir sobre máquinas que podían enfrentarnos, hoy esa discusión dejó de ser exclusivamente ficción, todavía estamos a tiempo de decidir quién manda, porque si algún día una máquina actúa más rápido de lo que podamos detenerla, ya no discutiremos sobre innovación, discutiremos sobre supervivencia.
Sección
Columnas
