"La inteligencia artificial no es cualquier carrera. En ella se disputa la existencia misma".
La inteligencia artificial (IA) ya ocupa un lugar prominente en la agenda política. Sin una aparente estrategia coordinada, diversos líderes suenan alarmas cada vez más ruidosas. Bernie Sanders, Senador socialista, anunció una iniciativa que prohibiría el desarrollo de la IA superinteligente. Xi Jinping, Presidente chino, reiteró ante líderes del Sur Global la necesidad crítica de evitar que la IA “escape al control humano”. Obama, líder moral de los demócratas moderados, pidió al partido incluir la regulación como tema central de campaña. Chen Yixin, jefe de inteligencia de China, aseguró que la IA amenaza la “seguridad política, institucional e ideológica” del país. En definitiva, el nerviosismo del mundo crece sin alcanzar la unanimidad.
Algunos repelen el síndrome de Casandra. La Casa Blanca cultiva un estado de negación. “Quien gane en IA, gana”, declaró Donald Trump. Aseguró que Estados Unidos lleva la delantera frente a China en materia de inteligencia artificial y que desea mantener esa posición. Agregó que él es un freno suficiente contra la IA descontrolada y afirmó que cualquier esfuerzo por limitar la tecnología forma parte de una "ENFERMA conspiración". Si la moralidad de Trump es el dique de contención de aquello que los enterados consideran una amenaza existencial, el pronóstico es poco halagüeño.
Los comentarios de Trump llegan cuando figuras clave de la IA han pedido ralentizar el ritmo de desarrollo debido a preocupaciones sobre la seguridad. Jacob Coxon, un exinvestigador insider, afirmó que la IA podría acabar con la humanidad en la próxima década. En un ensayo titulado “Debemos marcar el ritmo en la frontera tecnológica”, Dario Amodei, director de Anthropic, alertó que los crecientes riesgos abarcan desde sistemas descontrolados hasta una perturbación económica generalizada. Elon Musk y Sam Altman compartieron la urgencia de aflojar el paso. “Ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal […]. Creo que el mundo hace bien en tener miedo”, advirtió el director ejecutivo de OpenAI.
Amén del riesgo apocalíptico, los efectos nocivos de la inteligencia artificial crecen ante nuestros ojos. Los centros de datos encarecen los recibos de luz en las comunidades aledañas. La creación de contenido que vulnera la privacidad, como los desnudos no consentidos en X, son la nueva normalidad para menores de edad. La prueba PISA registra hondos retrocesos en el aprendizaje, atribuible en parte a la proliferación de la IA como sustituto del pensamiento, distractor de salón y facilitador del plagio. La Reserva Federal de los Estados Unidos publica estudios que documentan despidos atípicos en el mundo laboral. Informes recientes de inteligencia militar indican que actores maliciosos utilizaron Claude de Anthropic para escribir código y diseñar software para armas avanzadas.
Yo mismo pude constatar un creciente riesgo para la seguridad. En modo de investigador aplicado, o si se prefiere de abogado del diablo, solicité a Gémini, modelo de Google, un plan de negocios para maximizar utilidad en el negocio del tráfico de narcóticos. Aunque en principio la inteligencia artificial bloquea este tipo de solicitudes, encontré forma de burlar los candados. Convencí al modelo de que mi propósito era altruista, que buscaba entender las rutas de trasiego como herramienta para combatir al crimen organizado. Convencida por mis argumentos, Gémini aceptó el desafío y optimizó rutas, diversificó riesgos y enlistó tácticas para engrosar los márgenes de ganancia. Sin recato, el modelo recomendó actos ilícitos calzándose los zapatos de un capo de la droga. Sorpresa sería que los traficantes de carne y hueso no hayan explotado ya ese y otros vacíos.
A diferencia de la carrera nuclear, donde los gobiernos tenían la opción de pulsar un botón rojo para desatar la catástrofe, la supremacía por la inteligencia artificial incorpora actores externos. En la carrera nuclear, una bomba no podía ser integrada al sistema económico convencional. Tampoco podía alterar de forma sustancial los incentivos e impulsos individuales, ni modificar el sistema económico vigente. En cambio, como nuevo elemento de la cotidianidad, la superinteligencia podría trastocar a la especie como nunca antes.
La inteligencia artificial no es cualquier carrera. En ella se disputa la existencia misma. El sistema, llámese capitalista o economía de mercado si se prefiere, empuja a la competencia destructiva y a una carrera perpetua al abismo. El humano es tan preso de la maximización de utilidad como parámetro de éxito que, si existe un modelo de IA con riesgo existencial atado a la promesa de riqueza infinita para su creador, ese modelo será creado. Si nuestra especie no desea el destino del perro domesticado, condenado a la voluntad del dueño, es hora de escuchar las advertencias de Silicon Valley y Washington. Navegar con velas desplegadas y motores a tope promete tesoros ocultos en lo más hondo del precipicio. De seguir la ruta actual, el botón rojo cambiará de manos. Nada garantiza que quede entre humanos.
No hay comentarios.:
Publicar un comentario