“…No podemos detener el autobús, pero podemos dirigirlo. En el pasado, he escrito sobre la importancia de implementar la IA de una manera que sea positiva para el mundo y de garantizar que las democracias construyan y utilicen la tecnología antes que las autocracias…Las personas ajenas al sector suelen sorprenderse y alarmarse al descubrir que no comprendemos cómo funcionan nuestras propias creaciones de IA” (Darío Amodei. Fundador de Anthropic)
Jorge Puigbó
Construir máquinas, o entidades, que emulen al cerebro humano, si se consigue, sería más que una innovación, produciría una enorme disrupción con consecuencias no predecibles para la humanidad. Esta afirmación nuestra se reafirma por la velocidad que presenta el desarrollo de la Inteligencia Artificial, así como su uso masivo, ChatGPT de OpenAI llegó a 100 millones de usuarios a los sesenta días de su lanzamiento. Algunos temen que la humanidad cometa nuevamente el error de utilizar una herramienta, creada para su beneficio, como un arma que la ponga en peligro, recordemos la dinamita de Nobel, o la energía nuclear. Ninguna tecnología, o herramienta, en sí misma es mala, sin ellas hubiera sido imposible el desarrollo de la Humanidad. La directora de Historia y Vida, Isabel Margarit, en el editorial de este mes, escribe refiriéndose a Europa: “…La actual estrategia está desplazando las políticas de diplomacia y contención, que han predominado en los últimos decenios, en favor de la seguridad a ultranza. En este contexto, la ciberdefensa, el uso de drones y la Inteligencia Artificial se suman al rearme convencional en un horizonte geopolítico que presagia nubarrones…” Este último párrafo presenta una de las más graves implicaciones de la aplicación de la I.A. con fines bélicos.
Exponer sobre algo implica definir lo mejor posible el objeto, en este caso se trata de una tecnología que pretende crear una eventual inteligencia general la cual pudiera realizar funciones cognitivas como si fuera un ser humano, que razone sin necesidad de que alguien la maneje, que actúe independientemente y elabore sus propias decisiones. Afirman que la I.A. redefine los límites de lo posible en todos los campos, lo extenso, el espacio y su complejidad solo nos permite referir algunos aspectos señalados por connotados expertos:
–La seguridad. Eric Schmidt, exdirector y presidente de Google, asesor de la Casa Blanca, en una conferencia en la universidad de Stanford en septiembre pasado y luego en el marco de TED2025, señaló su preocupación por el riesgo que se corre con una I.A. autónoma que se está desarrollando rápidamente sin que se hayan establecido límites estrictos y métodos de supervisión para poder corregir e impedir las posibles pérdidas de control sobre ella, en esto coincide con el también experto Yoshua Bengio, quien además propone una moratoria inmediata para el desarrollo y aplicación de la IA autónoma, solo que Schmidt concluye que sería muy difícil de implementar por la indetenible competencia internacional para ver quien domina primero esta tecnología de sistemas capaces de planificar, razonar y ejecutar tareas complejas de manera autónoma. Los expertos plantean la posibilidad de que los sistemas de IA desarrollen lenguajes propios que el humano no comprenda y obtengan capacidades no deseadas, de allí la urgencia de impedir que tengan acceso directo a sistemas de armas o que logren replicarse. La competencia entre EEUU y China está determinando la diseminación de los sistemas de I.A. de código abierto, el país asiático lanzó el primer modelo, poniendo en manos del público el manejo de capacidades avanzadas y por tanto, aumentando los riesgos de seguridad cibernética y biológica.
– Energía, agua e infraestructura. Tanto Elon Musk, como Schmidt, o los estudios de universidades como Yale, anticipan aumentos inusuales en el consumo de electricidad, agua y del hardware, creando limitaciones serias para el desarrollo y aplicación de la I.A., la demanda crece 10 veces cada seis meses, en consecuencia, la de energía e insumos. Según un informe de la Agencia Internacional de la Energía (AIE) publicado en abril: “Se espera que la demanda de electricidad de los centros de datos en el mundo se duplique con creces de aquí a 2030 para alcanzar unos 945 teravatios-hora…, es decir, algo menos del 3% del consumo total de electricidad mundial en esa fecha, y algo más que el consumo total actual de electricidad en Japón”. Impresionante.
Por otro lado, Shaolei Ren, de UC Riverside, investigador de los costos del agua en la computación durante la última década asegura que, en 2022 los centros de datos de Google consumieron unos 20 mil millones de litros de agua dulce para refrigeración. El agua es imprescindible para la refrigeración de los servidores y los equipos de los inmensos centros de datos. El centro de datos de Google en The Dalles, Oregón, consumió el 29% del suministro total de agua de la ciudad en 2022…” (Datos de Seven Seas Water Group). Para finalizar, en referencia al hardware Elon Musk expresó que la fuerte escasez de chips avanzados y otros componentes, así como de elementos para la trasmisión de la electricidad hacen temer por el desarrollo de nuevos modelos.
-Dilemas éticos y control social. Existe preocupación en los líderes y científicos debido a la necesidad de preservar la libertad individual y se oponen firmemente a sistemas de vigilancia masiva de la población con fines eminentemente políticos. La cuestión radica, en la práctica, en cómo poder asegurar los límites entre una vigilancia con I.A. incorporada, cuyo objeto sería la seguridad de la sociedad y su uso para fines diferentes. Es una frontera muy tenue la que los separa. Los grandes bancos de datos personales y la identificación por biometría, contribuyen a la exposición de las personas y a posibles violaciones de su derecho a la privacidad. La verificación de identidad es fundamental para prevenir el uso indebido de la IA, para lo cual se proponen sistemas criptográficos como el denominado en inglés “zero knowledge proofs”. o pruebas de conocimiento cero, que permiten la autenticación del usuario y no comprometen su seguridad, uno de los grandes retos de la era digital. “La IA permite una vigilancia total que acaba con cualquier libertad” (Nexus.Yuval Noah Harari).
-La creatividad y el arte. De las facultades esenciales del ser humano, una, es poder realizar las ideas que se le ocurren y preservarlas, escribiéndolas o transformándolas en imágenes o representaciones físicas. Para los escritores, artistas y creadores en general estas noticias son impactantes: “Tim Boucher explica que cada libro puede tomarle entre seis y ocho horas y su objetivo es llegar al menos a 1.000 publicaciones”; “La IA puede generar personajes con características y motivaciones únicas, basándose en los datos de personajes exitosos en obras literarias”; “Herramientas como Neurowriter y WASP pueden aprender a escribir textos en diferentes estilos y géneros, basándose en ejemplos de obras literarias”.; “Rabotar el cincel automatizado de la nueva escultura. Tras un escaneado en 3D de la estatua original, el robot la esculpe en mármol sin ningún tipo de programación o introducción de parámetros. El software OR-OS es capaz de procesar directamente el escaneado en 3D por su cuenta, y crear una réplica exacta”; “En Carrara ahora esculpen los robots. No necesitamos otro Miguel Ángel”; “…primer largometraje mexicano intervenido con inteligencia artificial, La Bola… En la creación de La Bola, esta tecnología le ha permitido optimizar procesos de edición, corrección de color y generación de referencias visuales…”. ¿Sobraremos?
“…No podemos detener el autobús, pero podemos dirigirlo. En el pasado, he escrito sobre la importancia de implementar la IA de una manera que sea positiva para el mundo y de garantizar que las democracias construyan y utilicen la tecnología antes que las autocracias…Las personas ajenas al sector suelen sorprenderse y alarmarse al descubrir que no comprendemos cómo funcionan nuestras propias creaciones de IA” (Darío Amodei. Fundador de Anthropic).
Jorge Puigbó
