Confieso que, hasta hace poco, mi relación con la IA había sido escueta, aunque bordeando en la fascinación. He usado ChatGPT, Gemini, Pilot y Meta AI a nivel principiante, siendo Meta AI muy cómoda para consultas rápidas al estar disponible en el Whatsapp. También he practicado con Dall-E para hacer algunos diseños gráficos futuristas, como el de la portada e ilustraciones de mi primera incursión en la ciencia ficción, “El Diario de Kyro”. Ahora, ojalá en beneficio de mis lectores, aquí va un compendio de información abreviada sobre la IA… en lo bueno, lo malo y lo feo:
1. Nexus, de Yuval N. Harari.
Siendo un gran admirador de Harari, me apresuré a leer “Nexus: una breve historia de las redes de información desde la Edad de Piedra hasta la IA”. Cáspita y zambomba: ¡qué bajón! . Largo (496 páginas), repetitivo y excesivamente sesgado hacia el apocalipsis informático. Me dediqué a buscar algunas reseñas del libro, y descubrí que no estoy tan equivocado: el NYT, el Washington Post, y The Guardian lo destrozan. Este último es especialmente lapidario: “El autor de Sapiens puede ser un soberbio narrador, pero su pontificación apocalíptica acerca de la IA desafía y estira la credulidad”.
Para hacer un ejemplo histórico (lo que más le gusta), Harari relata cómo la invención de la imprenta se tradujo en numerosas publicaciones fake que condujeron a las peores cacerías de brujas en Europa, mucho antes que en diseminar el pensamiento científico. Pero eso es medio obvio, hoy con un computador uno puede escribir desde humildes columnas como esta hasta las maravillosas novelas de Umberto Eco, o novelas porno. La tecnología no es ni buena ni mala sino que todo lo contrario.
Con todo, él hace advertencias razonables: es posible que se elimine mucho empleo, es posible que se faciliten matanzas como la que Facebook provocó (sin querer) en Myanmar, o que se alteren procesos electorales como ocurrió en el Brexit. Es posible que se facilite la emergencia de Estados autoritarios, y también hay alguna posibilidad de que la IA adquiera rumbos autónomos y malignos, como hacer que todos los botones nucleares se activen al mismo tiempo, o que todos los controladores de vuelo se apaguen simultáneamente, dejando en el aire algunos miles de aviones en el mundo.
Por último, Harari hace un par de propuestas interesantes: prohibir por ley que un bot textual, auditivo o visual se haga pasar por alguien sin su autorización, e introducir mecanismos de vigilancia, control y autocorrección del sistema. Pero en suma, mi consejo al lector es que si quiere familiarizarse con Nexus, vea un resumen en Youtube antes que invertir horas de tedio como las que me tuve que tragar.
2. La opinión de 2.778 especialistas.
En la encuesta más grande de su tipo, en este año 2.778 investigadores especialistas en IA hicieron predicciones sobre el ritmo del progreso y los impactos de los sistemas avanzados de IA (Survey of 2,778 AI authors: six parts in pictures.)
Según ellos, si la ciencia continúa sin interrupciones, la probabilidad de que las máquinas superen a los humanos en todas las tareas posibles se estimó en un 10% para 2027 y un 50% para 2047. Esta estimación es 13 años anterior a la alcanzada en una encuesta similar que realizaron sólo un año antes… el ritmo se está obviamente acelerando.
Entre el 38% y el 51% de los encuestados le dieron la razón a la apocalipsis de Harari asignando un 10% de posibilidades de que la IA avanzada conduzca a resultados tan malos como la extinción humana. Más de la mitad sugirió que se justifica una preocupación «sustancial» o «extrema» sobre algunos escenarios relacionados con la IA, incluida la desinformación, el control autoritario y la creciente desigualdad de ingresos (a mi juicio esto es lo más probable e inmediato).
Entre los encuestados hubo desacuerdo sobre si un progreso más rápido o más lento en la IA sería mejor para el futuro de la humanidad. Sin embargo, hubo un amplio acuerdo en que se debería dar más prioridad a la investigación destinada a minimizar los riesgos potenciales de los sistemas de IA.
3. La opinión de 25 académicos,
Esta fue publicada en 2024 en la revista Science (Managing extreme AI risks amid rapid progress): los aumentos en las capacidades y la autonomía de la AI pronto podrían amplificar enormemente su impacto, con riesgos que incluyen daños sociales a gran escala, usos maliciosos y una pérdida irreversible del control humano sobre los sistemas autónomos de IA.
Aunque estos investigadores han advertido sobre los riesgos extremos de la IA, existe una falta de consenso sobre cómo gestionarlos. Declaran que la investigación sobre seguridad de la IA está retrasada, y que las actuales iniciativas de gobernanza carecen de mecanismos e instituciones para prevenir el mal uso y la imprudencia.
Basándose en las lecciones aprendidas de otras tecnologías críticas, estos académicos esbozan un plan integral que combina investigación y desarrollo sobre los efectos de la IA, con mecanismos de gobernanza proactivos y adaptables, para una preparación más acorde frente a lo que se viene.
4. Las Naciones Unidas.
Hay que ayudar a sortear los riesgos y aprovechar los beneficios de la IA, según un informe del Órgano Asesor de Alto Nivel sobre Inteligencia Artificial de la ONU, publicado el 19 de septiembre, 2024. Un día antes del inicio de la emblemática Cumbre del Futuro, instaron a la ONU a “sentar las bases de la primera arquitectura globalmente inclusiva y distribuida para la gobernanza de la IA” en un comunicado de prensa. “Con su desarrollo en manos de unas pocas empresas multinacionales en unos pocos países […] el imperativo de una gobernanza global es irrefutable”, se lee en el comunicado de prensa y en el informe. Por otra parte, en su discurso sobre el Estado de la Unión de 2023, Ursula von der Leyen, Presidenta de la Comisión Europea, se unió al coro de llamados a establecer una institución internacional de IA, específicamente un organismo similar al Panel Intergubernamental sobre el Cambio Climático (IPCC)… lo cual me suena harto raro puesto que este organo asesor ya existe…
En síntesis
Sumando y restando desde estas cuatro fuentes, queda la sensación de que el mundo todavía está completamente perplejo frente a la rápida irrupción de la IA. Sigo convencido de que hay enormes avances en salud y en educación que están a la vuelta de la esquina, así como herramientas que mejorarán la productividad de todos aquellos que desarrollan sus labores en un computador, sean contadores, abogados, funcionarios, gerentes o secretarias. Sigo convencido de que, por lo mismo, habrá muchas personas desempleadas en el corto plazo, especialmente en países como Chile (donde la productividad lleva ya disminuyendo cerca de una década), en donde no podrán recuperar con facilidad su empleo reinventándose hacia otras actividades o profesiones.
Usted, ¿qué opina?
Mario,
Respecto de Harari y en un chat que compartimos dije que leí sus 3 primeros libros, y fueron decayendo des el muy buen libro Sapiens (el mejor por cierto), luego bajó el nivel con con Homo Deus y su tercer libro (como será que ni recuerdo su nombre) lo encontré francamente malo, como dices repetitivo y con un nivel de tecno-pesimismo desatado y con una reflexión en muchas ocasiones bastante liviana, que la relación que establece en muchos caso de causa-efecto no la comparto. Francamente estoy con serias dudas de leer Nexus, creo que hay a estas alturas mejores aproximaciones al tema.
Ahora bien respecto de los desafíos que tiene la IA en diferentes dimensiones, creo que esta recopilación de diversos escritos, fundamentalmente papers y documentos académicos me parecen bastante mejor.
Te recomiendo su lectura:
https://www.alejandrobarros.com/la-ia-y-sus-grandes-desafios-de-gobernanza/
Saludos
Alejandro
Mario: Nexus es un libro latoso SI, pero me abrió conversaciones personales muy buenas. Por ejemplo, ver con mayor claridad la intersubjetividad de las interpretaciones y como eso influye tan fuerte en las relaciones políticas, religiosas, etc. Eso me llevó a pensar «frente a la gran disrupción que estamos enfrentando como humanidad» que no tiene que ver con la tecnología solamente sino con toda la interrelación con el cambio climático, el aumento de la edad de las personas, la baja tasa de natalidad y en general el cambio de paradigma necesario para todo lo anterior.. Muchas gracias por presentar el
tema.
Mario
Muy interesantes los comentarios sobre los libros de Harari, aunque este último no lo he leido y me lo saltaré.
No le entregaría a la ONU una autoridad única sobre el tema. Tema que está en pañales y son muchos los cambios que vendrán.
Entre ellos una simplificación de la vida humana, que ya estamos viendo en algunos lugares
Fui la primera generación de mi liceo que no tuvo que aprender a usar la regla de cálculo porque habían aparecido las calculadoras. Las tablas Larsen también se olvidaron. Muchos opinaron que eso marcaba el inicio del fin de la inteligencia humana. Seguro que los viejos chinos pensaron lo mismo del ábaco. Mientras la I A siga siendo, digamos, artificial, no creo que debamos preocuparnos mucho.