Andrea Colamedici inventó a un filósofo, lo presentó como un autor y produjo un libro, generado secretamente con ayuda de inteligencia artificial, acerca de manipular la realidad en la era digital.
Gente fue engañada. Volaron acusaciones de falta de ética. No obstante, Colamedici insiste en que no fue un fraude; en vez de ello, lo describió como un “experimento filosófico”, al explicar que ayuda a mostrar cómo es que la IA “inevitablemente destruirá nuestra capacidad de pensar”.
Colamedici es un editor italiano quien —junto con dos herramientas de IA— generó “Hipnocracia: Trump, Musk y la Nueva Arquitectura de la Realidad”, aparentemente escrito por Jianwei Xun, el filósofo inexistente. En diciembre, Colamedici imprimió 70 ejemplares de una edición italiana que él supuestamente tradujo. Recibió cobertura de medios en Alemania, España, Italia y Francia, y fue citado por luminarias de la tecnología.
“Hipnocracia” describe cómo los poderosos usan la tecnología para moldear la percepción con “narrativas hipnóticas”, poniendo al público en una especie de trance colectivo que podría ser exacerbado al depender de la IA.
El libro también resultó ser una demostración de su tesis, al ser probada en lectores que no estaban al tanto. Colamedici dijo que el objetivo era mostrar los peligros de la “apatía cognitiva” que podría desarrollarse si pensar fuera delegado a las máquinas.
Colamedici imparte clases de cómo hacer preguntas inteligentes a la IA y darle instrucciones factibles, en el Instituto Europeo de Diseño en Roma.
Intenta enseñar cómo distinguir entre hechos y mentiras y cómo interactuar productivamente con las herramientas. El libro es una extensión de esto, apuntó. Las herramientas de IA que utilizó le ayudaron a pulir ideas, mientras que pistas sobre el autor falso le sugerían problemas para motivar a los lectores a hacer preguntas.
El libro habla de autoría falsa y contiene referencias poco conocidas de la cultura italiana que es improbable que provengan de un joven filósofo de Hong Kong. Sabina Minardi, editora en la revista italiana L’Espresso, puso al descubierto la falsedad de Jianwei Xun en abril. Colamedici entonces actualizó la página de la biografía del autor falso. Las nuevas ediciones contienen epílogos sobre la verdad.
No obstante, algunos que primero acogieron el libro ahora lo rechazan. El rotativo francés Le Figaro escribió sobre “L’affaire Jianwei Xun”, al explicar que el “problema” con la entrevista anterior que le hizo era que “no existe”. El periódico español El País retractó una reseña sobre el libro y lo reemplazó con un artículo que indicaba “el libro no reconoce la participación de IA en la creación del texto, una violación a la nueva Ley de IA europea”.
El artículo 50 de dicha ley señala que si alguien utiliza un sistema de IA para generar texto con propósitos de “informar al público sobre asuntos de interés público”, entonces debe ser revelado, dijo Noah Feldman, profesor de Derecho en la Universidad de Harvard quien asesora a compañías tecnológicas.
“La ley entra en vigor hasta agosto del 2026, pero es común en la Unión Europea que personas e instituciones quieran seguir leyes que parecen moralmente buenas incluso cuando técnicamente no aplican”, dijo.
Jonathan Zittrain, un profesor de derecho e informática en Harvard, dijo sentirse inclinado a llamar al libro de Colamedici “una obra de arte de performance”.
© 2024 The New York Times Company
