El Proyecto Panamá: El lado oculto de la IA

Que el libro papel termine, que la IA monopilce todo el conocimiento y que se pueda reescribir la historia a gusto y paladar de un mundo tecnofeudal son los grandes fantasmas que rondan el Proyecto Panamá.

Los hermanos Dario y Daniela Amodei se ocupan, con denuedo cuidadoso, de la construcción de una imagen pública positiva; como individuos y empresarios que, desde la conducción de Anthropic —una de las corporaciones que lideran el ámbito de la inteligencia artificial—, bregan por lograr una IA ética, segura y confiable. En noviembre de 2022, ChatGPT, de OpenAI, se convertía en un fenómeno global al llegar a los 100 millones de usuarios tan solo dos meses después de su lanzamiento. Dario y Daniela Amodei, que lideraban la investigación en nuevas herramientas tecnológicas y las políticas de seguridad de la empresa, comenzaron a mostrar su preocupación por la rapidez con la que OpenAI monetizaba sus modelos. Estaban convencidos de que el énfasis en el negocio comprometía la seguridad y la alineación ética de la IA.

En 2020 ambos renunciaron a OpenAI entre rumores de que la ruptura no había sido amistosa. Este quiebre con Sam Altman, propietario de OpenAI, sus enfrentamientos con la administración Trump —que, infringiendo las reglas de uso de Claude, utilizó esta herramienta de inteligencia artificial para planear y ejecutar el secuestro del presidente venezolano Nicolás Maduro—, así como su oposición al uso de la IA para el espionaje masivo de los ciudadanos estadounidenses, situó a los Amodei como los “chicos buenos” entre los magnates tecnológicos, marcando distancia de la deriva hacia un capitalismo sin reglas que se impuso como leitmotiv intelectual entre los CEO de Silicon Valley. Hoy en día, Anthropic está valorada en 183.000 millones de dólares y duplicará ese capital tras un acuerdo con gigantes como Nvidia y Microsoft.

Esta imagen de “empresarios buenos” se erosionó un tanto por la publicación en la prensa de documentos de un largo litigio entre la firma de los Amodei y varios colectivos de editores y autores que acudieron a la justicia para denunciar el uso de millones de libros —ficción, ensayos, obras científicas y un largo etcétera— para el entrenamiento del producto estrella de Anthropic, la herramienta de IA Claude.

Recordemos que, para entrenar estos modelos avanzados de lenguaje, en inglés Large Language Model (LLM), se los “alimenta” con toda la información disponible.

En el caso de Claude, se comenzó con lo que había en la red —Wikipedia, blogs, foros—, y cuando esto comenzó a agotarse, se los entrenó con notas de periódicos y hasta con subtítulos de los videos de YouTube. Luego, los desarrolladores de Claude acudieron a sitios web de internet que tenían en sus catálogos copias digitales piratas de miles de obras de los más variados temas. También se optó por la compra de libros físicos de segunda mano, usados y descatalogados. En documentos internos de la empresa se dice expresamente que se procedió de este modo para eludir los derechos de editoriales y de autores.

El medio que difundió los pormenores del juicio fue The Washington Post y, en vista de la cercanía del propietario de ese diario, Jeff Bezos, con Donald Trump, no faltó quien dedujera que la revelación periodística era un disparo direccionado desde la Casa Blanca contra la rebelde Anthropic. Sea como fuere, la vulneración de los derechos de autores y editores forzó a la firma tecnológica a llegar a un acuerdo con sus demandantes: en septiembre de 2025, Anthropic acordó pagar 1.500 millones de dólares para resolver la demanda colectiva presentada por autores que alegaban que la compañía había utilizado sus obras sin permiso para entrenar sus herramientas de IA.

En el mismo proceso judicial, el juez del Distrito Norte de California, William Alsup, dictaminó que la compra y el escaneo de libros físicos, a diferencia del uso de copias pirateadas en la web, era legal. Para el magistrado, comprar el libro, digitalizarlo y usarlo para entrenar una IA es legítimo, muy distinto de haberlo obtenido de una fuente pirata.

The Washington Post publicó documentos internos de la corporación tecnológica, obrantes en el proceso judicial, en los que se mencionaba la existencia de un plan, el “Panamá Project”, para digitalizar todas las obras escritas por la humanidad. “El Proyecto Panamá es nuestro esfuerzo para escanear de forma destructiva todos los libros del mundo”, indicaba el texto filtrado, que más adelante especificaba: “No queremos que se sepa que estamos trabajando en esto”. El procedimiento “destructivo” comienza con el corte del lomo para que las hojas queden sueltas; las páginas ya separadas se introducen en escáneres industriales de alta velocidad que las escanean al ritmo de 1.000 páginas por segundo. Una vez digitalizadas las páginas, el libro ya no puede armarse de nuevo y sus restos suelen enviarse a reciclaje.

Maximiliano Firtman, periodista y catedrático argentino, autor de libros sobre programación e inteligencia artificial, fue uno de los autores que demandó a Anthropic en esa demanda colectiva. A su criterio, uno de los riesgos es llegar a un punto en que la información y su reproducción dejen de estar en manos humanas: “Lo siguiente que hay son los datos sintéticos, los textos escritos por la propia IA. El mayor riesgo de acá a unas décadas es que, cuando todo se lo preguntemos a una IA, sin ir a las fuentes, esa IA se empiece a degradar porque se está entrenando con la misma información que generó la propia IA”, señaló en una nota de la BBC.

Escéptico ante quienes temen un apocalipsis de los libros como en la distopía de Bradbury, el crítico literario y catedrático de Literatura Comparada de la Universidad de Vigo, Jesús G. Maestro, señala la irrealidad de una supuesta siniestra gesta que implica destruir todos los libros físicos del mundo. Los libros, dice Maestro, contienen el saber y la creatividad humana en varios formatos, impreso en papel o digital, entre ellos formatos que no son excluyentes sino complementarios. El académico concluye calificando como enemigos de la inteligencia, la libertad y la cultura, destinados a darse de bruces contra la realidad, tanto a aquellos que puedan elucubrar proyectos totalitarios globales para crear un nuevo mundo como a los que, presos de paranoia neurótica, avizoran el fin de los libros.

En la vereda opuesta se posiciona el analista económico y divulgador tecnológico catalán Marc Vidal, para quien sí estamos en un momento histórico en el que las corporaciones económicas y tecnológicas pueden apoderarse de todos los datos, la información y el conocimiento. En su visión, al destruirse el soporte físico de un libro luego de ser escaneado, se elimina la fuente y, por tanto, quien sea propietario de la versión digitalizada tendrá una versión que, al ser la única existente, pasará a ser considerada como verdadera. Para enfatizar su razonamiento, Vidal cita a Julian Assange, quien dijo: “Si todo se digitaliza y se elimina el papel, alguien podría borrar parte de lo digitalizado y crear una nueva verdad, inventarse la historia o remarcar lo que interese a quienes dirigen este mundo”.