Hace bastante tiempo que sigo un canal de YouTube llamado Emergent Garden, un canal dedicado a los CA, los sistemas emergentes y todos aquellos temas que tuvieron como variante común el famoso libro de Wolfram (A New Kind of Science), los trabajos del Santa Fe Institute y la última cibernética, la que estuvo cada vez más volcada a la complejidad, hasta que “perdió” con ella. Hace ya bastante tiempo que, por la inclinación global por los LLMs, los videos están dedicados a la deriva de integrar modelos de lenguaje en entornos mediados por una interfaz textual, como por ejemplo un juego, un sistema externo o un mundo interactivo -si es que no son las últimas tres lo mismo-; de hecho, esta es la base del proyecto Mindcraft, un sistema creado por la comunidad de Emergent Garden que permite llevar IAs generativas a Minecraft, combinando los típicos LLMs con Mineflayer (una librería para crear bots de Minecraft con una API en Javascript), para crear así agentes autónomos, o más bien semiautónomos por ahora, capaces de relacionarse e interactuar con el entorno del juego. Los videos son súper entretenidos, abren la puerta a explorar un montón de cosas y además dejan ver, de forma muy clara, cuáles son los límites de los LLMs cuando intentan relacionarse con un entorno —especialmente bajo ese intermediario—.
Es un poco la línea de experimentos que han seguido muchos en la adaptación de los LLMs a la cuestión de áquellos mundos que no responden únicamente bajo valores de texto, sino también física, objetos, tiempo, riesgo, etc. Estamos en la época de la IA que hace presente esa típica frase de Bachelard: “El lenguaje ha ganado su riqueza y su precisión más por la mano que por el cerebro”, es la indisociabilidad de acción y pensamiento la base de la producción de conocimiento. Esto, ha producido dos derivas, una más bien idealista, donde se habla, por ejemplo, de embodied agents o de IAs sin cuerpo como hace ver este video de Coding with Lewis al decir I gave Claude a Body, y una más materialista, donde el cuerpo de esas IAs no escapan por medio de APIs o simples queries, sino que son resultado de un trabajo in situ, de una cadena de producción que va más allá del hardware y usuario final que sólo es invisibilizada por la concatenación de interfaces. La típica crítica, como leí alguna vez en el primer volumen de Interface Critique: “Somos seducidos por la interfaz para ignorar el trabajo detrás de ella, y la operacionalización y mediación que la hace posible”. Así, a ver si se enteran de los cientos y miles de dólares que llegan a gastar en darle un cuerpo a ChatGPT o a Claude, fuera de los patrocinios fancy que les pueden dar. Bueno, siguiendo la línea de lo escrito al comienzo, es justo eso lo que está pasando en cuanto a los jardines emergentes en todas partes, a los que desean experimentar con esos ejercicios donde convergen IAs generativas, sociedades artificiales y alternativas socioeconómicas.
El mismo autor de Emergent Garden lo menciona continuamente, y no sólo él. Hace unos años, un equipo de Stanford en colaboración con Google, realizaron un proyecto de investigación sobre agentes generativos donde intentan simular un tejido social humano creíble dentro de un entorno interactivo. Algo símilar a lo que intentaron Axtell y Epstein en Growing Artificial Societies con su modelo Sugarscape, pero donde los agentes por arquitectura guardan y recuperan recuerdos relevantes, generan reflexiones de alto nivel y convierten eso en planes de acción. Todo esto en un pequeño mundo tipo Sims llamado Smallville. Es un proyecto interesante, una reexaminación del futuro de los modelos basados en agentes. No obstante, sigue reproduciendo los problemas que venimos señalando: continúa siendo una administración lingüística de la conducta que al modo de Bachelard, deja al cerebro encerrado en sí mismo. Y además permanece inscrita en una cadena de mediaciones costosa y heterogénea que, precisamente por serlo, no hace sino restarle poder y margen al que busca encontrar una técnica que le permita construir. Como mencionan en el proyecto de Smallville, simular solo 25 agentes por dos días costó miles de dolares en tokens de ChatGPT 3.5 Turbo. Hoy más que nunca le corresponde al teórico crítico acercar las técnicas y romper las interfaces, destruirlas en vistas de construir nuevas con propósito. Esta entrada del blog, que he dejado botado por un tiempo, me va a servir para ello, para explorar la posibilidad de construir micromundos —siguiendo a Papert— manipulables, con capacidad de relación directa con su entorno y sin la jerarquía del capital que han impuesto y seguirán estableciendo las inteligencias artificiales. Un hilo, en el que iré narrando la construcción de jardines emergentes desde estas condiciones.