Alessandro Baricco dice que internet y las tecnologías de la información cambiaron la humanidad casi como lo hizo la aparición de la primera máquina hiladora en la Revolución Industrial. Asistimos, en ese sentido, a un cambio de paradigma, a una nueva forma de relacionamiento que modifica todas las instituciones: el trabajo, el amor, la política. No sé bien si el amor es una institución. Lo es si entendemos institución como regla de juego. En los últimos 40 años, cosas como Google, Facebook, Instagram, Uber, Rappi, Tinder, FaceTime y demás aplicaciones transformaron el mundo.
Pero eso era solo el comienzo de una aceleración desbordada de las transformaciones. El punto más alto de esta vorágine parece ser la inteligencia artificial. Hace poco, Jacob Coxon, jefe de medidas de seguridad de Anthropic, renunció porque el nivel de autonomía al que estaban llegando los desarrollos de IA podría acabar con la humanidad antes de que termine la década. Su denuncia no se refería solamente a las capacidades de esta tecnología, sino a la carrera en la que están enfrascadas las empresas por desarrollar sistemas cada vez más poderosos, incluso cuando no saben con certeza cómo mantenerlos bajo control.
Vamos a toda velocidad a un mundo que no conocemos. Nos embriagamos con las bondades de la IA para resolver ecuaciones matemáticas, analizar grandes cantidades de datos o escribir el informe que tenemos que entregar al final del día. Pero debajo de todo esto hay cuestiones que no hemos resuelto y que puede que no sepamos cómo resolver. El cambio es tan grande que muchos evocan a Prometeo. Aunque no sabemos muy bien si ese fuego va a terminar por quemar a toda la humanidad.
Ante esta situación de profunda incertidumbre y de relacionamientos novedosos, cabe preguntarse si debemos construir límites al uso de la IA. Coxon señala ya uno que tiene que ver con el nivel de competencia entre empresas que quieren controlar un mercado apenas naciente. Pero hay muchos más. En cuestión de un mes, la editorial Almadía señaló y luego se disculpó con el escritor peruano David Silva Rojas por, en principio, aceptar las sospechas de que la novela «Donde el agua trabaja» había sido escrita por IA, luego de que Pangram, el chequeador de uso de IA, hubiera señalado al escritor como un fraude.
La infalibilidad de esos chequeadores está bastante en entredicho. Pero, más allá de su efectividad como herramienta, la pregunta moral que se desprende es si la escritura de ficción debe mantenerse como oficio propio de la inteligencia humana. ¿Hay acaso otra inteligencia? Michael Sandel, uno de los filósofos morales más importantes de nuestro tiempo, advierte sobre la necesidad de poner límites al mercado. El creciente uso de la IA nos pone ante la necesidad de responder estas preguntas sobre los contornos éticos de ChatGPT, Claude y compañía. Y ahí estamos a oscuras. Necesitamos que la imaginación moral nos ilumine. Inventarnos los contornos de un desarrollo tecnológico que, otra vez, cambió la humanidad.
Otros escritos de este autor: https://noapto.co/juan-pablo-trujillo/
