CIENCIA

¿Quién le teme a Chat

GPT? Primera parte:
Homo faber
En una serie de tres entregas, que se paran en la frontera entre la
sociología y la filosofía, Hugo de los Campos nos propone reflexionar
sobre Chat GPT, la inteligencia artificial y nosotros mismos

hugo de los campos

E
l 30 de noviembre de 2022, el o el fuego, pero he estado usando
genio salió de la lámpara. este chatbot desde que salió y no me
Así es como muchos investi- cabe la menor duda de que es lo más
gadores, desarrolladores y usuarios impresionante que he visto, por lo
expertos describen el día en que menos desde la aparición de internet”.
Chat GPT se lanzó al público. Esta inter- Yo aventuraría un poco más: desde
faz conversacional, que utiliza inteli- la invención de la máquina a vapor.
gencia artificial (IA) para comunicarse La opinión es bastante generaliza-
en lenguaje natural, fue desarrollada da, aunque también lo son aquellas
por OpenAI, una organización sin que alertan sobre los riesgos de la
fines de lucro con sede en California. expansión de esta tecnología: desde
OpenAI recibió el generoso aporte la pérdida de millones de puestos de
de algo así como 10.000 millones de trabajo hasta el fin de la humanidad.
dólares por parte de Microsoft para No doy crédito a ninguna de estas
lanzar el producto. Su historia re- últimas hipótesis. Es probable que no
ciente se remonta a 2010, cuando De- se pierdan puestos de trabajo, aunque
mis Hassabis, Shane Legg y Mustafa sí cambiarán dramáticamente sus
Suleyman fundaron DeepMind, ins- contenidos, por las razones que el
pirados por el trabajo pionero de Alan antropólogo David Graeber expuso en
Turing, publicado en 1950, sobre la su libro de 2018 Trabajos de mierda.
inteligencia de las máquinas. Geoffrey Una teoría.
Hinton, conocido como el padrino de En cuanto al fin de la humanidad,
la IA, se sumó al equipo. uno de los efectos colaterales de tener
Tras la liberación de Chat GPT, conciencia es que nos percatamos Árbol talado. foto : hugo de los campos
surgieron decenas de grandes mo- de nuestra finitud. Esto ha llevado a
delos de lenguaje (LLM, por su sigla extrapolar nuestra propia condición
en inglés), como Gemini de Google y perecedera a la de toda la especie. Por y la humanidad”. Dos meses más Sapiens
Llama de Meta. La evolución de Chat eso, desde tiempos inmemoriales, los tarde, el Centro de Seguridad de la Otro de los efectos colaterales de tener
GPT, así como la de sus competidores humanos han anunciado el fin de la IA publicó un “Comunicado sobre el conciencia es la tendencia a darnos
y productos complementarios, inclu- humanidad. Hoy día sabemos dos co- riesgo de la IA”, de sólo 22 palabras: nombres a nosotros mismos. Exis-
yendo los especializados en genera- sas: que nunca esas predicciones han “Mitigar el riesgo de extinción [de ten muchos, pero uno destaca por
ción de imágenes (como Midjourney o acertado (de lo que puedes dar fe, ya la humanidad] por la IA debería ser su uso: somos Homo sapiens, una
Stable Diffusion), ha sido vertiginosa. que estás leyendo este artículo) y que una prioridad mundial, junto con especie con capacidad de pensar.
Seguramente estemos siendo tes- la abrumadora evidencia acumulada otros riesgos a escala social como las Es nuestro sobrenombre más popular,
tigos de una de las mayores revolu- a favor de la teoría evolutiva lleva a pandemias y la guerra nuclear”. Entre para beneficio editorial de algunos.
ciones tecnológicas en la historia de concluir que algún día nuestra especie los firmantes de este comunicado se Nadie en su sano juicio dudaría
la humanidad. El periodista Andrés llegará a su fin, con o sin Chat GPT. encontraban Geoffrey Hinton, Demis de que pensar es una característica
Oppenheimer inició una entrevista en De todos modos, esos temores no Hassabis (CEO de DeepMind), Dario importante de nuestra especie (quie-
2023, citando a Lawrence Summers, son el resultado de teorías conspirati- Amodei (CEO de Anthropic), Kevin nes no estén en su sano juicio pueden
quien parece haber afirmado que vas, sino que han sido formulados por Scott (CTO de Microsoft) y el propio opinar lo contrario, claro está). Sin
“esta podría ser la tecnología más los propios creadores de esta tecnolo- Sam Altman (CEO de OpenAI). embargo, no es la única. Los humanos
importante desde la invención de la gía. El 22 de marzo de 2023, algunos Si tanto las expectativas como tenemos muchas características que
imprenta, la electricidad e incluso miles de científicos, informáticos y los temores frente a una cosa son nos definen como especie.
la rueda o el fuego”. Más allá de que pensadores (como Yuval Harari) fir- grandes, lo que seguro podemos con- ¿Por qué, entonces, muchos hu-
no hayamos inventado el fuego ni la maron una carta titulada “Pausar ex- cluir es que se trata de algo grande. manos abrazan con satisfacción el
electricidad (en todo caso los descu- perimentos gigantes de IA: una carta De modo que, sin bombos ni drama- sapiens acuñado por el taxónomo
brimos, y luego aprendimos a produ- abierta”, en la que alertaban de que tismos, comencemos a inspeccionar sueco Carlos Linneo hace más de 250
cirlos y controlarlos), la comparación “los sistemas de IA con inteligencia al genio. Tomemos distancia para años? Que tengamos muchas carac-
me parece acertada. Oppenheimer humana competitiva pueden plantear observarlo. Alejémonos hasta la fron- terísticas no significa que todos las
la matiza: “No sé si desde la rueda riesgos profundos para la sociedad tera entre la sociología y la filosofía. cultivemos con la misma diligencia.
 10-11
MIÉRCOLES 19•JUN•24

Karl Marx y Benjamin con herramientas lo que podríamos

Franklin observando
humanos prehistóricos. hacer con nuestras propias manos,
Imagen generada con sólo que amplificado a niveles in-
Chat GPT 4.0, a partir de
instrucciones de texto de creíbles. Una grúa del puerto, o las
Hugo de los Campos “plumas” que ves en los edificios en
construcción, permiten levantar y
trasladar objetos, como lo hacemos
los humanos sin necesidad de he-
También requiere capacidad de rramientas, pero lo pueden hacer a
inferencia y deducción, para concluir alturas y con pesos imposibles para
sobre los usos genéricos de determina- un solo humano, incluso para muchos
dos materiales y sus combinaciones, trabajando conjuntamente (en este
es decir, para su utilización en cir- punto levantan la mano los adora-
cunstancias que aún no han ocurrido. dores de los antiguos astronautas,
Y otras tantas habilidades mentales. haciendo referencia a las pirámides).
Por tanto, faber presupone a sapiens. Las herramientas llegan incluso a ha-
Lo inverso también es cierto: a medi- cer cosas que ningún grupo de seres
da que construimos herramientas y humanos podría hacer por su cuenta.
las utilizamos para intervenir en la Puedes lanzar una pelota con bastante
naturaleza, acumulamos información velocidad, pero no puedes acelerar
acerca de cómo funciona el mundo y una partícula subatómica a casi la
ampliamos nuestras capacidades de velocidad de la luz, como lo hace el
inferencia y deducción. Esto resulta colisionador de hadrones del CERN
evidente con las herramientas utili- de Ginebra. Lo mismo vale para los
zadas en la investigación científica sentidos. Si tu salud ocular es buena y
(como un microscopio o un telescopio), el clima propicio, puedes ver a varios
pero aplica a toda la tecnología. La kilómetros, pero nunca a varios millo-
intervención tecnológica en el mundo nes de años luz de distancia, como lo
crea nuevos fenómenos que, a su vez, hace el telescopio James Webb.
Típicamente, quienes escriben acerca más. Una piedra afilada con la ayuda requieren ser “conocidos”.
de qué es importante en el ser huma- de otra para trabajar pieles y hacer Charles Sanders Peirce se pregun- Faber 2.0
no (y concuerdan con que su rasgo abrigos, o para matar (volveremos a taba, por ejemplo, a fines del siglo Un salto dramático se produce cuando
más distintivo es pensar) tienen por esta polivalencia con consecuencias pasado: “¿No significa la electrici- comenzamos a fabricar herramientas
oficio pensar y escribir sobre lo que morales antagónicas en una tercera dad más ahora que en los días de cuya función es fabricar otras herra-
piensan. Quienes cultivan el arte de entrega), es una herramienta. Una [Benjamin] Franklin?”. Por supuesto mientas. Aquí la capacidad de abstrac-
hacer quizás opinen de manera dis- de estas piedras talladas, sujeta por que sí. Una vez que conocimos la elec- ción requerida es mucho mayor. Henri
tinta. Lo mismo puede suceder con una tira de cuero a una vara (una tricidad (por sus efectos), comenzamos Bergson (1859-1941) definió la inteli-
quienes prefieren jugar. El ser humano lanza), es una herramienta aún más a experimentar con ella y a fabricar gencia como “la capacidad de crear
es sapiens, pero también es faber. Y elaborada. Prácticamente ninguna herramientas que hacían uso de sus objetos artificiales, en particular he-
es ludens. otra especie tiene esa capacidad (los propiedades, en el mundo. Descubri- rramientas para hacer herramientas,
cuervos de Nueva Caledonia parecen mos nuevos efectos y continuamos y de modificarlos de modo ilimitado”.
Faber ser una excepción). experimentando y actuando con ellos. Para Bergson, entonces, sapiens es
Otra cosa que nos caracteriza es Muchos autores han destacado esa ¡Cuánto más significa la electricidad faber. La revolución industrial cons-
nuestra costumbre de fabricar herra- condición. Benjamin Franklin, por en nuestros días que en la época en que tituyó un hito en este aspecto, pero
mientas. No me refiero a utilizar ob- ejemplo, definió al hombre como “un escribió Peirce! Hemos continuado con los antecedentes pueden rastrearse
jetos accesibles en la naturaleza para animal que fabrica herramientas”. la manipulación de la electricidad, o miles de años atrás.
facilitar alguna tarea. Los delfines Karl Marx retomó esa definición en del electromagnetismo en un sentido Una fresadora es un buen ejem-
de nariz de botella utilizan esponjas el tomo 1 de El capital. más general. El texto de esta entrega plo: se trata de una herramienta
marinas para procurarse alimentos Ser faber requiere capacidad de fue enviado al editor a través de un utilizada para fabricar partes de
(parece que también lo hacen en abstracción. Se trata de combinar y correo electrónico, una herramienta otras herramientas, como los mo-
rituales de cortejo). Varios tipos de transformar elementos de la naturale- basada en nuestros conocimientos tores de combustión. La retroali-
primates se auxilian con ramas o za para uno o más propósitos futuros, acerca del electromagnetismo, algo mentación entre faber y
piedras para fines similares. Pero la que por el momento se encuentran en que jamás podría haber imaginado sapiens se potencia en este
fabricación humana implica un paso nuestra imaginación. Franklin, ni tampoco Peirce. Hacemos nivel que hemos llamado 2.0.
 CIENCIA 12
MIÉRCOLES 19•JUN•24

Faber > Sapiens muy básica de los actuales modelos Recapitulemos: comenzamos con algo que probablemente sucedió antes
Hasta ahora hemos hecho de inteligencia artificial generativa, herramientas que permitían inter- (como los restos que se observan,
referencia a objetos físicos como Chat GPT: herramientas con venir en el mundo material, optimi- de una tala reciente inferida), actúe
como los contenedores en un capacidad de razonar. zando la fuerza física humana. Por de un determinado modo. En una
puerto. ¿Y qué pasa con los objetos ejemplo, un aparejo que reduce a la próxima entrega profundizaremos
intelectuales? Las ideas también El árbol talado mitad el peso de un objeto con cada en cómo lo hace y cuáles son las
pueden mezclarse, combinarse y Hace algunos días subí a Chat GPT vuelta que le damos a una cuerda en consecuencias de esa capacidad.
ordenarse. Así como existen leyes que la siguiente imagen (tomada días un par de poleas. Llamamos polipas- Por el momento, sólo considera la
determinan los modos en que pode- antes con mi celular) y le pedí que to a esta herramienta. Un humano posibilidad de que alguien ensamble
mos operar con objetos físicos (como la describiera. utiliza su fuerza física para operar- una metralleta a un robot y lo que
la gravedad, la aerodinámica y otras), Su respuesta fue: “La fotografía lo (girando una manija conectada sucedería cuando, en lugar de tron-
existen leyes que nos permiten operar muestra un área al aire libre donde se a una de las poleas, por ejemplo), cos y árboles talados, le pida a la IA
con objetos intelectuales. Del mismo han talado varios árboles. En el suelo pero puede levantar pesos que sin integrada a ese robot que cuando vea
modo que aprendimos a valernos de se pueden ver numerosos troncos y la herramienta nunca podría. personas que probablemente formen
“las propiedades mecánicas, físi- ramas cortados, con algunos de ellos Luego introdujimos los motores (a parte de un grupo “enemigo” o que
cas y químicas” del mundo material apilados o dispersos. También hay vapor, de combustión, eléctricos) para probablemente hayan hecho algo
–como mostró Marx en su reflexión una estructura de madera colap- reemplazar la fuerza humana en la ope- “malo”, dispare.
sobre la definición de Franklin– para sada o parcialmente desmontada ración de tales herramientas, aunque
fabricar herramientas físicas, pode- en el fondo. Las hojas verdes aún todavía requirieran operación manual Y al fin de cuentas, ¿Chat GPT es
mos hacerlo con las propiedades de están adheridas a algunas de las (como cuando conduces un coche). de temer?
las ideas para fabricar estas otras. ramas, lo que indica que la tala fue Luego programamos herramien- Dejaremos la respuesta a esta pre-
Hace tiempo que interactuamos reciente. La escena tiene un aspecto tas, dando origen a los robots. Sus gunta para la tercera entrega.
con herramientas que manipulan desordenado, con restos de madera y intervenciones en el mundo pueden Por lo pronto, no pierdes nada con
objetos intelectuales basándose en vegetación esparcidos por el suelo”. ser dirigidas con mandos a distan- probarlo. De hecho, puedes ganar
reglas matemáticas y lógicas. La Es asombrosa la capacidad de esta cia, como con esos joysticks que mucho en conocimiento al hacerlo.
aplicación de un conjunto de reglas tecnología para interpretar un con- deseábamos de niños para dirigir Si aún no lo has usado, o sólo has
para operar con números condujo a junto de píxeles con tal detalle. Pero autos de juguete. O directamente recurrido a él para buscar recetas
la fabricación de calculadoras. Esa lo realmente asombroso es esta parte pueden no requerir intervención de cocina o planificar un viaje, te
herramienta tiene una historia muy de su respuesta: “Las hojas verdes humana, siempre que se trate de recomiendo que lo hagas de verdad.
larga, pero podemos retener la ima- aún están adheridas a algunas de las tareas repetitivas. En esto último, los ¿Quién de nosotros no ha utilizado
gen de aquellas calculadoras Casio ramas, lo que indica que la tala fue robots de la industria automotriz son un destornillador para destapar un
de bolsillo, para ilustrar. Estamos reciente”. Conversamos largamente especialmente buenos. frasco? Está bien, pero prueba esa
familiarizados con ellas, así como con la máquina luego de su respuesta Gracias a los avances en la fabrica- herramienta para atornillar tornillos.
con las que en el liceo llamábamos inicial, acerca de cómo había llegado ción de dispositivos de observación, Es muy buena haciendo eso.
calculadoras científicas. Con su au- a esa conclusión y si para hacerlo como los sensores, y las herramientas Operar con Chat GPT es más senci-
xilio podemos realizar, en segundos, había recurrido a una inferencia in- de machine learning, conseguimos que llo que hacerlo con una amoladora o
operaciones realmente complejas, ductiva o a una deducción. Después esos robots reconocieran cosas que una sierra circular. Y es, en ambientes
que requerirían mucho tiempo a un de varios argumentos, la máquina sucedían en el mundo e intervinieran domésticos, mucho menos riesgoso
humano experto. Sin gastar un peso, concluyó acertadamente que había de manera autónoma. Los coches que para el usuario y los humanos del
podemos acceder a calculadoras mu- hecho una inferencia abductiva. se desplazan sin conductor son un entorno inmediato.
cho más potentes aún: las llamamos En cualquier caso, lo que hizo fue ra- ejemplo al que dedicamos algunas Y si te incomoda comprobar que
hojas de cálculo. zonar. Charles Sanders Peirce definió líneas anteriormente. Desde hace Chat GPT piensa mucho mejor y
Consideremos ahora las leyes de el arte de razonar (vuelvo siempre tiempo podemos enseñar a un robot más rápido que tú, sólo recuerda
la inferencia probabilística y de la sobre las mismas citas) como “averi- que cuando vea determinada cosa, que el automóvil o el ómnibus que
deducción natural. Las que rigen la guar algo que no conocemos, a partir se comporte de un modo particular. abordaste hace poco se traslada de
construcción de taxonomías y las de la de lo que ya conocemos”. Y esto es Con el desarrollo de la inteligencia un modo mucho más eficiente y rá-
causalidad. Podemos tratarlas como exactamente lo que hizo Chat GPT en artificial generativa, ahora podemos pido de lo que puedes hacerlo con
leyes, del mismo modo que la grave- este caso. Y el resultado fue correcto. pedirle a un robot que actúe de de- tus pies. Estas herramientas son el
dad y las reglas para sumar y restar. terminada forma, de acuerdo a lo producto de la creatividad humana,
Avancemos en el desarrollo de Faber > Sapiens > Faber que infiera o deduzca a partir de algo y has aprendido a sacarles provecho
sistemas que emulen el comporta- Conectemos ahora una inteligencia que vea. Sí, los grandes modelos de para llegar más rápido y cómodo a tu
miento de nuestras neuronas (lla- artificial a un robot. Desde hace tiem- lenguaje ya pueden “ver”. Chat GPT trabajo o a una reunión con amigos.
mamos a eso redes neuronales), tal po contamos con robots capaces de puede conectarse a la cámara de tu No estoy sugiriendo que dejes
como hicimos con grúas que emulan fabricar mercancías, incluida, claro celular y observar en tiempo real de caminar, lo cual es una práctica
nuestros brazos. Sigamos avanzando está, la fabricación de nuevos robots. lo que está sucediendo. Podemos muy saludable, sólo que utilices he-
hasta desarrollar los transformers Le debemos a la industria automotriz conversar con Chat GPT y pedirle rramientas para trasladarte cuando
(eso ocurrió en 2017). Aprovechemos japonesa su masiva incorporación que cada vez que vea algo, diga algo. te resulte conveniente. Lo haces a la
las enormes capacidades de cálcu- en los procesos fabriles. Conectado a un robot, podemos hora de comer, por ejemplo, utilizan-
lo y almacenamiento de datos que Un robot es una herramienta que pedirle que al ver algo, haga algo. do cuchillo y tenedor. Puedes hacerlo
se han desarrollado en los últimos opera con objetos físicos y ha sido Además –y esto marca la gran dife- también con esta nueva tecnología. ■
años. Y utilicemos todo lo accesible programada con el auxilio de otra rencia–, que cuando vea algo que
* Las primeras ideas desarrolladas para esta
en internet para entrenar una nueva herramienta que opera con objetos in- probablemente sea un elemento de un entrega fueron elaboradas con el auxilio de la
herramienta. Hagamos que sea posi- telectuales. Algo así como un martillo cierto conjunto (como un tronco que versión 3.5 de Chat GPT, tras su lanzamiento
a finales de 2022. La versión final fue
ble interactuar con ella utilizando len- con una calculadora Casio integrada, formaba parte de un árbol reciente- desarrollada y revisada con Chat GPT 4.0, la
guaje natural. Esta es una descripción aunque mucho más complejo. mente talado) o que sea el efecto de versión actual disponible públicamente.