Cuando El Creado Supera Al Creador - Artículo de Divulgación Científica Sobre La Singularidad Tecnológica
Cuando El Creado Supera Al Creador - Artículo de Divulgación Científica Sobre La Singularidad Tecnológica
Cuando El Creado Supera Al Creador - Artículo de Divulgación Científica Sobre La Singularidad Tecnológica
H2001.2
Expresión Verbal en el Ámbito Profesional
Jesús Daniel González M.
7 de diciembre de 2009
Resumen
Este artı́culo expone el concepto conocido como Singularidad Tecnológica —la creación de una in-
teligencia superior a la humana— y argumentos en favor y en contra de la idea de que sucederá en
el siglo XXI.
La Singularidad Tecnológica Ciencia cognitiva 2
Los grandes avances tecnológicos y cientı́ficos de este siglo y el pasado, han dado paso
a que cientı́ficos como Raymond Kurzweil y Vernor Vinge piensen que estamos sólo a
unas décadas de desarrollar u obtener una Inteligencia Artificial superior a la humana, en
un evento conocido como la Singularidad Tecnológica. En este artı́culo de divulgación se
busca mostrar las razones por las cuales este suceso muy probablemente ocurrirá en el siglo
XXI. Para eso se analizan argumentos y evidencias que apoyan esta tesis, y se contraponen
con los argumentos de cientı́ficos que no son tan entusiastas por la idea, como David
Gelernter, Rodney Brooks, Eric Kandel, Gerald Edelman, Christof Koch, Giulio Tononi y
John Horgan.
Es el año 2035. Las computadoras se encuentran por doquier, mientras nuestras vidas dependen
totalmente de ellas. Sus capacidades han mejorado y aumentado exponencialmente; cada dı́a los
avances en las neurociencias perfeccionan los procesos que hacen que nuestras máquinas demues-
tren inteligencia y mejoren nuestra vida. Por sı́ solas mantienen la manufactura, la exportación e
importación de productos, la gran mayorı́a de estudios, tratamientos y diagnósticos médicos, el
transporte aéreo, terrestre y marino, y la organización y comprensión de la información.
Hace unos minutos, la centésima repetición del proceso concluyó, y su propuesta de inteligencia
superior comenzará a funcionar en cualquier momento. Ignoramos qué pasará con esos seres
que indirectamente hemos creado. ¿Qué implica la existencia de tales inteligencias en la Tierra?
¿Qué lugar nos dejan en este mundo? ¿La Era Humana ha terminado? ¿Qué pasará con la realidad
que conocemos? ¿Se llegará a algún lı́mite de inteligencia posible, o simplemente dentro de unos
momentos existirán inteligencias casi infinitas? Y, lo más importante, ¿este planteamiento tiene
posibilidad de suceder en este siglo? Seamos bienvenidos a la Singularidad Tecnológica.
En este artı́culo exploraremos los argumentos de los ya mencionados Ray Kurzweil y Vernor
Vinge, quienes se postulan en favor de que la Singularidad tendrá lugar pronto; los cientı́ficos
computacionales David Gelernter y Rodney Brooks, de los neurocientı́ficos Christof Koch y Giulio
Tononi, y del periodista cientı́fico John Horgan, que, en general, se oponen a esta visión del
futuro. Además, se presentan los resultados de trabajos realizados por el Computer Science and
Artificial Intelligence Laboratory (CSAIL) del Massachussetts Institute of Technology (MIT),
por The Neurosciences Institute en La Jolla, California, por el Blue Brain Project de la École
Polytechnique Féderalé de Lausanne en Suiza, y en las Janelia Farms del Howard Hughes Medical
Institute, que sirven para demostrar los logros actuales que pudieran estarnos acercando a la
La Singularidad Tecnológica Ciencia cognitiva 4
Singularidad.
La Singularidad sucederá cuando obtengamos una inteligencia que nos supere. Según Vinge
(1993, 2008), eso puede ocurrir de diferentes formas: con I.A. en computadoras, con lo que
él llama Amplificación de Inteligencia (A.I.), con avances biotecnológicos y/o con alguna de
nuestras enormes redes computacionales despertando. La Inteligencia Artificial consiste en el
desarrollo de programas en computadoras que cumplan con lo que consideramos inteligente,
como la descripción de arriba (Kurzweil, 1990). Elaine Rich la define como “El estudio de cómo
hacer que las computadoras hagan cosas en las que por el momento las personas son mejores”
(Kurzweil, 1990). La Amplificación de Inteligencia se refiere a una comunión entre nuestros
cerebros y nuestra tecnologı́a (Vinge, 1993, 2008). Actualmente vemos ejemplos de A.I. cuando
por ejemplo usamos calculadoras o computadoras para ayudarnos a resolver problemas, mas en
un futuro se espera que las interfaces cerebro-computadora hagan difusa la diferencia entre estas
entidades, lo que resulta en una inteligencia mejorada (Brooks, 2008; Vinge, 1993, 2008). Un
enfoque que lograrı́a lo mismo serı́a el uso de la biotecnologı́a para mejorar la biologı́a de nuestros
cerebros (Vinge, 2008, 1993). Por último, Vinge (2008) habla de que otra posibilidad serı́a que
una enorme red, como el Internet o una hipotética red de chips instalados en los objetos del
mundo, “despertara” con o sin nosotros.
Por cuestiones de espacio, en este artı́culo sólo nos enfocaremos a la posibilidad de llegar
a la Singularidad por medio de Inteligencia Artificial. Vinge (1993, 2008) expone dos maneras
diferentes en que se puede lograr, la superinteligencia débil y la superinteligencia fuerte. La versión
La Singularidad Tecnológica Ciencia cognitiva 5
“débil” se basa en simular —de forma precisa en primer lugar, y de forma más veloz en segundo—
un cerebro humano (Vinge, 1993, 2008), tomando en cuenta que dentro de los 100 mil millones
de neuronas y las posibles 100 mil conexiones que cada una puede tener con otras (Guyton y Hall,
2006; Horgan, 2008), existen diferencias estructurales y funcionales. Una simulacı́ón ası́ toma en
cuenta desde los detalles moleculares, como las sustancias que se utilizan para pasar señales entre
neuronas y sus respectivos receptores, hasta las conexiones a nivel macroscópico, pasando por la
capacidad de generar y deshacer conexiones, además de la organización presente en cada capa,
de tal forma que se comporte como el órgano real. Si se establecen formas de comunicación con
esa simulación y cada vez se utilizan computadoras más poderosas, tendremos una inteligencia
que nos superará porque puede realizar lo mismo que nosotros, pero más rápido.
Existen varios ejemplos de proyectos que en principio apuntan a una superinteligencia débil.
David Adler y su equipo, en las Janelia Farms del Howard Hughes Medical Institute, usan micros-
copios electrónicos para escanear rebanadas de de 50 nanómetros de espesor (un nanómetro es la
millonésima parte de un milı́metro) de cerebro de mosca de la fruta en alta definición con el fin de
reconstruir digitalmente las conexiones neuronales (Adee, 2008). Existen tres problemas funda-
mentales a los que se enfrentan Adler y su equipo: en primer término, la dificultad de manejar las
muestras dada su naturaleza biológica; en segundo término, la falta de poder de procesamiento
para lograr analizar y reconstruir los cortes; y por último, la carencia de grandes capacidades de
almacenamiento digital (Adee, 2008). Con respecto a esto, Adler estima que por cada dı́a de
escaneo, su equipo podrı́a juntar 1 Petabyte — aproximadamente un millón de Gigabytes (Adee,
2008).
Como dijimos, conocer únicamente las conexiones interneuronales no es suficiente para una
simulación porque falta tomar en cuenta la capacidad de remodelación de estas y la funcio-
nalidad individual de cada célula. Izhikevich y Edelman (2008), en The Neurosciences Instute,
desarrollaron un modelo de cerebro de mamı́fero basado en tres diferentes niveles de organización:
Conexiones macroscópicas (materia blanca) visibles a través de Resonancia Magnética, distribu-
ción de neuronas en columnas con diferentes capas, y 22 diferentes tipos de neuronas con sus
diferencias estructurales y funcionales. El modelo contó con un millón de neuronas con 500 millo-
nes de conexiones, o sinapsis, con caracterı́sticas de plasticidad similares a las reales. Para hacer
la simulación, se usó una supercomputadora con 60 procesadores de 3GHz (una computadora
La Singularidad Tecnológica Ciencia cognitiva 6
común actual tiene uno o dos de máximo 2.4GHz), y aún ası́ se requerı́a un minuto de procesa-
miento para calcular un segundo de simulación. Resulta interesante que aunque se removieran los
estı́mulos sensoriales, el cerebro simulado mantenı́a su actividad, y más interesante aún es que
esa actividad presentaba los patrones de frecuencias que un cerebro real tiene (ondas alfa, beta,
gamma, delta), y que estos patrones también se localizaban en diferentes áreas según la función.
(Izhikevich y Edelman, 2008)
Otro proyecto relevante enfocado en la simulación es el Blue Brain Project de la École Poly-
technique Fédérale de Lausanne, donde buscan simular mucho más detalladamente una columna
neocortical, que consiste en un grupo de unas diez mil neuronas que puede considerarse la uni-
dad básica de procesamiento de la corteza cerebral, el área donde se llevan a cabo las funciones
cognitivas superiores (École Polytechnique Fédérale de Lausanne, 2009; TED, 2009; Guyton y
Hall, 2006). Para ello utilizan una computadora de IBM llamada Blue Gene, que cuenta con
8192 procesadores trabajando en conjunto, lo que permite simular la actividad neuronal casi en
tiempo real (École Polytechnique Fédérale de Lausanne, 2009). Con la simulación actual han
podido observar actividad parecida a la real, y han visto cómo colocando diferentes estı́mulos
(por ejemplo, una imagen), la información se organiza espacialmente con diferentes niveles de
actividad eléctrica (TED, 2009).
Si bien este tipo de proyectos buscan generar modelos que representen la realidad biológica,
también han dado claves sobre cómo funcionan procesando la información. Kurzweil dice que
su equipo aplicó descubrimientos del funcionamiento de la corteza auditiva en sus sistemas de
reconocimiento de voz, y aunque parecı́a improbable, mejoraron su desempeño (MIT World, 2006;
Wolens, 2006c). Esto nos lleva al otro tipo de superinteligencia que habı́amos mencionado, la
fuerte, donde se comprenden los mecanismos de procesamiento de información, y por lo tanto se
puede saber dónde mejorarlos (Vinge, 1993, 2008). Ası́, la simulación que se realice no será de
una copia exacta de la realidad, sino tendrá los ajustes necesarios para hacerla superior. También,
puede descartarse la simulación biológica y solamente construir un programa de computadora
que ejecute esos procesos mejorados. Además, un aumento en la velocidad de los procesadores
aumentarı́a su superioridad al permitirle pensar más rápido. (Vinge, 1993, 2008)
La Singularidad Tecnológica Ciencia cognitiva 7
En los ejemplos descritos arriba, vemos cómo se ven limitados por el estado actual de las
capacidades de las computadoras. Horgan (2008) dice que los cálculos de cuándo el crecimiento
exponencial del poder de los procesadores será suficiente para equiparar la capacidad de procesa-
miento del cerebro son erróneos pues no toman en cuenta que el cerebro es más que el número
de neuronas y conexiones. El cientı́fico computacional David Gelernter piensa que necesitarı́amos
poder ejecutar millones de procesos en paralelo —imposible actualmente— para lograrlo (MIT
World, 2006). Como sea, Vinge y Kurzweil tienen tanta confianza en que la Singularidad suce-
derá pronto por el evidente crecimiento exponencial de las tecnologı́as de la información desde
los años 60 (Vinge, 1993, 2008; MIT World, 2006; Wolens, 2006a, 2006b). Kurzweil señala que
tendemos a pensar en crecimiento linear, cuando muchos adelantos tecnológicos lo hacen expo-
nencialmente (Wolens, 2006a). En 1965 el fı́sico quı́mico, co-fundador de Intel, Gordon Moore,
planteó lo que luego se conocerı́a como la Ley de Moore: cada dos años el número de componentes
que se puede colocar en un chip sin costo extra (aumentando la capacidad de procesamiento), es
el doble (Mollick, 2006). Esta tendencia se mantiene tanto por el avance en las técnicas clásicas
de fabricación de chips, como por la propuesta de nuevas, por lo que no hay por qué dudar que
dentro de unos años tendremos el suficiente poder para realizar las simulaciones (MIT World,
2006; Wolens, 2006b). Además, existen propuestas como las de un grupo del Computer Science
La Singularidad Tecnológica Ciencia cognitiva 8
and Artificial Intelligence Laboratory del Massachusetts Instute of Technology para sistemas que
manejen efectivamente millones de procesadores trabajando en conjunto, por lo que el paralelismo
masivo será posible (Modzelewski y cols., 2009).
Eric Kandel es un renombrado neurocientı́fico que ganó un Premio Nobel por describir procesos
bioquı́micos que permiten la formación de memorias en caracoles de mar; él dice que actualmente
nadie conoce realmente cómo puede surgir consciencia en nuestro cerebro y que por el momento
sólo se pueden obtener “opiniones informadas e inteligentes” (Horgan, 2008). Esto se complemen-
ta con lo que el ya mencionado Gerald Edelman, director de The Neurosciences Institute y también
ganador de un Premio Nobel, dice: que las ideas de la Singularidad subestiman la complejidad
del cerebro, pues además de que cada uno es único, siempre está en constante cambio (Horgan,
2008). Además, Koch y Tononi (2008) señalan que a pesar de que conocemos completamente
las redes neuronales del gusano C. elegans, no sabemos cómo funcionan. Horgan (2008) hace
notar que los cientı́ficos que apoyan la propuesta de la Singularidad en general están relacionados
con la computación, por lo que se ven cegados por la velocidad de los avances en su campo y
piensan que se puede extrapolar a otros como la biologı́a o neurociencias. Sin embargo, Kurzweil
indica que el crecimiento exponencial también está presente en las ciencias biológicas, como en el
Proyecto del Genoma Humano donde habı́an mapeado sólo el 1 % de la información en la mitad
del tiempo en que lo completaron todo, o en la Resonancia Magnética, donde cada año se dobla
la resolución disponible, ya casi permitiendo la visualización de cada conexión neuronal (Wolens,
2006a, 2006b, 2006c; MIT World, 2006).
Brooks (2008) menciona que las analogı́as que tenemos para el cerebro han cambiado con el
tiempo pues nunca han sido acertadas: En los tiempos de René Descartes se pensaba que era
una máquina basada en lı́quidos fluyendo; Descartes no lo quiso creer y por eso estableció la
dualidad mente-cuerpo. A mediados del siglo pasado se veı́a como una red telefónica, luego como
una computadora, recientemente con una computadora masivamente paralela, y algunos ahora lo
ven similar al Internet. David Gelernter, al igual que el filósofo John Searle con su argumento del
Cuarto Chino, expone que no puede surgir una inteligencia o consciencia del simple hecho de seguir
algoritmos, por complejos que sean (MIT World, 2006; Stanford Encyclopedia of Philosophy,
2009). El argumento de Searle consiste en un experimento imaginario donde una persona aislada
en un cuarto, con un enorme libro de instrucciones, recibe preguntas en chino, y siguiendo las
La Singularidad Tecnológica Ciencia cognitiva 9
reglas planteadas en el libro, responde en el mismo idioma, sin conocerlo (Stanford Encyclopedia
of Philosophy, 2009). Searle dice que la persona del cuarto nunca entendió el idioma porque no
se estaba comportando como un cerebro (Stanford Encyclopedia of Philosophy, 2009). A este
tipo de argumentos, Kurzweil responde que queramos o no, cada neurona en nuestro cerebro es
una máquina que funciona bajo las mismas leyes que todo el Universo, y como tal, puede ser
descrita matemáticamente (Kurzweil, 1990; MIT World, 2006). Y contra el argumento de Searle,
no hay una neurona que sea la que posea toda la consciencia del individuo, pues la consciencia es
“una propiedad emergente de un sistema complejo” que asumimos existe; en el Cuarto Chino la
persona no serı́a la que entiende el chino, sino la entidad abstracta resultante de estar siguiendo
las complicadas reglas (MIT World, 2006).
Referencias
Adee, S. (2008, Junio). Reverse engineering the brain. IEEE Spectrum, 45 (6), 51-53.
Brooks, R. (2008, Junio). I, Rodney Brooks, am a Robot. IEEE Spectrum, 45 (6), 71-75.
Guyton, A. C., y Hall, J. E. (2006). Textbook of medical physiology (11 ed.). Philadelphia:
Elsevier.
Horgan, J. (2008, Junio). The consciousness conundrum. IEEE Spectrum, 45 (6), 36-41.
Izhikevich, E., y Edelman, G. (2008, Marzo). Large-scale model of mammalian thalamocortical
systems. Proceedings of the National Academy of Sciences, 105 (9), 3593-3598.
Koch, C., y Tononi, G. (2008, Junio). Can machines be conscious? IEEE Spectrum, 45 (6),
54-59.
Kurzweil, R. (1990). The age of intelligent machines. Massachussetts, Estados Unidos: Massa-
chussetts Institute of Technology.
MIT World. (2006, Noviembre 30). Creativity: The Mind, Machines, and Mathematics: Public
Debate [Video de debate]. Recuperado el 4 de diciembre de 2009 de http://mitworld.
mit.edu/video/422.
Modzelewski, K., Miller, J., Belay, A., Beckmann, N., Gruenwald, C., Wentzlaff, D., et al. (2009,
Noviembre 20). A Unified Operating System for Clouds and Manycore: fos. MIT Computer
Science and Artificial Intelligence Laboratory Technical Report.
Mollick, E. (2006, Julio-Septiembre). Establishing Moore’s Law. IEEE Annals of the History of
Computing, 28 (3).
Stanford Encyclopedia of Philosophy. (2009, Septiembre 22). The Chinese Room Argu-
ment. Recuperado el 4 de diciembre de 2009 de http://plato.stanford.edu/entries/
chinese-room/.
TED. (2009). Henry Markram builds a brain in a supercomputer [Video de conferencia]. Re-
cuperado el 4 de diciembre de 2009 de http://www.ted.com/talks/henry_markram_
supercomputing_the_brain_s_secrets.html.
Vinge, V. (1993). The Coming Technological Singularity. NASA Lewis Research Center: Vision
21: Interdisciplinary Science and Engineering in the Era of Cyberspace.
Vinge, V. (2008, Junio). Signs of the Singularity. IEEE Spectrum, 45 (6), 76-82.
Wolens, D. (2006a, Diciembre 11). Ray Kurzweil (pt1of3) The Singularity Summit at Stanford
La Singularidad Tecnológica Ciencia cognitiva 11