¿Es el cerebro una computadora?

Sobre el funcionalismo computacional, una de las más extrañas teorías filosóficas de la mente

Adaptado del original con permiso explícito del autor.

¿Es el cerebro una computadora? A primera vista, la respuesta podría parecer un rotundo no. Los cerebros y las computadoras son muy diferentes. Los cerebros son biológicos, hechos de material orgánico —cosas viscosas—, mientras que las computadoras son dispositivos electrónicos hechos de materiales no orgánicos —cosas que hacen clic—, prácticamente lo opuesto a los cerebros. Asunto resuelto, ¿verdad?

Pero, ¿es esta una diferencia significativa? Cuando preguntamos si dos cosas son equivalentes, la respuesta puede variar enormemente dependiendo de cómo las estemos comparando. Podemos centrarnos en de qué están hechas las cosas o en cómo se ven, pero a menudo estos son los criterios de comparación más superficiales y menos interesantes.

Tomemos un enfoque diferente por un segundo y preguntémonos en qué se parecen dos cosas con respecto a lo que pueden hacer; es decir, comparando su funcionalidad. ¿Es esta una comparación relevante? Aquí hay un ejemplo de por qué puede haber algo de sustancia en esto. Piensa en el concepto de silla. ¿Cuántas formas, materiales, colores, tamaños y estilos puedes imaginar que podría tener una silla?

Una silla de madera y una silla de acero son muy diferentes en composición, proceso de fabricación, durabilidad, etc., pero siguen siendo equivalentes en términos de para qué se usan las sillas: para sentarse. ¿Es un taburete una silla? ¿Es una mecedora una silla? ¿Qué tal una silla para gamers, o el asiento de tu auto, o en lo que se sientan los astronautas dentro de un cohete? Vaya, si hablamos de cosas en las que te puedes sentar, ¡hasta una roca lo suficientemente plana es una silla!

Pero, ¿por qué estamos hablando de sillas? ¿Qué tiene que ver esto con los cerebros y las computadoras? Es una buena pregunta, y este es el punto que quiero destacar. Cuando comparamos cosas, un punto de comparación a menudo muy significativo es con respecto a lo que las cosas pueden hacer. Es decir, comparar las cosas en términos de su función. Si dos cosas realizan la misma función, son, en cierto sentido, equivalentes. Llamemos a esto un paradigma funcionalista y volvamos a la cuestión de si los cerebros y las computadoras son equivalentes.

En este artículo, quiero abordar esta pregunta desde el punto de vista del funcionalismo computacional, una forma específica de funcionalismo que explicaré con más detalle más adelante. Lo que quiero hacer aquí es, primero, convencerte de que esta pregunta es mucho más profunda de lo que parece a primera vista y, segundo, darte algunos argumentos de ambos lados de la discusión. Como es habitual en estos artículos filosóficos, no te daré (ni puedo darte) una respuesta definitiva, pero espero que al final estés mejor informado y, quizás, te diviertas un poco en el proceso.

¿Qué es el funcionalismo computacional?

Comenzaremos por desglosar la pregunta "¿son los cerebros y las computadoras equivalentes?" y definiremos exactamente qué entendemos por "cerebro", "computadora" y, bueno, "equivalente". Luego, revisaremos algunos de los contraargumentos más comunes a la hipótesis computacionalista y, finalmente, presentaremos algunas razones por las que uno podría creer que los cerebros son, de hecho, "solo" computadoras.

¿Qué es un cerebro?

A primera vista, esto parece una pregunta obvia. Un cerebro es esa materia viscosa dentro de tu cráneo donde, aparentemente, ocurre toda la cognición. Es donde, de alguna manera que todavía no entendemos del todo, piensas tus pensamientos y sientes tus sentimientos. También es donde, según nos dicen, reside algo tan elusivo como la conciencia.

Sin embargo, volvamos a nuestro ejemplo de la silla. Hay muchas cosas que no se parecen a los cerebros humanos pero que, aun así, tienen una función similar. Otros animales tienen cerebros, aunque en muchos casos muy similares a los nuestros. Pero luego tienes a los pulpos. ¡Tienen algo así como 2/3 de sus neuronas en sus brazos! Pero casi nadie afirmaría que no tienen al menos una forma limitada de cognición. ¿Y qué hay de los extraterrestres? ¿Creemos que cualquier ser vivo, sintiente y autoconsciente que exista tendrá algo sorprendentemente similar a este trozo de carne viscoso y arrugado que llamamos cerebro?

Como hemos visto, para un funcionalista, estas diferencias no son importantes. Lo que nos importa cuando hablamos de cerebros es la función que realizan. ¡De eso se trata el funcionalismo! El funcionalista afirmará que lo que un cerebro es, es lo que un cerebro hace. La cognición, la sensibilidad, la conciencia, todas las experiencias subjetivas, se definen completamente en términos de su función. Entonces, cuando los funcionalistas evocan el concepto de cerebro, están pensando en lo que un cerebro hace: en resumen, albergar una mente.

Así que definamos cerebro como el tipo de sustrato físico que puede albergar una mente, con todos los complejos procesos cognitivos, experiencias subjetivas, emociones, qualia y todo lo demás que quieras afirmar que una mente hace.

¿Qué es una computadora?

Como antes, esto parece una pregunta obvia, pero a estas alturas ya sabemos que no debemos apresurarnos a una conclusión. Intuitivamente, una computadora es algo que realiza formas avanzadas de cálculo. Puedes tener computadoras centrales, de escritorio, portátiles, teléfonos inteligentes, relojes inteligentes, minicomputadoras como una Raspberry Pi y tipos de computadoras muy extraños como las que van dentro de un automóvil autónomo o una nave espacial.

Además, aunque la mayoría de las computadoras actuales están hechas de transistores de silicio dispuestos en placas de circuito impreso muy compactas, esta no es la única forma en que se podría implementar una computadora. Antes de las computadoras totalmente electrónicas, teníamos computadoras electromecánicas con válvulas y partes móviles que sonaban como trenes. Y algunos tipos locos han propuesto más de un diseño de una computadora hidráulica en pleno funcionamiento. Incluso tenemos prototipos bioeléctricos que mezclan materia viscosa con circuitos tradicionales.

Entonces, al igual que antes, pensemos en la función de una computadora. Esto es mucho más fácil que con los cerebros porque, a diferencia de los cerebros, que son cosas que existen en la naturaleza, las computadoras son algo que nosotros inventamos. Y tenemos todo un campo en la ciencia de la computación llamado teoría de la computabilidad dedicado precisamente a estudiar lo que una computadora puede hacer.

En resumen, una computadora es una construcción matemática abstracta capaz de computar cualquier función efectivamente computable. Una función efectivamente computable es cualquier función matemática que se puede calcular con una serie finita de pasos mecánicos, sin recurrir a adivinanzas o inspiración mágica; en otras palabras, un algoritmo. Las computadoras electrónicas modernas son una de las posibles encarnaciones físicas de tal abstracción, pero difícilmente la única posibilidad.

Así que, definamos una computadora como cualquier dispositivo que sea capaz de computar todas las funciones computables.

¿Qué es el computacionalismo?

Ahora estamos listos para reformular nuestra pregunta original en términos más precisos.

Empecemos con el funcionalismo y avancemos. Cuando se habla de teorías de la mente, el funcionalismo es la teoría de que todos los procesos cognitivos están completamente caracterizados por su función. Esto significa que, por ejemplo, lo que sea que sea la conciencia, se trata solo de lo que la conciencia hace. En otras palabras, si tienes alguna forma de reproducir lo que hace la conciencia, o cualquier otro proceso cognitivo, no importa qué sustrato uses; lo que tendrás es genuinamente lo mismo.

Dicho de manera más audaz, cualquier sistema que realice las mismas funciones que una mente, es una mente. Punto.

El funcionalismo computacional va un paso más allá y afirma que todos estos procesos cognitivos son en realidad funciones computables. Eso significa que una computadora suficientemente compleja y programada adecuadamente podría realizar estas funciones en la misma medida que un cerebro y, por lo tanto, presumiblemente albergaría una mente. Más formalmente, afirma que todos los procesos cognitivos son de naturaleza computacional y, por lo tanto, pueden, en principio, ser implementados en un sustrato diferente a los cerebros biológicos, siempre que soporte la computación de propósito general.

En otras palabras, el computacionalismo es precisamente la afirmación de que los cerebros son computadoras, entendiendo ambos términos con todos los matices que ya hemos discutido.

Para ser claros, el computacionalismo no afirma que las computadoras modernas sean conscientes, ni siquiera que nuestros sistemas de IA más avanzados estén en el camino correcto para llegar a ser verdaderamente inteligentes o conscientes. Simplemente afirma que existe alguna manera de construir una computadora, al menos en principio, que sea autoconsciente, plenamente inteligente y consciente, incluso si no tenemos ni idea de lo que se necesita para construir una.

Ahora, hay al menos dos formas de computacionalismo, llamémoslas débil y fuerte (estas son mis definiciones, no son estándar). El computacionalismo débil es solo la afirmación de que la cognición es computación. Esto significa que todas las formas de inteligencia —entendida como resolución de problemas, razonamiento, etc., independientemente de si hay un ser sintiente involucrado— son solo formas avanzadas de computación. En otras palabras, no hay nada súper-computacional en la inteligencia humana, animal, extraterrestre o cualquier otra forma de inteligencia. Una computadora suficientemente poderosa puede ser tan inteligente como cualquier otra cosa.

El computacionalismo fuerte va más allá y afirma que la conciencia, la sensibilidad, la autoconciencia, los qualia, es decir, todas las experiencias subjetivas, también son de naturaleza computacional y, por lo tanto, una computadora suficientemente poderosa con el software correcto sería, de hecho, consciente y experimentaría un mundo interior tal como presumimos que todos los humanos y muchos animales lo hacen.

El computacionalismo se remonta a McCulloch y Pitts, los padres del conexionismo. Fueron los primeros en sugerir seriamente que la actividad neuronal es computacional y en proponer un modelo matemático para ella, precursor de las redes neuronales artificiales modernas. Sin embargo, no fue hasta bien entrada la década de los 60 que el computacionalismo comenzó a desarrollarse como una teoría filosófica de la mente.

Pero quizás el ejemplo más famoso de una perspectiva computacionalista en la cultura popular es el Test de Turing. En su artículo fundacional de 1950, Alan Turing, reconocido por todos como el padre de la ciencia de la computación (¡las máquinas de Turing llevan su nombre!), propuso lo que él llamó "el juego de imitación", un experimento mental para determinar si una computadora estaba pensando.

En este experimento mental, una computadora y un humano se colocan detrás de puertas cerradas y solo pueden comunicarse con un segundo humano —el juez— a través de una interfaz de chat. El juez puede preguntar lo que quiera a ambos participantes y, en última instancia, debe decidir cuál es la computadora y cuál es el humano. Si la computadora logra confundir al juez humano la mayoría de las veces, entonces —afirma Turing— debemos reconocer que la computadora está realizando algo indistinguible de lo que los humanos llaman pensar. Y según el funcionalismo, eso significa que la computadora está pensando.

Ahora que hemos aclarado nuestros conceptos, abordemos la pregunta en sí.

¿Es cierto el funcionalismo computacional?

Ya hemos descartado el contraargumento más obvio al computacionalismo: que los cerebros son viscosos mientras que las computadoras no lo son. Pero incluso si ignoramos esta diferencia superficial en la composición, todavía existen importantes diferencias estructurales entre los cerebros y las computadoras existentes que no podemos pasar por alto. Y luego, una vez que aclaremos esos contraargumentos más directos, nos centraremos en diferencias más matizadas y profundas entre cerebros y computadoras.

La independencia de la mente del sustrato

Las computadoras tienen una estructura claramente jerárquica, desde el hardware hasta el software, comenzando en los transistores y construyéndose hasta los registros, el microprocesador, el kernel, el sistema operativo y las aplicaciones, en una descripción muy simplista. Si alguna parte que realiza una función específica se rompe, todo se desmorona.

El cerebro, por el contrario, parece tener alguna estructura, pero es mucho más fluida y flexible. Puedes extirpar regiones enteras del cerebro y, a menudo, se reorganizará y aprenderá a realizar las funciones afectadas casi a la perfección.

Por otro lado, parece haber una distinción clara entre software y hardware en las computadoras, hasta el punto de que puedes mover el software independientemente del hardware. No existe tal cosa en el cerebro; hasta donde sabemos, no podemos simplemente pegar tus pensamientos en algún dispositivo portátil y cargarlos en un traje de carne recién hecho para obtener una segunda copia tuya.

¿Quizás sea esto? Tal vez esta naturaleza interconectada y aparentemente inseparable de los pensamientos y el sustrato en el cerebro es fundamental para la conciencia y la autoconciencia. ¿Quizás mientras puedas sacar la mente del cerebro, no puede ser una mente verdadera?

Bueno, si este fuera el caso y la mente fuera inseparable del cerebro, esta revelación aniquilaría la mayoría de las religiones conocidas. Olvídate de cualquier forma de supervivencia trascendental del alma. Tan pronto como tu cerebro muera, tu mente estará muerta. No hay subida a la nube, ni metafórica ni literalmente. Sin embargo, aunque esto ciertamente podría molestar a un montón de gente, no soy una persona religiosa, así que no me preocupa este argumento en particular.

E incluso si este fuera el caso —que una mente verdadera debe ser inseparable del sustrato—, esta aparente separación explícita entre hardware y software es, en primer lugar, solo un detalle de implementación y, en segundo lugar, una mentira útil.

Si miras dentro de un microprocesador moderno, no es trivial distinguir dónde termina el hardware y dónde comienza el software. No solo hay código programable ejecutándose a nivel de microprocesador sino que, aún más importante, los circuitos lógicos más simples dentro de una computadora son tanto hardware como software al mismo tiempo. La simple disposición ingeniosa de transistores en un diseño específico es suficiente para crear un circuito que suma, multiplica o hace básicamente cualquier otra cosa computable. El hardware es el software en estos casos.

Entonces, aunque algunas cosas —como los cables— son claramente hardware y otras —como el navegador que estás usando ahora mismo— son claramente software, simplemente no es cierto que haya un punto de separación claro entre estos dos conceptos. Es solo una abstracción útil.

Y luego tenemos las redes neuronales artificiales, como las que impulsan a ChatGPT. Estos son aproximadores universales, lo que significa que pueden computar cualquier función con un grado arbitrario de precisión. Y están mucho más cerca de esta idea de una arquitectura flexible donde el software y el hardware se entrelazan de maneras que son difíciles de diferenciar claramente. Si bien las redes neuronales artificiales modernas están lejos de ser una simulación precisa de los cerebros —y eso es a propósito, ni siquiera intentan simular cerebros—, no hay ninguna razón a priori por la que no podamos construir una computadora de silicio que imite perfectamente los procesos físicos dentro de un cerebro biológico real.

Esto significa que cualquier ataque al computacionalismo basado en diferencias estructurales de instancias reales de cerebros y computadoras es inútil. No podemos generalizar una afirmación negativa a partir de un conjunto finito de ejemplos negativos. No importa cuántas computadoras encuentres que no son cerebros, nunca podrás estar seguro de que una computadora no pueda, por definición, ser equivalente a un cerebro. Este es solo el típico problema de la inducción, por lo que debemos encontrar otro ángulo de ataque, algo que apunte a la definición fundamental de computadora, en lugar de a cualquier implementación concreta.

Sintaxis versus semántica

El ataque más famoso al computacionalismo es el experimento de la habitación china de John Searle. Está destinado a ser un contraargumento al juego de imitación de Turing, para demostrar que incluso si un sistema puede simular la comprensión sin fallas, es posible que no esté comprendiendo en absoluto. Aquí tienes un resumen rápido.

Supongamos que un hombre es colocado dentro de una habitación, donde no tiene comunicación con el mundo exterior excepto a través de una ventana de "entrada" y otra de "salida". A través de la ventana de entrada, el hombre recibe de vez en cuando hojas de papel con símbolos extraños. Usando un libro presumiblemente muy grande, el único trabajo del hombre es seguir un conjunto de instrucciones muy simples que determinan, para cualquier combinación de símbolos de entrada, qué otros símbolos extraños debe escribir en una nueva hoja y enviarla por la ventana de salida.

Ahora, aquí está el giro de la trama. Los símbolos de entrada son en realidad preguntas bien escritas en chino, y los símbolos de salida son las respuestas correspondientes, totalmente correctas. El enorme libro está diseñado de tal manera que, para cada posible pregunta de entrada, se calculará una respuesta apropiada. Entonces, visto desde afuera, parece que este sistema no solo entiende chino, sino que puede responder cualquier pregunta plausible en este idioma. Sin embargo —argumenta Searle—, ni el hombre, ni el libro, ni ninguna parte del sistema entiende realmente las preguntas.

El punto de Searle es que la sintaxis y la semántica son dos niveles de comprensión cualitativamente diferentes, de tal manera que ningún grado de manipulación sintáctica —que es, según Searle, todo lo que una computadora puede hacer— puede equivaler a comprender realmente la semántica de un mensaje dado. Para todos los expertos hoy en día es evidente que ChatGPT solo está manipulando vectores de una manera que resulta en respuestas mayormente coherentes, pero no hay una "mente" real dentro de ChatGPT que realice ningún tipo de "comprensión".

En un sentido similar, Searle cree que cualquier computadora es fundamentalmente incapaz de una verdadera comprensión en cualquier sentido significativo de la palabra, simplemente porque la computación actúa a nivel sintáctico y es incapaz de cerrar la brecha hacia la semántica.

El ataque de Searle es bastante fuerte. No hay mucho que un computacionalista pueda mostrar como defensa más que intentar señalar algún lugar en la habitación china donde ocurre la comprensión. La mejor defensa de este tipo es afirmar que incluso si ninguna parte del sistema —ni el hombre, ni el libro, ni la habitación misma— puede decirse que entiende algo, el sistema en su conjunto sí entiende. Pero esto suena como un argumento del tipo "dios de los huecos", un intento desesperado de encontrar la respuesta donde no la hay.

Qualia y conocimiento

Otro desafío interesante para el computacionalismo es el experimento mental conocido como "La habitación de Mary", concebido por el filósofo Frank Jackson. Trata sobre la naturaleza de las experiencias subjetivas —o qualia— y cuán importantes son para fundamentar el conocimiento sobre la realidad. El experimento es el siguiente.

Mary es una neurocientífica que ha vivido toda su vida en una habitación en blanco y negro, aprendiendo todo lo que hay que saber sobre la visión del color a través de libros y literatura científica. Conoce todos los hechos físicos sobre el color y cómo el cerebro humano procesa los estímulos visuales. Sin embargo, nunca ha experimentado el color real. Un día, finalmente sale de la habitación y ve el color por primera vez. La pregunta es si Mary aprende algo cualitativamente nuevo sobre el color, algo que solo se puede aprender a través de la experiencia directa en lugar de leyendo o estudiando indirectamente el fenómeno de la percepción del color.

Para muchos, la experiencia de Mary es efectivamente cualitativamente nueva. Si piensas así, esto plantea preguntas críticas para el computacionalismo. Si el computacionalismo afirma que todos los procesos cognitivos pueden reducirse a funciones computacionales, entonces uno podría preguntarse si conocer todos los hechos físicos sobre un fenómeno es equivalente a experimentarlo. La habitación de Mary sugiere que hay una brecha entre el conocimiento y la experiencia, una que no puede ser cerrada solo por la computación. Esto desafía la idea de que una computadora, sin importar cuán avanzada sea, podría genuinamente "saber" o "experimentar" los qualia de la misma manera que un humano.

Las implicaciones de este experimento mental son profundas para la perspectiva computacionalista. Sugiere que incluso si una computadora pudiera simular todas las funciones de un cerebro, aún podría carecer de las experiencias intrínsecas y subjetivas que caracterizan la conciencia humana. En otras palabras, mientras que una computadora podría procesar información sobre los colores y responder apropiadamente, no "sabría" cómo es ver el rojo o sentir el calor del sol, experiencias que son inherentemente cualitativas y personales.

Esta distinción entre conocimiento y experiencia subraya una limitación fundamental del computacionalismo: puede explicar la mecánica de la cognición, pero no aborda la riqueza de la experiencia consciente. Como tal, el experimento mental de la habitación de Mary sirve como un recordatorio conmovedor de que entender el cerebro como una computadora puede pasar por alto la naturaleza esencial de los qualia.

Por otro lado —podrías argumentar—, si Mary realmente sabía todo lo que se podía saber sobre la percepción del color excepto "cómo se siente", ¿en qué se diferencia eso de la percepción real? En cierto sentido, el cerebro no "experimenta" realmente el color, solo percibe impulsos eléctricos que están correlacionados con la frecuencia de las ondas de luz que llegan a través de nuestros ojos. ¿No se puede explicar la percepción del color como solo otra capa de simulación sobre un cerebro realmente ciego y puramente computacional?

En cualquier caso, la habitación de Mary no nos impide plantear entidades mecánicas extremadamente avanzadas que emulen todos los aspectos físicos de la percepción del color. No hay nada inherentemente no mecánico en nuestra comprensión actual de cómo la frecuencia de la luz estimula ciertos sensores que producen una señal eléctrica en el cerebro. Es la experiencia subjetiva de cómo se siente ver el rojo lo que no podemos reducir a esa explicación mecanicista. Y esto es precisamente lo que el funcionalismo intenta capturar: si dos mecanismos realizan exactamente las mismas funciones, son lo mismo.

Otros ataques

Además de los argumentos prominentes contra el computacionalismo, han surgido varias otras críticas que desafían la noción de equiparar cerebros con computadoras. Dos líneas de razonamiento notables provienen de las ideas de Roger Penrose sobre la comprensión matemática y la perspectiva conexionista sobre el razonamiento.

La no computabilidad de la creatividad humana

Roger Penrose, un renombrado físico y matemático, argumenta que ciertas intuiciones en matemáticas son inherentemente no computables. Postula que los matemáticos humanos pueden comprender conceptos y resolver problemas que trascienden la computación algorítmica, sugiriendo que hay aspectos del pensamiento humano que no pueden ser replicados por ninguna computadora, independientemente de su complejidad.

Como ejemplo, Penrose cree que aunque tenemos una prueba formal de que algunos problemas matemáticos son de hecho irresolubles usando cualquier método de computación efectiva, los matemáticos humanos pueden invocar algunas habilidades hiper-computacionales para obtener conocimientos sobre estos problemas. En el mismo sentido, muchos proponen que la creatividad y las expresiones artísticas en los humanos son ejemplos claros de procesos de pensamiento no computables.

Argumentos conexionistas contra la manipulación de símbolos

El conexionismo es una teoría alternativa de la mente que postula que los procesos mentales pueden entenderse a través de redes de unidades simples (como las neuronas) en lugar de a través de la manipulación simbólica tradicional. Los defensores del conexionismo argumentan que el razonamiento no requiere necesariamente la representación explícita de símbolos o la manipulación de esos símbolos según reglas formales. En cambio, sugieren que los procesos cognitivos pueden emerger de las interacciones dentro de una red, donde el conocimiento está distribuido en lugar de localizado.

Esta perspectiva desafía la suposición computacionalista de que el razonamiento debe basarse en representaciones estructuradas y manipulación de símbolos, proponiendo en cambio que la cognición puede surgir de procesos más fluidos y dinámicos similares a los que se encuentran en las redes neuronales, y que la manipulación simbólica del tipo que ocurre en un procedimiento algorítmico tradicional es, en el mejor de los casos, un fenómeno emergente en el cerebro, pero no una característica necesaria de una mente real.

Conclusiones, por ahora

¿Es el cerebro una computadora? Sinceramente, no lo sabemos. Es una pregunta difícil, quizás la más difícil que podamos concebir, porque desafía nuestra herramienta más valiosa y efectiva para descubrir verdades sobre el mundo: la ciencia. Sígueme por un segundo.

La ciencia —entendida como el proceso de generar hipótesis, producir predicciones a partir de esas hipótesis y probar los resultados de esas predicciones mediante experimentos para falsificar o validar las hipótesis— es fundamentalmente un proceso computacional. Cualquier procedimiento para la verificación experimental debe establecerse en un conjunto de pasos tan simples e inequívocos como para ser replicable por otros científicos en todo el mundo, incluso si no hablan nuestro idioma.

Además, el lenguaje de la ciencia es la matemática, el más estricto —y computable— de todos los lenguajes creados por el ser humano. Y las computadoras también están en todas partes en la ciencia. Hoy es inconcebible realizar cualquier experimento medianamente complejo sin la ayuda de computadoras para ejecutar simulaciones, encontrar patrones y, bueno, computar cosas. La ciencia es profundamente computacional, y siempre lo ha sido. Los padres de la ciencia, Galileo, Newton, Leibniz y el resto, se centraron explícitamente en fenómenos cuantificables y medibles, las únicas cosas en las que todos podíamos estar de acuerdo que eran ciertas.

Pero el funcionamiento interno de la mente humana y la naturaleza de la conciencia pueden no ser ni medibles ni cuantificables. Incluso cuando terminemos de mapear todas las vías neuronales del cerebro y descubrir todo lo que sucede a todos los niveles físicos en esa materia viscosa, y lo carguemos en una computadora, podríamos terminar creando simplemente otra Mary, que sabe todo sobre cómo funciona una mente, pero es incapaz de experimentar verdaderamente cómo se siente tener una.

Y la parte triste es que, si ese es el caso —si la mente es de hecho no computable—, entonces es posible que nunca lo sepamos con certeza. Después de todo, la mejor herramienta que tenemos para entender cómo funcionan las cosas —la ciencia— puede no ser más que un algoritmo elegante.

O quizás, esa es la parte divertida.