La idea de una "Inteligencia General" es seductora. Nos imaginamos una capacidad cognitiva única y omnipotente, una especie de navaja suiza mental capaz de resolver cualquier problema, desde la física cuántica hasta la poesía, con la misma eficacia. Esta noción, a menudo llamada AGI (Inteligencia Artificial General), se ha convertido en el santo grial de la IA, prometiendo (o amenazando con) una superinteligencia que superará a los humanos en todos los campos.

Pero, ¿y si toda esta premisa está fundamentalmente equivocada?

En este artículo, sostendré que esta noción popular de "Inteligencia General" es un mito. Es un vestigio de ideas anticuadas de la psicometría que no resiste el escrutinio teórico ni la evidencia biológica. Argumentaré que ni los humanos poseemos una inteligencia tan monolítica, ni el camino hacia una IA avanzada consiste en escalar los modelos actuales.

En su lugar, propondré una redefinición: la verdadera inteligencia no es poseer habilidades, sino la eficiencia para adquirir nuevas habilidades. Y desde esta perspectiva, la AGI del futuro se parecerá menos a una vasta enciclopedia y más a un programador de propósito general, un sistema capaz de sintetizar nuevos algoritmos para resolver problemas que nunca ha visto antes.

Suscríbete ahora

Desmitificando la Noción de Inteligencia General

Antes de construir una nueva idea de inteligencia, primero debemos demoler la antigua. El mito de la inteligencia general es la creencia en una capacidad cognitiva única que se aplica a todos los dominios. La realidad, sin embargo, es que el rendimiento en cualquier tarea depende de una habilidad específica, que es la capacidad de tomar decisiones efectivas en ese dominio concreto. No existe una "inteligencia" universal que las englobe a todas.

Curiosamente, a menudo usamos a los humanos como el arquetipo de la "inteligencia general", pero una mirada más cercana revela que nosotros tampoco encajamos en ese molde.

La Especialización como Norma Humana

Lejos de poseer una inteligencia universal, la cognición humana es un claro ejemplo de especialización. No existe un "humano estándar" que sea uniformemente competente en todas las áreas. Cada uno de nosotros desarrolla un conjunto único de habilidades profundas pero a menudo estrechas. Un neurocirujano brillante puede ser un pésimo escritor, y un abogado de primera puede ser incapaz de reparar un motor. Nuestra sociedad y nuestras carreras se basan en esta heterogeneidad, demostrando que prosperamos gracias a una colección de inteligencias específicas y diversas, no a una capacidad general y monolítica.

El Mito de la Superioridad Cognitiva

La idea de que los humanos estamos en la cima de una escalera de inteligencia lineal es simplemente incorrecta. La biología comparada nos muestra que muchas especies nos superan en dominios cognitivos específicos. Los chimpancés, por ejemplo, superan sistemáticamente a los humanos en ciertas tareas de memoria de trabajo visual. Esto se explica por la hipótesis del "trade-off" cognitivo: a medida que nuestros ancestros evolucionaron el lenguaje, probablemente sacrificaron otras capacidades, como la memoria visual de alta fidelidad. La evolución no optimiza para una "inteligencia" abstracta, sino para un conjunto de herramientas cognitivas adaptadas a un nicho ecológico específico, refutando la noción de una superioridad humana generalizada.

La Supremacía de los Algoritmos Específicos

Incluso en dominios que consideramos inherentemente "humanos", como el razonamiento estratégico, los algoritmos especializados nos dejan muy atrás. AlphaZero aprendió a dominar el ajedrez a un nivel sobrehumano en cuestión de horas, y una simple calculadora supera al matemático más rápido en aritmética. Esto no demuestra su "inteligencia general", sino que ilustra una verdad fundamental: una habilidad altamente optimizada (un algoritmo) siempre superará a un enfoque generalista en un dominio bien definido.

La refutación teórica final proviene de la informática. El Teorema "No Free Lunch" (NFLT) establece matemáticamente que ningún algoritmo puede ser el mejor en todos los problemas posibles. Si un algoritmo A supera a B en un conjunto de problemas, necesariamente tendrá un rendimiento inferior a B en el resto de problemas. Las ganancias de rendimiento siempre tienen un coste. Una inteligencia que fuera "superior en prácticamente todos los campos" violaría esta ley fundamental.

Entonces, ¿por qué persiste el mito?

Por un simple sesgo de medición. Percibimos la inteligencia humana como "general" porque evaluamos el rendimiento en un subconjunto muy estrecho de problemas que, como especie, hemos decidido que son "interesantes" o valiosos.

Esta visión sesgada, de hecho, no es nueva, sino que tiene profundas raíces en la tradición filosófica occidental. Se remonta a una línea de pensamiento que va desde la exaltación de la razón lógica de Aristóteles hasta la cuantificación de la cognición en el factor 'g' y las pruebas de IQ. Esta tradición creó una jerarquía de valor donde las habilidades lógico-matemáticas y verbales, apreciadas históricamente por ciertas élites académicas y sociales, fueron coronadas como la esencia de la "inteligencia".

Mientras tanto, otras capacidades humanas cruciales —como la inteligencia emocional, la creatividad artística, la destreza física o la intuición social— fueron relegadas a un segundo plano, consideradas "habilidades blandas" o simplemente no "inteligencia" en absoluto. Por lo tanto, el mito de la inteligencia general no es solo un error científico, sino también el producto de un sesgo cultural que confunde una definición estrecha y elitista de la cognición con una verdad universal.

Redefiniendo la Inteligencia

Si la "inteligencia general" como capacidad universal es un mito, ¿qué es la inteligencia entonces?

El investigador de François Chollet propone una definición mucho más útil y rigurosa: la inteligencia es la eficiencia con la que un sistema adquiere nuevas habilidades en un nuevo dominio.

Este cambio de perspectiva es crucial. La inteligencia no es lo que sabes hacer, sino lo rápido que aprendes a hacer cosas nuevas. Esta redefinición resuelve una paradoja moderna: ¿por qué un LLM, que ha memorizado casi todo el conocimiento humano escrito, nos parece menos "inteligente" que un niño pequeño? La respuesta es la eficiencia.

Un niño puede aprender una nueva habilidad, como jugar a un juego nuevo, con poquísimos ejemplos y en cuestión de minutos. El LLM necesitó una fracción considerable de toda la energía del planeta para adquirir su conocimiento. El cerebro del niño es una máquina de aprendizaje de una eficiencia asombrosa.

Esto nos lleva a una distinción clave de la psicología: la inteligencia cristalizada frente a la inteligencia fluida. La cristalizada es el conocimiento acumulado, los hechos y las habilidades que ya posees. La fluida es la capacidad de resolver problemas nuevos, de razonar y de aprender. Cuando en la vida cotidiana decimos que alguien es "inteligente", raramente nos referimos a la cantidad de datos que ha memorizado; nos referimos a su capacidad de adaptación y aprendizaje, es decir, a su inteligencia fluida.

La definición de Chollet alinea formalmente el concepto de inteligencia con esta noción intuitiva y práctica.

Bajo este prisma, los actuales Modelos de Lenguaje Masivos (LLMs) son los amos absolutos de la inteligencia cristalizada. Son sistemas de "memoria interpolativa" que recuperan y recombinan patrones de su gigantesco conjunto de datos de entrenamiento. Sin embargo, carecen de inteligencia fluida. No son eficientes adquiriendo habilidades verdaderamente nuevas, como demuestra su fracaso en benchmarks como ARC, diseñados específicamente para medir la adaptación a la novedad. Su conocimiento es una habilidad pre-adquirida, no la meta-habilidad de la adquisición.

Si llevamos esta idea un paso más allá, podemos conectar la inteligencia con la computación:

En cualquier problema puramente cognitivo, una habilidad es, en esencia, un algoritmo: una serie de pasos para resolverlo.

Por lo tanto, aprender una nueva habilidad es fundamentalmente un acto de síntesis de un nuevo algoritmo.

La Inteligencia General, bajo esta nueva definición, se convierte en la capacidad de inventar o sintetizar nuevos y eficientes algoritmos sobre la marcha cada vez que nos enfrentamos a un problema novedoso.

Esto nos da una imagen completamente diferente de lo que sería una AGI. No sería un sistema que ya sabe todo, sino un agente autónomo capaz de explorar eficientemente el vasto espacio de todos los programas posibles para encontrar soluciones.

Sería un "programador de propósito general" que experimenta, prueba y refina sus propios algoritmos a medida que aprende.

Finalmente, esta síntesis de algoritmos no puede ocurrir en el vacío. La eficiencia requiere atajos. Necesitamos sesgos inductivos fuertes —principios heurísticos como la Navaja de Ockham o conocimientos básicos sobre el mundo— que nos guíen hacia las soluciones más probables sin tener que explorar cada posibilidad. La generalidad no es la ausencia de sesgos, sino la posesión de un conjunto de sesgos potentes y adaptables.

De la AGI a la GPAI

Si el objetivo final es una AGI que pueda sintetizar programas, ¿cómo llegamos allí?

Sostengo que el camino no es escalar los LLMs hasta el infinito, sino construir la infraestructura que permita la emergencia de tal sistema. Este es el salto del concepto abstracto de AGI (Inteligencia Artificial General) al concepto de ingeniería de GPAI (IA de Propósito General).

La GPAI no es la AGI. Es el andamiaje tecnológico: las herramientas, plataformas y componentes que permiten a los desarrolladores aplicar IA a problemas específicos con facilidad. Una futura AGI-programadora no reinventará la rueda; utilizará la infraestructura GPAI para construir y probar sus propias soluciones algorítmicas.

Un ecosistema GPAI maduro necesitaría, como mínimo, cinco componentes clave

Modelos Fundacionales para Múltiples Modalidades

El primer pilar son colecciones de modelos pre-entrenados que proporcionan una base de "inteligencia" lista para usar, reduciendo drásticamente la necesidad de entrenar sistemas complejos desde cero. Sin embargo, este ecosistema no puede limitarse al lenguaje. Debe expandirse para incluir modelos fundacionales robustos para modalidades mucho más complejas y diversas, como la comprensión de escenas 3D, el análisis de datos tabulares, la predicción de series temporales o la interpretación de grafos.

Interoperabilidad Integral y Universal

Para que una IA pueda actuar en el mundo digital, necesita hablar el mismo idioma que el resto del software. Un componente crucial de la GPAI es el desarrollo de métodos estandarizados y APIs robustas que permitan a los sistemas de IA conectarse sin problemas con componentes tradicionales como bases de datos, sistemas operativos y navegadores web. Esto transforma a la IA de una caja negra aislada a un agente que puede utilizar el software existente como herramientas.

AutoML Simplificado e Integrado

El entrenamiento y ajuste fino de modelos de Machine Learning debe dejar de ser un arte oscuro reservado para especialistas. La GPAI requiere herramientas de AutoML (Aprendizaje Automático Automatizado) que sean asombrosamente simples de usar e estén integradas directamente en los entornos de desarrollo estándar. El objetivo es que cualquier programador pueda, con unas pocas líneas de código, especializar un modelo para una tarea concreta.

GOFAI Accesible y Modernizada

Contrariamente a la creencia popular, la IA simbólica clásica —a menudo llamada "Good Old-Fashioned AI" (GOFAI)— no está obsoleta. Métodos como los algoritmos de búsqueda, la planificación o los solucionadores de restricciones son extremadamente potentes para problemas que requieren un razonamiento estructurado. Un ecosistema GPAI maduro debe rescatar estas técnicas, empaquetarlas en librerías modernas y fáciles de usar, y ponerlas a disposición de los desarrolladores.

Soporte Pervasivo de Hardware y Sistema Operativo

Finalmente, la IA debe ser ubicua. Esto requiere un soporte robusto a nivel de hardware y de sistema operativo para la inferencia y, eventualmente, el entrenamiento en el propio dispositivo (on-device). Cuando los chips y los sistemas operativos estén diseñados desde cero para ejecutar modelos de IA de manera eficiente, se abrirá la puerta a aplicaciones verdaderamente inteligentes y autónomas que no dependan de la nube.

Palabras Finales

Este enfoque tiene implicaciones profundas. Cambia nuestro foco de la búsqueda lejana y filosófica de una "superinteligencia" a un objetivo de ingeniería pragmático y alcanzable.

En lugar de debatir sobre los riesgos existenciales de una AGI mítica, podemos centrarnos en construir herramientas útiles y democratizar el acceso a la IA hoy.

El desarrollo de un ecosistema GPAI robusto es el camino más práctico y productivo. Sienta las bases tecnológicas y, al hacerlo, crea el entorno del que podría surgir una verdadera IA General, no como un oráculo que todo lo sabe, sino como el programador definitivo que todo lo aprende.

De todos los campos que están siendo transformados por la inteligencia artificial, la educación es quizás el más crítico. Hay mucho en juego y es fundamental hacerlo bien. Usada con sabiduría, la IA tiene el potencial de ser una fuerza masivamente positiva, aumentando el trabajo de los docentes y profundizando el aprendizaje de los estudiantes de maneras que apenas comenzamos a imaginar. Sin embargo, usada incorrectamente, podría ser catastrófica, socavando el desarrollo del pensamiento crítico y erosionando los cimientos mismos de la integridad académica. Este post es una guía para navegar en ese entorno de alto riesgo.

Comenzaremos por desmitificar la popular idea de un tutor de IA personalizado, una visión que, en mi opinión, va en contra de los principios del aprendizaje colaborativo y centrado en el ser humano. En su lugar, propondremos una solución más sensata que ve la IA como una herramienta para aumentar, no para automatizar. A continuación, desmontaremos los mitos que rodean a las herramientas de detección de IA, argumentando que este enfoque no solo es inútil, sino activamente perjudicial para el ambiente de aprendizaje. A partir de ahí, ofreceremos estrategias prácticas tanto para educadores como para estudiantes, enfatizando la responsabilidad compartida de fomentar una nueva alfabetización en IA.

Suscríbete ahora

El Mito del Tutor Personalizado

La llegada de la IA generativa ha reavivado un mito seductor que lleva décadas entre nosotros: la idea de que el objetivo final de la tecnología en la educación es crear un tutor de IA personalizado y omnisciente para cada estudiante. Esta visión promete una revolución, un futuro en el que un "tutor aristotélico personalizado" esté disponible para todos, adaptándose a su estilo, idioma y ritmo de aprendizaje únicos. Es una narrativa poderosa, pero está construida sobre un malentendido fundamental de cómo aprendemos y para qué sirve la educación.

Incluso si un tutor tan perfecto fuera posible, no es la revolución que deberíamos desear. La idea de que el principal problema de la educación es la falta de personalización o de una entrega eficiente de información es una premisa defectuosa. Antes de poder aprovechar la IA de manera efectiva, primero debemos deconstruir este mito examinando tres razones fundamentales por las que el tutor personal automatizado es un ideal equivocado.

Argumento 1: Confunde la Transferencia de Información con el Aprendizaje

El mito del tutor personalizado asume que el principal obstáculo para aprender es la entrega ineficiente de información. Este argumento podría tener cierto mérito en contextos muy específicos, como en lugares donde la barrera principal es la falta de acceso a libros, internet y educadores. Sin embargo, esta no es la realidad para la mayoría de los estudiantes en los países donde hay un sistema educacional público razonablemente funcional.

En una era de sobreabundancia de información, el problema para el estudiante moderno no es la falta de acceso a los datos, sino la falta de habilidad para navegar, evaluar y sintetizar esa información. Pedirle una respuesta a una IA es ligeramente más conveniente que una búsqueda en Google, pero no es cualitativamente mejor. Es más, elimina la "dificultad deseable" que forja el conocimiento duradero. El esfuerzo de buscar información, comparar fuentes y formar una conclusión es un ejercicio cognitivo de incalculable valor. Un tutor de IA diseñado para eliminar esta lucha proporcionando respuestas inmediatas impide activamente que ocurran las partes más valiosas del proceso de aprendizaje.

Argumento 2: Promueve la Dependencia Intelectual

El mito sugiere que una IA puede ser el compañero perfecto para completar tareas, desde resolver problemas de matemáticas hasta escribir ensayos. Esto, sin embargo, corre el riesgo de crear una profunda dependencia intelectual. Cuando un estudiante usa una IA para evitar el trabajo duro de estructurar un argumento, recordar información, sintetizar ideas o depurar una línea de código, aprende a hacer prompts, no a pensar.

El propósito de asignar un ensayo no es recibir un texto perfecto; los profesores ya conocen las respuestas. El propósito es involucrar al estudiante en el proceso de creación, que es donde ocurre el aprendizaje. Al ofrecer un atajo directo al producto final, la IA generativa socava el aspecto más valioso del ejercicio. Se convierte en un obstáculo que obstaculiza el proceso educativo al permitir que los estudiantes eludan los mismos desafíos que ayudan a sus cerebros a aprender y crecer. El objetivo de la educación es construir pensadores críticos e independientes que puedan lidiar con problemas complejos y ambiguos por sí mismos.

Argumento 3: Fomenta el Aislamiento sobre la Comunidad

La visión del camino personalizado idealiza a un estudiante aprendiendo en una eficiencia perfecta y aislada, libre del ritmo de un grupo. Esto ignora por completo que el aprendizaje es una actividad fundamentalmente social y colaborativa. Estudiar de forma individual e independiente no es necesariamente una ventaja; de hecho, puede ser una gran desventaja.

Las dos cosas con las que más luchan las personas autodidactas son la motivación y la retroalimentación. La motivación surge de forma natural en un aula porque estás rodeado de compañeros con objetivos similares. Ver a otros enfrentar desafíos y crecer crea un poderoso incentivo para superar las dificultades. La retroalimentación de mentores y compañeros es igualmente crucial para el crecimiento intelectual. Una comunidad de aprendices es clave. Un tutor de IA, por muy sofisticado que sea, no puede replicar la realidad dinámica, motivadora y, a menudo, desordenada de una comunidad de aprendizaje humana. Aprender juntos siempre será mejor que aprender solo.

La Alternativa: Aumento, no Automatización

La alternativa al mito del tutor personalizado no es descartar la tecnología, sino reformular su propósito: pasar de la automatización al aumento dentro de una comunidad centrada en el ser humano. El objetivo no es una máquina que reemplace al profesor, sino una herramienta poderosa que mejore todo el ecosistema de aprendizaje.

Una IA verdaderamente efectiva no sería una máquina de respuestas. Sería un compañero de aprendizaje diseñado para encarnar principios pedagógicos sólidos. En lugar de ofrecer atajos fáciles, estaría diseñado para guiar, desafiar y fomentar esa "dificultad deseable" esencial para el aprendizaje profundo. Una herramienta así actuaría como un socio socrático haciendo preguntas, ofrecería práctica interactiva y personalizada, y explicaría conceptos de múltiples maneras para construir una comprensión intuitiva.

Este enfoque apoya directamente modelos progresivos como el aula invertida, donde la IA puede encargarse de la instrucción directa fuera de clase, liberando un tiempo precioso en el aula para lo que los humanos hacen mejor: proyectos colaborativos, debates en grupo y aprendizaje entre pares.

La Futilidad de los Detectores de IA

Antes de que los educadores puedan integrar eficazmente la IA, primero deben comprender que la detección de contenido generado por IA es una persecución sin esperanza. Cualquier intento de vigilar el uso de la IA a través de herramientas de detección es una carrera armamentista imposible de ganar, destinada a fracasar por varias razones prácticas y pedagógicas.

En primer lugar, la tecnología en sí es fundamentalmente defectuosa. Los detectores siempre estarán por detrás de los modelos generativos que buscan identificar. Las supuestas señales del texto generado por IA —lenguaje demasiado formal, falta de voz personal, gramática perfecta— son simplemente características fugaces de modelos específicos en un momento dado. Un detector entrenado para identificar el estilo de GPT-4 es inútil contra la próxima generación de modelos.

En segundo lugar, estas herramientas son peligrosamente imprecisas. Sus tasas de falsos positivos, inaceptablemente altas, significan que inevitablemente se castigará a estudiantes honestos. Esta es una línea ética que ningún educador debería estar dispuesto a cruzar. Al mismo tiempo, las herramientas son fáciles de eludir, lo que significa que mientras se señala a estudiantes inocentes, los que están decididos a hacer trampa pueden salirse con la suya. El resultado es un sistema que es a la vez injusto e ineficaz.

En última instancia, una dependencia de las herramientas de detección crea un ambiente de desconfianza que es tóxico para el aprendizaje. Enmarca la relación entre profesor y alumno como un enfrentamiento, reemplazando una asociación basada en la confianza por una basada en la sospecha. El fraude es un problema ético grave, pero no es un problema tecnológico que se resuelva con software. Es un problema humano que debe discutirse en términos éticos, como una violación de la confianza compartida que hace posible una comunidad de aprendizaje.

Guía Práctica para Educadores

El único camino viable es cambiar nuestra mentalidad de la vigilancia a la integración, adaptando nuestros métodos para aprovechar las fortalezas de la IA mientras mitigamos sus debilidades.

Rediseñando las Tareas para la Era de la IA

Dado que el tradicional ensayo para casa ahora es vulnerable a la automatización, los educadores deben rediseñar las tareas para incorporar la IA como una herramienta para pensar, no como una máquina de respuestas.

La estrategia más efectiva es enfocarse en el proceso, no solo en el producto. En lugar de calificar únicamente el ensayo final, la evaluación puede ampliarse para incluir la interacción del estudiante con la IA. Exigir a los estudiantes que presenten sus registros de chat o una reflexión escrita sobre su proceso —detallando los prompts que usaron y cómo evaluaron la respuesta de la IA— hace visible su pensamiento.

Otro enfoque poderoso es convertir a los estudiantes en críticos de la IA. En lugar de pedirles que produzcan un texto, asígnales la tarea de deconstruir uno generado por IA. Por ejemplo, se le podría pedir a un estudiante que le pida a una IA que escriba un ensayo sobre un evento histórico y luego escriba su propio análisis de los errores factuales, falacias lógicas y sesgos subyacentes.

Finalmente, es esencial enfatizar las evaluaciones centradas en el ser humano que son inherentemente resistentes a la automatización: debates en clase, exámenes orales, ensayos escritos a mano y proyectos colaborativos.

La IA como Súper-Asistente del Profesor

El mayor potencial de la IA puede residir en su capacidad para reducir la considerable carga administrativa de los profesores, liberándolos para que se centren en el trabajo profundamente humano de enseñar y guiar.

Como herramienta para la planificación de lecciones, la IA puede ser un socio creativo invaluable. Un educador puede generar planes de lección, obtener sugerencias para actividades creativas o crear materiales adaptados para estudiantes con diversas necesidades de aprendizaje. Un prompt como: "Actúa como un diseñador instruccional. Crea un plan de lección de 45 minutos para estudiantes de secundaria sobre las causas de la Primera Guerra Mundial, incluyendo un gancho, una actividad colaborativa y una evaluación formativa" puede ahorrar horas de trabajo.

Para la generación de rúbricas y retroalimentación, la IA puede ser verdaderamente transformadora. Puede redactar rúbricas de calificación claras y completas en segundos y, lo que es más importante, puede ayudar a proporcionar una retroalimentación inicial y personalizada sobre el trabajo de los estudiantes, siempre bajo un modelo de "humano-en-el-ciclo" (human-in-the-loop) donde el profesor revisa y aprueba el feedback de la IA antes de enviarlo.

Fomentando un Aula Preparada para la IA

Crear un entorno de aprendizaje saludable en la era de la IA requiere un enfoque proactivo centrado en políticas claras, alfabetización digital y comunicación abierta. La base es establecer una política de uso de IA clara en el aula, que funcione como una guía para el compromiso ético, no como una lista de prohibiciones.

Más allá de las reglas, los educadores deben integrar la alfabetización en IA en el plan de estudios. Una forma sencilla y eficaz de guiar a los estudiantes es crear y compartir prompts personalizados o IAs reutilizables. Al elaborar prompts adaptados a objetivos pedagógicos específicos, los educadores pueden modelar un uso eficaz de la IA. Una extensión aún más poderosa es crear IAs personalizadas (llamadas "Custom GPTs" en ChatGPT o "Gems" en Google Gemini), que son versiones especializadas de la IA precargadas con instrucciones y contexto específicos. Un educador podría crear un "Ayudante de Tesis de Historia" experto en el material de su curso, o un "Formateador de Informes de Laboratorio" que guíe a los estudiantes.

Finalmente, es vital fomentar el diálogo abierto. Es importante reconocer que el "agotamiento por IA" (AI burnout) es real. Muchos educadores sienten una presión inmensa por adaptarse a todo a la vez. Pero no tenemos que cambiarlo todo de golpe. El camino más sostenible es el de los pequeños y deliberados experimentos. Al introducir la IA en las partes más sencillas de nuestras tareas docentes primero, podemos lograr victorias fáciles y darnos tiempo para reflexionar.

Guía para el Estudiante Moderno

Para los estudiantes, la IA puede ser la herramienta de aprendizaje más poderosa jamás creada, pero solo si se usa con intención e integridad. El objetivo es usar la IA para aprender, no para cortocircuitar tu propia comprensión.

Tus Responsabilidades como Usuario

El uso ético de la IA comienza con una comprensión clara de tus responsabilidades. Primero, verifica y aclara las políticas de cada curso e institución. Segundo, practica la divulgación transparente, siendo honesto sobre cómo y dónde has utilizado la IA. Finalmente, protege la información sensible y nunca introduzcas datos personales o confidenciales en modelos de IA públicos.

Usando la IA para Iniciar tu Trabajo

Una de las formas más eficaces y éticas de usar la IA es como un socio de brainstorming para superar la inercia de la página en blanco. Puedes usar la IA para generar ideas iniciales para un proyecto, crear un esquema estructurado para un ensayo o sintetizar los puntos clave de un artículo largo. En este rol, la IA actúa como un catalizador para tu propio pensamiento, proporcionando una base sobre la cual puedes construir tu trabajo original.

Usando la IA para Profundizar tu Comprensión

En lugar de pedir una respuesta directa, usa la IA para que te guíe hacia tu propia comprensión. Puedes convertir la IA en un socio socrático que te haga preguntas en lugar de darte soluciones. Un prompt como "Estoy tratando de entender las causas de la Revolución Francesa. No me las enumeres. En su lugar, hazme preguntas que me lleven a los factores clave" transforma una consulta pasiva en un ejercicio de aprendizaje activo. También puedes pedirle que te explique conceptos complejos con analogías o en términos más sencillos para construir una comprensión intuitiva.

Usando la IA para Refinar tus Habilidades

La IA puede ser un entrenador invaluable para mejorar tus habilidades prácticas a través de la retroalimentación iterativa. Como entrenador de escritura, puede ofrecer sugerencias sobre claridad, tono y estructura sin hacer el trabajo por ti. Puedes enviar un párrafo que hayas escrito y pedir comentarios específicos, como "¿Puedes sugerir tres verbos más fuertes que podría usar en esta oración?". Como compañero de práctica, la IA puede generar un número infinito de problemas de práctica para materias como matemáticas, programación o vocabulario, y lo que es más importante, proporcionar explicaciones detalladas de tus errores.

Construye tus Propias Herramientas de IA

Más allá de los prompts puntuales, el siguiente nivel de alfabetización en IA es aprender a crear tus propios asistentes de IA reutilizables. Las plataformas modernas te permiten crear agentes personalizados, como ya vimos. Por ejemplo, podrías construir un "Compañero de Estudio" y subir todas las notas de tu curso, dándole el poder de hacerte preguntas sobre el material específico. Al construir tus propias herramientas, pasas de ser un simple usuario a ser un creador.

Desarrollando la Alfabetización en IA

En última instancia, la habilidad más importante para un aprendiz del siglo XXI no es solo saber cómo usar la IA, sino saber cómo evaluar críticamente su resultado. Esta nueva "alfabetización en IA" se basa en tres pilares:

1. Sé siempre escéptico: Trata cada declaración que genera una IA como una afirmación, no como un hecho.

2. Verifica todo: Los modelos de IA pueden "alucinar" y lo harán. Tú eres la autoridad final y responsable de la precisión de tu trabajo.

3. Aprende a buscar sesgos: Comprende que los datos de entrenamiento de la IA son un reflejo de internet, con todos sus sesgos y estereotipos humanos.

Poniéndolo todo en Práctica: Un Ejemplo de Flujo de Trabajo

Aquí tienes un ejemplo paso a paso de cómo podrías usar éticamente la IA para ayudarte con un trabajo de investigación:

1. Brainstorming: Usa la IA para explorar temas potenciales y acotar tu enfoque.

2. Esquema: Trabaja con la IA para estructurar tus argumentos principales y crear un esquema lógico.

3. Investigación: Usa la IA para encontrar fuentes o resumir artículos, pero siempre ve a la fuente original para leerla tú mismo y verificar cada afirmación.

4. Redacción: Escribe el borrador completo con tus propias palabras.

5. Retroalimentación: Pide a la IA comentarios sobre la claridad, estructura y estilo de tu borrador.

6. Lista de verificación final: Antes de entregar, revisa: ¿He verificado cada dato? ¿Puedo defender cada parte de este trabajo? ¿He seguido la política de IA de mi instructor? ¿Mi declaración de uso es precisa?

Conclusión: Hacia un Futuro de Aumento

La filosofía tecno-pragmática que guía este texto se basa en una creencia fundamental: el futuro no está predeterminado. La tecnología es una herramienta cuyo impacto está profundamente moldeado por cómo elegimos emplearla.

El desafío no es resistir esta nueva tecnología, sino aprovecharla con sabiduría. En lugar de perseguir el ideal defectuoso de la automatización o caer en una relación de confrontación basada en la detección, debemos abrazar un cambio pedagógico necesario. El problema central en la educación moderna no es la falta de contenido, sino la escasez de retroalimentación oportuna y personalizada.

Aquí es donde la IA puede crear una verdadera revolución. Por lo tanto, el verdadero norte para la IA en la educación no es la automatización, sino el aumento. Debemos aprovechar la IA para resolver el cuello de botella de la retroalimentación, usándola para hacer lo que mejor sabe hacer —procesar información y proporcionar feedback a escala— para que nosotros, educadores y estudiantes, podamos centrarnos en lo que mejor sabemos hacer: cuestionar, crear y colaborar dentro de una comunidad centrada en el ser humano.

He pasado los últimos años tratando de entender el ruido alrededor de la Inteligencia Artificial, y si hay un sentimiento que define la experiencia, es el de un latigazo. Una semana, leo un artículo que promete que la IA curará enfermedades y desbloqueará una abundancia inimaginable; la siguiente, veo titulares sobre el colapso civilizatorio. Este ciclo vertiginoso de primaveras de IA, períodos de inversión masiva y bombo, seguidos por la escalofriante duda de los inviernos de IA, no es nuevo. Ha sido el motor del campo durante décadas.

Después de años de esto, he tenido que desarrollar mi propio marco solo para mantenerme en tierra. No se trata de ser optimista o pesimista; se trata de rechazar ambos extremos. Para mí, es un compromiso con una reevaluación incansable de la tecnología que tenemos delante; de usar la razón y la evidencia para encontrar un camino a seguir, porque creo que tenemos tanto el poder como la responsabilidad de dar forma al futuro de esta tecnología. Eso comienza con un diagnóstico claro del presente.

Una de las herramientas de diagnóstico más útiles que he encontrado para esto proviene de la científica informática Melanie Mitchell. En un artículo seminal de 2021, identificó lo que ella afirma son cuatro falacias fundamentales, cuatro suposiciones profundamente arraigadas que explican en gran medida nuestra confusión colectiva sobre la IA, y lo que puede y no puede hacer.

Mi objetivo en este artículo no es convencerte de que Mitchell tiene 100% razón. Tampoco creo que lo tenga, y proporcionaré mis propias críticas y contraargumentos a algunos puntos. Lo que quiero es usar sus ideas como una lente para diseccionar el bombo, explorar los contraargumentos y mostrar por qué este tira y afloja intelectual tiene consecuencias en el mundo real para nuestra sociedad, nuestra economía y nuestra seguridad.

Suscríbete ahora

Deconstruyendo las Cuatro Falacias

Para mí, la prueba más importante de cualquier idea es su validación empírica. Ningún plan, por brillante que sea, sobrevive a su primer encuentro con la realidad. Encuentro que las cuatro falacias de Mitchell son la herramienta perfecta para esto. Nos permiten tomar las grandes y amplias afirmaciones hechas sobre la IA y probarlas rigurosamente contra la realidad desordenada y complicada de lo que estos sistemas realmente pueden hacer.

Falacia 1: La Ilusión de un Continuo Suave

La falacia más común y seductora es la suposición de que cada hazaña impresionante de la IA estrecha es un paso incremental en un camino suave hacia la Inteligencia Artificial General (IAG) a nivel humano. Es decir, que la inteligencia es una métrica única y unidimensional en un continuo que va de lo estrecho a lo general.

Lo vemos en todas partes. Cuando Deep Blue de IBM venció a Garry Kasparov en ajedrez, fue aclamado como un primer paso hacia la IAG. La misma narrativa surgió cuando AlphaGo de DeepMind derrotó a Lee Sedol. Esta forma de pensar crea, según Mitchell, un mapa de progreso defectuoso, engañándonos para que creamos que estamos mucho más cerca de la IAG de lo que estamos. Ignora el desafío colosal y sin resolver conocido como el *problema del conocimiento de sentido común*, la vasta comprensión implícita del mundo que los humanos usan para navegar la realidad.

Como dijo el filósofo Hubert Dreyfus, esto es como afirmar que el primer mono que trepó a un árbol estaba progresando hacia el aterrizaje en la luna. Bueno, en cierto sentido, tal vez lo sea, pero entiendes el punto. No llegamos a la luna hasta que inventamos cohetes de combustión. Trepar árboles cada vez más altos no nos acerca en absoluto, es solo una distracción. En el mismo sentido, dominar un juego de sistema cerrado puede ser un desafío fundamentalmente diferente a comprender el mundo abierto y ambiguo.

Pero aquí está el matiz. Si bien vencer a Kasparov no es un paso directo para tener una conversación, los métodos desarrollados pueden ser sorprendentemente generalizables. La arquitectura que impulsó a AlphaGo fue adaptada más tarde a MuZero, un sistema que dominó Go, ajedrez y juegos de Atari sin que se le dijeran las reglas. Además, ¿podemos realmente decir que un Modelo de Lenguaje Grande es IA estrecha de la misma manera? Su capacidad para escribir código y resumir texto se siente como un salto cualitativo en la generalidad que la analogía del mono y la luna no captura del todo.

Esto nos deja con una pregunta con visión de futuro: ¿Cómo ponen a prueba los avances recientes en multimodalidad y IA agéntica los límites de esta falacia? ¿Un modelo que puede ver y actuar comienza a cerrar la brecha hacia el sentido común, o es solo una versión más sofisticada de la misma inteligencia estrecha? ¿Son los modelos del mundo un verdadero paso hacia la IAG o solo una rama más alta en un árbol de inteligencia lingüística estrecha?

Falacia 2: La Paradoja de la Dificultad

Tenemos la terrible costumbre de proyectar nuestro propio paisaje cognitivo en las máquinas, asumiendo que lo que es difícil para nosotros es difícil para ellas, y lo que es fácil para nosotros es fácil para ellas. Durante décadas, ha sido al revés.

Esta es la Paradoja de Moravec, nombrada así por el roboticista Hans Moravec, quien señaló que es más fácil hacer que una computadora exhiba un rendimiento a nivel adulto en una prueba de coeficiente intelectual que darle las habilidades sensoriales y motoras de un niño de un año.

Esto explica por qué tenemos IA que puede dominar el juego ridículamente complejo de Go, mientras que un coche totalmente autónomo permanece obstinadamente justo en el horizonte. Las cosas "fáciles" se construyen sobre lo que Mitchell llama la "complejidad invisible de lo mundano". Esta paradoja causa una descalibración crónica de nuestro progreso y prioridades, lo que nos lleva a estar demasiado impresionados por el rendimiento en dominios formales mientras subestimamos la asombrosa dificultad del mundo real.

Por supuesto, algunos argumentarán que esto no es una barrera fundamental, sino un obstáculo de ingeniería temporal. Dirían que con suficientes datos y computación, la "complejidad invisible" del mundo real se puede aprender, al igual que se aprendió la complejidad de Go.

Desde esta perspectiva, el problema no es de tipo, sino de escala. Esto nos obliga a preguntar: a medida que la tecnología de sensores y la robótica mejoran, ¿estamos finalmente empezando a superar la Paradoja de Moravec? ¿O estamos simplemente descubriendo capas aún más profundas de complejidad que nunca supimos que existían?

Falacia 3: La Seducción de los "Mnemónicos Deseables"

El lenguaje no solo describe la realidad; la crea. En IA, usamos constantemente atajos antropomórficos, diciendo que un sistema "aprende", "entiende" o tiene "metas". Mitchell argumenta que esta práctica de usar "mnemónicos deseables" es profundamente engañosa, engañando no solo al público sino a los propios investigadores.

Cuando un *benchmark* se llama "Evaluación General de Comprensión del Lenguaje" (GLUE) y un modelo supera la línea base humana, los titulares declaran que la IA ahora entiende el lenguaje mejor que los humanos. ¿Pero lo hace?

El término "loro estocástico" fue acuñado como un poderoso antídoto, redefiniendo lo que hacen los LLM como una imitación sofisticada en lugar de comprensión. Esto no es solo un juego semántico, argumenta Mitchell; crea un modelo mental defectuoso que lleva a una confianza equivocada, animándonos a implementar sistemas en situaciones de alto riesgo donde la falta de verdadera comprensión puede tener graves consecuencias.

Una crítica justa es que estos términos son un atajo cognitivo necesario. A cierto nivel de complejidad, el comportamiento emergente de un sistema se vuelve funcionalmente indistinguible de la "comprensión", y discutir si realmente comprende es una distracción filosófica incomprobable.

Pero eso todavía deja una pregunta crucial: ¿podemos desarrollar un vocabulario más preciso y menos antropomórfico para describir las capacidades de la IA? ¿O es nuestro lenguaje centrado en el ser humano la única herramienta que tenemos para razonar sobre estas nuevas formas de inteligencia, con todo el bagaje que eso implica?

Falacia 4: El Mito de la Mente Virtual

Esta es la falacia más filosófica y, en mi opinión, la más importante. Es la suposición profundamente arraigada de que la inteligencia es, como el software, una forma de procesamiento de información pura que puede separarse de su cuerpo.

Esta metáfora del "cerebro como computadora" lleva a la creencia de que la IAG es simplemente una cuestión de escalar la computación para igualar el poder de procesamiento bruto del cerebro. Es desafiada por Mitchell y muchos otros con la tesis de la cognición encarnada, una visión de la ciencia cognitiva que sostiene que la inteligencia está inextricablemente ligada a tener un cuerpo que interactúa con el mundo. Si esto es correcto, entonces nuestro enfoque actual podría estar creando sistemas cada vez más sofisticados que son fundamentalmente frágiles porque carecen de una comprensión fundamentada.

Aquí es donde llegamos a la gran línea de batalla intelectual en la IA moderna. El principal contraargumento se puede enmarcar en términos del famoso ensayo de Rich Sutton, "La Lección Amarga", que argumenta que toda la historia de la IA nos ha enseñado que los intentos de construir estructuras cognitivas similares a las humanas (como la encarnación) siempre son superados por métodos generales que simplemente aprovechan la computación a gran escala.

Desde este punto de vista, la encarnación no es un requisito previo mágico para la inteligencia; es solo otro problema endiabladamente complejo que cederá a más datos y poder de procesamiento.

Esta tensión plantea una pregunta crítica para el futuro: ¿los modelos multimodales que pueden procesar imágenes y texto representan un paso significativo hacia la resolución del problema de la encarnación? ¿O son solo una versión más sofisticada de la misma mente desencarnada, un cerebro en una cuba digital ligeramente más grande?

¿Qué es la Inteligencia, Realmente?

A medida que profundizamos en estas falacias, emerge un patrón más profundo. No son solo cuatro errores aislados; son síntomas de un cisma fundamental en cómo el mundo de la IA piensa sobre la inteligencia misma. De nuevo, mi objetivo no es tomar partido, sino evitar caer en heurísticas baratas o banderas ideológicas, y en su lugar evaluar cuál de estos paradigmas nos da un mapa más útil de la realidad.

Por un lado, tienes lo que llamaré el Paradigma Cognitivo, defendido por pensadores como Mitchell y su mentor, el superestrella investigador y filósofo de IA Douglas Hofstadter. Esta visión ve la inteligencia como un fenómeno complejo, integrado y encarnado. Asume que las cosas que asociamos con la inteligencia humana —el sentido común, las emociones, los valores, un sentido de sí mismo— son probablemente componentes inseparables del todo, que emergen de una rica interacción con un mundo físico y social.

Desde esta perspectiva, el camino hacia la IAG requiere una comprensión científica profunda de estos componentes integrados, no solo más poder de procesamiento.

Por otro lado está el Paradigma Computacionalista, que es la filosofía implícita detrás de muchos de los laboratorios y empresas líderes de hoy, y mejor capturada por La Lección Amarga. Este postula que los mayores avances siempre han venido de métodos generales que aprovechan la computación a gran escala, en otras palabras, de escalar las cosas.

En este paradigma, la inteligencia es una cualidad más abstracta e independiente del sustrato de optimización. Problemas como la encarnación no son barreras fundamentales; son solo tareas computacionales increíblemente complejas que eventualmente serán resueltas por modelos cada vez más grandes y chips cada vez más rápidos.

Por supuesto, no es una dicotomía perfecta. La mayoría de los investigadores son pragmáticos, como yo, trabajando en algún lugar en el medio. Pero estos dos paradigmas representan los polos del debate, y la tensión entre ellos define todo el campo. Da forma a qué investigación se financia, qué sistemas se construyen y, en última instancia, a qué visión del futuro estamos corriendo colectivamente.

Por Qué Importa Este Debate

Este debate no es solo un juego de salón académico. Estas falacias tienen un efecto dominó masivo en toda la sociedad porque oscurecen una regla fundamental de la tecnología y la economía: no hay almuerzo gratis, solo compensaciones.

El bombo generado por el pensamiento falaz no es solo un error inocente; es el combustible de un poderoso motor económico. La intensa competencia entre los gigantes tecnológicos, la avalancha de capital de riesgo y la carrera geopolítica de la IA dependen de una narrativa constante de avances inminentes que cambiarán el mundo. Esta economía política del bombo nos obliga a una serie de compensaciones peligrosas.

Primero, cambiamos el progreso a largo plazo por el bombo a corto plazo.

Las falacias crean un ciclo de financiación inestable, de auge y caída. Durante una primavera de IA, el capital fluye hacia proyectos que pueden producir demostraciones impresionantes, a menudo basadas en *benchmarks* estrechos. Esto priva de recursos a la investigación lenta, metódica y fundamental necesaria para resolver los problemas difíciles como el sentido común y el razonamiento. El resultado es un campo que se tambalea de una burbuja de bombo a la siguiente, dejando un rastro de proyectos abandonados y promesas incumplidas que desencadenan el inevitable invierno de la IA.

Segundo, cambiamos la confianza pública por la emoción del mercado.

El ciclo de prometer demasiado y cumplir poco es profundamente corrosivo. Cuando usamos mnemónicos deseables para describir un sistema que "entiende", y luego falla de maneras espectaculares y sin sentido en el mundo real, genera ansiedad y escepticismo públicos. Estudios recientes muestran que el público percibe a los científicos de IA de manera más negativa que a casi cualquier otro campo, específicamente debido a una percibida falta de prudencia. Esto no es un sentimiento vago; es una reacción directa a las consecuencias no deseadas de implementar sistemas frágiles y sobrevalorados.

Finalmente, y lo más crítico, cambiamos la validación responsable por la velocidad de comercialización.

Aquí es donde las consecuencias se vuelven más graves. Creer que un sistema está en un continuo con la inteligencia general, o que realmente "entiende" el lenguaje, lleva a su implementación prematura en dominios de alto riesgo.

Cuando un chatbot de salud mental, que es fundamentalmente, al menos hoy, un sofisticado emparejador de patrones, da consejos dañinos a una persona en crisis, es un resultado directo de estas falacias. Cuando dependemos demasiado de sistemas frágiles en la atención médica, las finanzas o los vehículos autónomos, estamos haciendo una apuesta peligrosa, cambiando la seguridad del mundo real por la ilusión de progreso.

Conclusión

Entonces, ¿dónde nos deja esto? El valor de las falacias de Mitchell no radica solo en detectar el bombo, sino en exponer la profunda y productiva tensión entre estas dos poderosas formas de pensar sobre la inteligencia. No podemos ignorar las falacias, pero tampoco podemos negar el increíble poder que altera el mundo del paradigma de escalado que las alimenta.

Mitchell en su artículo compara la IA moderna con la alquimia. Produce resultados deslumbrantes e impresionantes, pero a menudo carece de una teoría profunda y fundamental de la inteligencia.

Es una metáfora poderosa, pero creo que una conclusión más pragmática es ligeramente diferente. El desafío no es abandonar nuestra poderosa alquimia en busca de una ciencia pura de la inteligencia. El objetivo, al menos desde un punto de vista pragmático, debería ser infundir nuestra alquimia actual con los principios de la ciencia, para hacer que el escalado sea más inteligente, seguro y fundamentado, integrando los conocimientos obtenidos con tanto esfuerzo sobre cómo funciona realmente la inteligencia.

El camino a seguir, creo, requiere más que solo humildad intelectual. También requiere la voluntad de sintetizar estas cosmovisiones aparentemente opuestas y un compromiso con una reevaluación incansable de la tecnología que tenemos delante. La pregunta final no es si debemos elegir el camino del escalado o el camino de la ciencia cognitiva, sino cómo podemos entrelazarlos para guiar el poder bruto de nuestra alquimia moderna de IA con la profunda comprensión de una verdadera ciencia de la inteligencia.

Adaptado del original con permiso explícito del autor.

¿Es el cerebro una computadora? A primera vista, la respuesta podría parecer un rotundo no. Los cerebros y las computadoras son muy diferentes. Los cerebros son biológicos, hechos de material orgánico —cosas viscosas—, mientras que las computadoras son dispositivos electrónicos hechos de materiales no orgánicos —cosas que hacen clic—, prácticamente lo opuesto a los cerebros. Asunto resuelto, ¿verdad?

Pero, ¿es esta una diferencia significativa? Cuando preguntamos si dos cosas son equivalentes, la respuesta puede variar enormemente dependiendo de cómo las estemos comparando. Podemos centrarnos en de qué están hechas las cosas o en cómo se ven, pero a menudo estos son los criterios de comparación más superficiales y menos interesantes.

Tomemos un enfoque diferente por un segundo y preguntémonos en qué se parecen dos cosas con respecto a lo que pueden hacer; es decir, comparando su funcionalidad. ¿Es esta una comparación relevante? Aquí hay un ejemplo de por qué puede haber algo de sustancia en esto. Piensa en el concepto de silla. ¿Cuántas formas, materiales, colores, tamaños y estilos puedes imaginar que podría tener una silla?

Una silla de madera y una silla de acero son muy diferentes en composición, proceso de fabricación, durabilidad, etc., pero siguen siendo equivalentes en términos de para qué se usan las sillas: para sentarse. ¿Es un taburete una silla? ¿Es una mecedora una silla? ¿Qué tal una silla para gamers, o el asiento de tu auto, o en lo que se sientan los astronautas dentro de un cohete? Vaya, si hablamos de cosas en las que te puedes sentar, ¡hasta una roca lo suficientemente plana es una silla!

Pero, ¿por qué estamos hablando de sillas? ¿Qué tiene que ver esto con los cerebros y las computadoras? Es una buena pregunta, y este es el punto que quiero destacar. Cuando comparamos cosas, un punto de comparación a menudo muy significativo es con respecto a lo que las cosas pueden hacer. Es decir, comparar las cosas en términos de su función. Si dos cosas realizan la misma función, son, en cierto sentido, equivalentes. Llamemos a esto un paradigma funcionalista y volvamos a la cuestión de si los cerebros y las computadoras son equivalentes.

En este artículo, quiero abordar esta pregunta desde el punto de vista del funcionalismo computacional, una forma específica de funcionalismo que explicaré con más detalle más adelante. Lo que quiero hacer aquí es, primero, convencerte de que esta pregunta es mucho más profunda de lo que parece a primera vista y, segundo, darte algunos argumentos de ambos lados de la discusión. Como es habitual en estos artículos filosóficos, no te daré (ni puedo darte) una respuesta definitiva, pero espero que al final estés mejor informado y, quizás, te diviertas un poco en el proceso.

Suscríbete ahora

¿Qué es el funcionalismo computacional?

Comenzaremos por desglosar la pregunta "¿son los cerebros y las computadoras equivalentes?" y definiremos exactamente qué entendemos por "cerebro", "computadora" y, bueno, "equivalente". Luego, revisaremos algunos de los contraargumentos más comunes a la hipótesis computacionalista y, finalmente, presentaremos algunas razones por las que uno podría creer que los cerebros son, de hecho, "solo" computadoras.

¿Qué es un cerebro?

A primera vista, esto parece una pregunta obvia. Un cerebro es esa materia viscosa dentro de tu cráneo donde, aparentemente, ocurre toda la cognición. Es donde, de alguna manera que todavía no entendemos del todo, piensas tus pensamientos y sientes tus sentimientos. También es donde, según nos dicen, reside algo tan elusivo como la conciencia.

Sin embargo, volvamos a nuestro ejemplo de la silla. Hay muchas cosas que no se parecen a los cerebros humanos pero que, aun así, tienen una función similar. Otros animales tienen cerebros, aunque en muchos casos muy similares a los nuestros. Pero luego tienes a los pulpos. ¡Tienen algo así como 2/3 de sus neuronas en sus brazos! Pero casi nadie afirmaría que no tienen al menos una forma limitada de cognición. ¿Y qué hay de los extraterrestres? ¿Creemos que cualquier ser vivo, sintiente y autoconsciente que exista tendrá algo sorprendentemente similar a este trozo de carne viscoso y arrugado que llamamos cerebro?

Como hemos visto, para un funcionalista, estas diferencias no son importantes. Lo que nos importa cuando hablamos de cerebros es la función que realizan. ¡De eso se trata el funcionalismo! El funcionalista afirmará que lo que un cerebro es, es lo que un cerebro hace. La cognición, la sensibilidad, la conciencia, todas las experiencias subjetivas, se definen completamente en términos de su función. Entonces, cuando los funcionalistas evocan el concepto de cerebro, están pensando en lo que un cerebro hace: en resumen, albergar una mente.

Así que definamos cerebro como el tipo de sustrato físico que puede albergar una mente, con todos los complejos procesos cognitivos, experiencias subjetivas, emociones, qualia y todo lo demás que quieras afirmar que una mente hace.

¿Qué es una computadora?

Como antes, esto parece una pregunta obvia, pero a estas alturas ya sabemos que no debemos apresurarnos a una conclusión. Intuitivamente, una computadora es algo que realiza formas avanzadas de cálculo. Puedes tener computadoras centrales, de escritorio, portátiles, teléfonos inteligentes, relojes inteligentes, minicomputadoras como una Raspberry Pi y tipos de computadoras muy extraños como las que van dentro de un automóvil autónomo o una nave espacial.

Además, aunque la mayoría de las computadoras actuales están hechas de transistores de silicio dispuestos en placas de circuito impreso muy compactas, esta no es la única forma en que se podría implementar una computadora. Antes de las computadoras totalmente electrónicas, teníamos computadoras electromecánicas con válvulas y partes móviles que sonaban como trenes. Y algunos tipos locos han propuesto más de un diseño de una computadora hidráulica en pleno funcionamiento. Incluso tenemos prototipos bioeléctricos que mezclan materia viscosa con circuitos tradicionales.

Entonces, al igual que antes, pensemos en la función de una computadora. Esto es mucho más fácil que con los cerebros porque, a diferencia de los cerebros, que son cosas que existen en la naturaleza, las computadoras son algo que nosotros inventamos. Y tenemos todo un campo en la ciencia de la computación llamado teoría de la computabilidad dedicado precisamente a estudiar lo que una computadora puede hacer.

En resumen, una computadora es una construcción matemática abstracta capaz de computar cualquier función efectivamente computable. Una función efectivamente computable es cualquier función matemática que se puede calcular con una serie finita de pasos mecánicos, sin recurrir a adivinanzas o inspiración mágica; en otras palabras, un algoritmo. Las computadoras electrónicas modernas son una de las posibles encarnaciones físicas de tal abstracción, pero difícilmente la única posibilidad.

Así que, definamos una computadora como cualquier dispositivo que sea capaz de computar todas las funciones computables.

¿Qué es el computacionalismo?

Ahora estamos listos para reformular nuestra pregunta original en términos más precisos.

Empecemos con el funcionalismo y avancemos. Cuando se habla de teorías de la mente, el funcionalismo es la teoría de que todos los procesos cognitivos están completamente caracterizados por su función. Esto significa que, por ejemplo, lo que sea que sea la conciencia, se trata solo de lo que la conciencia hace. En otras palabras, si tienes alguna forma de reproducir lo que hace la conciencia, o cualquier otro proceso cognitivo, no importa qué sustrato uses; lo que tendrás es genuinamente lo mismo.

Dicho de manera más audaz, cualquier sistema que realice las mismas funciones que una mente, es una mente. Punto.

El funcionalismo computacional va un paso más allá y afirma que todos estos procesos cognitivos son en realidad funciones computables. Eso significa que una computadora suficientemente compleja y programada adecuadamente podría realizar estas funciones en la misma medida que un cerebro y, por lo tanto, presumiblemente albergaría una mente. Más formalmente, afirma que todos los procesos cognitivos son de naturaleza computacional y, por lo tanto, pueden, en principio, ser implementados en un sustrato diferente a los cerebros biológicos, siempre que soporte la computación de propósito general.

En otras palabras, el computacionalismo es precisamente la afirmación de que los cerebros son computadoras, entendiendo ambos términos con todos los matices que ya hemos discutido.

Para ser claros, el computacionalismo no afirma que las computadoras modernas sean conscientes, ni siquiera que nuestros sistemas de IA más avanzados estén en el camino correcto para llegar a ser verdaderamente inteligentes o conscientes. Simplemente afirma que existe alguna manera de construir una computadora, al menos en principio, que sea autoconsciente, plenamente inteligente y consciente, incluso si no tenemos ni idea de lo que se necesita para construir una.

Ahora, hay al menos dos formas de computacionalismo, llamémoslas débil y fuerte (estas son mis definiciones, no son estándar). El computacionalismo débil es solo la afirmación de que la cognición es computación. Esto significa que todas las formas de inteligencia —entendida como resolución de problemas, razonamiento, etc., independientemente de si hay un ser sintiente involucrado— son solo formas avanzadas de computación. En otras palabras, no hay nada súper-computacional en la inteligencia humana, animal, extraterrestre o cualquier otra forma de inteligencia. Una computadora suficientemente poderosa puede ser tan inteligente como cualquier otra cosa.

El computacionalismo fuerte va más allá y afirma que la conciencia, la sensibilidad, la autoconciencia, los qualia, es decir, todas las experiencias subjetivas, también son de naturaleza computacional y, por lo tanto, una computadora suficientemente poderosa con el software correcto sería, de hecho, consciente y experimentaría un mundo interior tal como presumimos que todos los humanos y muchos animales lo hacen.

El computacionalismo se remonta a McCulloch y Pitts, los padres del conexionismo. Fueron los primeros en sugerir seriamente que la actividad neuronal es computacional y en proponer un modelo matemático para ella, precursor de las redes neuronales artificiales modernas. Sin embargo, no fue hasta bien entrada la década de los 60 que el computacionalismo comenzó a desarrollarse como una teoría filosófica de la mente.

Pero quizás el ejemplo más famoso de una perspectiva computacionalista en la cultura popular es el Test de Turing. En su artículo fundacional de 1950, Alan Turing, reconocido por todos como el padre de la ciencia de la computación (¡las máquinas de Turing llevan su nombre!), propuso lo que él llamó "el juego de imitación", un experimento mental para determinar si una computadora estaba pensando.

En este experimento mental, una computadora y un humano se colocan detrás de puertas cerradas y solo pueden comunicarse con un segundo humano —el juez— a través de una interfaz de chat. El juez puede preguntar lo que quiera a ambos participantes y, en última instancia, debe decidir cuál es la computadora y cuál es el humano. Si la computadora logra confundir al juez humano la mayoría de las veces, entonces —afirma Turing— debemos reconocer que la computadora está realizando algo indistinguible de lo que los humanos llaman pensar. Y según el funcionalismo, eso significa que la computadora está pensando.

Ahora que hemos aclarado nuestros conceptos, abordemos la pregunta en sí.

¿Es cierto el funcionalismo computacional?

Ya hemos descartado el contraargumento más obvio al computacionalismo: que los cerebros son viscosos mientras que las computadoras no lo son. Pero incluso si ignoramos esta diferencia superficial en la composición, todavía existen importantes diferencias estructurales entre los cerebros y las computadoras existentes que no podemos pasar por alto. Y luego, una vez que aclaremos esos contraargumentos más directos, nos centraremos en diferencias más matizadas y profundas entre cerebros y computadoras.

La independencia de la mente del sustrato

Las computadoras tienen una estructura claramente jerárquica, desde el hardware hasta el software, comenzando en los transistores y construyéndose hasta los registros, el microprocesador, el kernel, el sistema operativo y las aplicaciones, en una descripción muy simplista. Si alguna parte que realiza una función específica se rompe, todo se desmorona.

El cerebro, por el contrario, parece tener alguna estructura, pero es mucho más fluida y flexible. Puedes extirpar regiones enteras del cerebro y, a menudo, se reorganizará y aprenderá a realizar las funciones afectadas casi a la perfección.

Por otro lado, parece haber una distinción clara entre software y hardware en las computadoras, hasta el punto de que puedes mover el software independientemente del hardware. No existe tal cosa en el cerebro; hasta donde sabemos, no podemos simplemente pegar tus pensamientos en algún dispositivo portátil y cargarlos en un traje de carne recién hecho para obtener una segunda copia tuya.

¿Quizás sea esto? Tal vez esta naturaleza interconectada y aparentemente inseparable de los pensamientos y el sustrato en el cerebro es fundamental para la conciencia y la autoconciencia. ¿Quizás mientras puedas sacar la mente del cerebro, no puede ser una mente verdadera?

Bueno, si este fuera el caso y la mente fuera inseparable del cerebro, esta revelación aniquilaría la mayoría de las religiones conocidas. Olvídate de cualquier forma de supervivencia trascendental del alma. Tan pronto como tu cerebro muera, tu mente estará muerta. No hay subida a la nube, ni metafórica ni literalmente. Sin embargo, aunque esto ciertamente podría molestar a un montón de gente, no soy una persona religiosa, así que no me preocupa este argumento en particular.

E incluso si este fuera el caso —que una mente verdadera debe ser inseparable del sustrato—, esta aparente separación explícita entre hardware y software es, en primer lugar, solo un detalle de implementación y, en segundo lugar, una mentira útil.

Si miras dentro de un microprocesador moderno, no es trivial distinguir dónde termina el hardware y dónde comienza el software. No solo hay código programable ejecutándose a nivel de microprocesador sino que, aún más importante, los circuitos lógicos más simples dentro de una computadora son tanto hardware como software al mismo tiempo. La simple disposición ingeniosa de transistores en un diseño específico es suficiente para crear un circuito que suma, multiplica o hace básicamente cualquier otra cosa computable. El hardware es el software en estos casos.

Entonces, aunque algunas cosas —como los cables— son claramente hardware y otras —como el navegador que estás usando ahora mismo— son claramente software, simplemente no es cierto que haya un punto de separación claro entre estos dos conceptos. Es solo una abstracción útil.

Y luego tenemos las redes neuronales artificiales, como las que impulsan a ChatGPT. Estos son aproximadores universales, lo que significa que pueden computar cualquier función con un grado arbitrario de precisión. Y están mucho más cerca de esta idea de una arquitectura flexible donde el software y el hardware se entrelazan de maneras que son difíciles de diferenciar claramente. Si bien las redes neuronales artificiales modernas están lejos de ser una simulación precisa de los cerebros —y eso es a propósito, ni siquiera intentan simular cerebros—, no hay ninguna razón a priori por la que no podamos construir una computadora de silicio que imite perfectamente los procesos físicos dentro de un cerebro biológico real.

Esto significa que cualquier ataque al computacionalismo basado en diferencias estructurales de instancias reales de cerebros y computadoras es inútil. No podemos generalizar una afirmación negativa a partir de un conjunto finito de ejemplos negativos. No importa cuántas computadoras encuentres que no son cerebros, nunca podrás estar seguro de que una computadora no pueda, por definición, ser equivalente a un cerebro. Este es solo el típico problema de la inducción, por lo que debemos encontrar otro ángulo de ataque, algo que apunte a la definición fundamental de computadora, en lugar de a cualquier implementación concreta.

Sintaxis versus semántica

El ataque más famoso al computacionalismo es el experimento de la habitación china de John Searle. Está destinado a ser un contraargumento al juego de imitación de Turing, para demostrar que incluso si un sistema puede simular la comprensión sin fallas, es posible que no esté comprendiendo en absoluto. Aquí tienes un resumen rápido.

Supongamos que un hombre es colocado dentro de una habitación, donde no tiene comunicación con el mundo exterior excepto a través de una ventana de "entrada" y otra de "salida". A través de la ventana de entrada, el hombre recibe de vez en cuando hojas de papel con símbolos extraños. Usando un libro presumiblemente muy grande, el único trabajo del hombre es seguir un conjunto de instrucciones muy simples que determinan, para cualquier combinación de símbolos de entrada, qué otros símbolos extraños debe escribir en una nueva hoja y enviarla por la ventana de salida.

Ahora, aquí está el giro de la trama. Los símbolos de entrada son en realidad preguntas bien escritas en chino, y los símbolos de salida son las respuestas correspondientes, totalmente correctas. El enorme libro está diseñado de tal manera que, para cada posible pregunta de entrada, se calculará una respuesta apropiada. Entonces, visto desde afuera, parece que este sistema no solo entiende chino, sino que puede responder cualquier pregunta plausible en este idioma. Sin embargo —argumenta Searle—, ni el hombre, ni el libro, ni ninguna parte del sistema entiende realmente las preguntas.

El punto de Searle es que la sintaxis y la semántica son dos niveles de comprensión cualitativamente diferentes, de tal manera que ningún grado de manipulación sintáctica —que es, según Searle, todo lo que una computadora puede hacer— puede equivaler a comprender realmente la semántica de un mensaje dado. Para todos los expertos hoy en día es evidente que ChatGPT solo está manipulando vectores de una manera que resulta en respuestas mayormente coherentes, pero no hay una "mente" real dentro de ChatGPT que realice ningún tipo de "comprensión".

En un sentido similar, Searle cree que cualquier computadora es fundamentalmente incapaz de una verdadera comprensión en cualquier sentido significativo de la palabra, simplemente porque la computación actúa a nivel sintáctico y es incapaz de cerrar la brecha hacia la semántica.

El ataque de Searle es bastante fuerte. No hay mucho que un computacionalista pueda mostrar como defensa más que intentar señalar algún lugar en la habitación china donde ocurre la comprensión. La mejor defensa de este tipo es afirmar que incluso si ninguna parte del sistema —ni el hombre, ni el libro, ni la habitación misma— puede decirse que entiende algo, el sistema en su conjunto sí entiende. Pero esto suena como un argumento del tipo "dios de los huecos", un intento desesperado de encontrar la respuesta donde no la hay.

Qualia y conocimiento

Otro desafío interesante para el computacionalismo es el experimento mental conocido como "La habitación de Mary", concebido por el filósofo Frank Jackson. Trata sobre la naturaleza de las experiencias subjetivas —o qualia— y cuán importantes son para fundamentar el conocimiento sobre la realidad. El experimento es el siguiente.

Mary es una neurocientífica que ha vivido toda su vida en una habitación en blanco y negro, aprendiendo todo lo que hay que saber sobre la visión del color a través de libros y literatura científica. Conoce todos los hechos físicos sobre el color y cómo el cerebro humano procesa los estímulos visuales. Sin embargo, nunca ha experimentado el color real. Un día, finalmente sale de la habitación y ve el color por primera vez. La pregunta es si Mary aprende algo cualitativamente nuevo sobre el color, algo que solo se puede aprender a través de la experiencia directa en lugar de leyendo o estudiando indirectamente el fenómeno de la percepción del color.

Para muchos, la experiencia de Mary es efectivamente cualitativamente nueva. Si piensas así, esto plantea preguntas críticas para el computacionalismo. Si el computacionalismo afirma que todos los procesos cognitivos pueden reducirse a funciones computacionales, entonces uno podría preguntarse si conocer todos los hechos físicos sobre un fenómeno es equivalente a experimentarlo. La habitación de Mary sugiere que hay una brecha entre el conocimiento y la experiencia, una que no puede ser cerrada solo por la computación. Esto desafía la idea de que una computadora, sin importar cuán avanzada sea, podría genuinamente "saber" o "experimentar" los qualia de la misma manera que un humano.

Las implicaciones de este experimento mental son profundas para la perspectiva computacionalista. Sugiere que incluso si una computadora pudiera simular todas las funciones de un cerebro, aún podría carecer de las experiencias intrínsecas y subjetivas que caracterizan la conciencia humana. En otras palabras, mientras que una computadora podría procesar información sobre los colores y responder apropiadamente, no "sabría" cómo es ver el rojo o sentir el calor del sol, experiencias que son inherentemente cualitativas y personales.

Esta distinción entre conocimiento y experiencia subraya una limitación fundamental del computacionalismo: puede explicar la mecánica de la cognición, pero no aborda la riqueza de la experiencia consciente. Como tal, el experimento mental de la habitación de Mary sirve como un recordatorio conmovedor de que entender el cerebro como una computadora puede pasar por alto la naturaleza esencial de los qualia.

Por otro lado —podrías argumentar—, si Mary realmente sabía todo lo que se podía saber sobre la percepción del color excepto "cómo se siente", ¿en qué se diferencia eso de la percepción real? En cierto sentido, el cerebro no "experimenta" realmente el color, solo percibe impulsos eléctricos que están correlacionados con la frecuencia de las ondas de luz que llegan a través de nuestros ojos. ¿No se puede explicar la percepción del color como solo otra capa de simulación sobre un cerebro realmente ciego y puramente computacional?

En cualquier caso, la habitación de Mary no nos impide plantear entidades mecánicas extremadamente avanzadas que emulen todos los aspectos físicos de la percepción del color. No hay nada inherentemente no mecánico en nuestra comprensión actual de cómo la frecuencia de la luz estimula ciertos sensores que producen una señal eléctrica en el cerebro. Es la experiencia subjetiva de cómo se siente ver el rojo lo que no podemos reducir a esa explicación mecanicista. Y esto es precisamente lo que el funcionalismo intenta capturar: si dos mecanismos realizan exactamente las mismas funciones, son lo mismo.

Otros ataques

Además de los argumentos prominentes contra el computacionalismo, han surgido varias otras críticas que desafían la noción de equiparar cerebros con computadoras. Dos líneas de razonamiento notables provienen de las ideas de Roger Penrose sobre la comprensión matemática y la perspectiva conexionista sobre el razonamiento.

La no computabilidad de la creatividad humana

Roger Penrose, un renombrado físico y matemático, argumenta que ciertas intuiciones en matemáticas son inherentemente no computables. Postula que los matemáticos humanos pueden comprender conceptos y resolver problemas que trascienden la computación algorítmica, sugiriendo que hay aspectos del pensamiento humano que no pueden ser replicados por ninguna computadora, independientemente de su complejidad.

Como ejemplo, Penrose cree que aunque tenemos una prueba formal de que algunos problemas matemáticos son de hecho irresolubles usando cualquier método de computación efectiva, los matemáticos humanos pueden invocar algunas habilidades hiper-computacionales para obtener conocimientos sobre estos problemas. En el mismo sentido, muchos proponen que la creatividad y las expresiones artísticas en los humanos son ejemplos claros de procesos de pensamiento no computables.

Argumentos conexionistas contra la manipulación de símbolos

El conexionismo es una teoría alternativa de la mente que postula que los procesos mentales pueden entenderse a través de redes de unidades simples (como las neuronas) en lugar de a través de la manipulación simbólica tradicional. Los defensores del conexionismo argumentan que el razonamiento no requiere necesariamente la representación explícita de símbolos o la manipulación de esos símbolos según reglas formales. En cambio, sugieren que los procesos cognitivos pueden emerger de las interacciones dentro de una red, donde el conocimiento está distribuido en lugar de localizado.

Esta perspectiva desafía la suposición computacionalista de que el razonamiento debe basarse en representaciones estructuradas y manipulación de símbolos, proponiendo en cambio que la cognición puede surgir de procesos más fluidos y dinámicos similares a los que se encuentran en las redes neuronales, y que la manipulación simbólica del tipo que ocurre en un procedimiento algorítmico tradicional es, en el mejor de los casos, un fenómeno emergente en el cerebro, pero no una característica necesaria de una mente real.

Conclusiones, por ahora

¿Es el cerebro una computadora? Sinceramente, no lo sabemos. Es una pregunta difícil, quizás la más difícil que podamos concebir, porque desafía nuestra herramienta más valiosa y efectiva para descubrir verdades sobre el mundo: la ciencia. Sígueme por un segundo.

La ciencia —entendida como el proceso de generar hipótesis, producir predicciones a partir de esas hipótesis y probar los resultados de esas predicciones mediante experimentos para falsificar o validar las hipótesis— es fundamentalmente un proceso computacional. Cualquier procedimiento para la verificación experimental debe establecerse en un conjunto de pasos tan simples e inequívocos como para ser replicable por otros científicos en todo el mundo, incluso si no hablan nuestro idioma.

Además, el lenguaje de la ciencia es la matemática, el más estricto —y computable— de todos los lenguajes creados por el ser humano. Y las computadoras también están en todas partes en la ciencia. Hoy es inconcebible realizar cualquier experimento medianamente complejo sin la ayuda de computadoras para ejecutar simulaciones, encontrar patrones y, bueno, computar cosas. La ciencia es profundamente computacional, y siempre lo ha sido. Los padres de la ciencia, Galileo, Newton, Leibniz y el resto, se centraron explícitamente en fenómenos cuantificables y medibles, las únicas cosas en las que todos podíamos estar de acuerdo que eran ciertas.

Pero el funcionamiento interno de la mente humana y la naturaleza de la conciencia pueden no ser ni medibles ni cuantificables. Incluso cuando terminemos de mapear todas las vías neuronales del cerebro y descubrir todo lo que sucede a todos los niveles físicos en esa materia viscosa, y lo carguemos en una computadora, podríamos terminar creando simplemente otra Mary, que sabe todo sobre cómo funciona una mente, pero es incapaz de experimentar verdaderamente cómo se siente tener una.

Y la parte triste es que, si ese es el caso —si la mente es de hecho no computable—, entonces es posible que nunca lo sepamos con certeza. Después de todo, la mejor herramienta que tenemos para entender cómo funcionan las cosas —la ciencia— puede no ser más que un algoritmo elegante.

O quizás, esa es la parte divertida.

Deja un comentario

Adaptado del original con permiso explícito del autor.

Los Modelos Grandes de Lenguaje (LLMs), como ChatGPT, Gemini o Claude, nos han dejado con la boca abierta. Pueden escribir poemas, generar código, resumir textos y mantener conversaciones que parecen sorprendentemente humanas. Esto ha llevado a una pregunta inevitable: ¿están estas IAs empezando a "razonar"?

Cada vez más, vemos modelos que se anuncian como "modelos de razonamiento". La idea es que no solo responden, sino que "piensan" los pasos intermedios para llegar a una solución, imitando el proceso mental humano. Y aunque sus resultados en problemas complejos son impresionantes, fallan constantemente en tareas que requieren un razonamiento lógico y formal estricto.

Esto nos obliga a preguntarnos: ¿es solo cuestión de tiempo y más datos para que razonen perfectamente? ¿O existe una barrera fundamental en su diseño que se lo impide? En este artículo, argumentaremos que, debido a su naturaleza, los LLMs actuales tienen limitaciones intrínsecas que les impiden, y probablemente siempre les impedirán, dominar el razonamiento formal.

Suscríbete ahora

Primero, ¿de qué "razonamiento" estamos hablando?

"Razonar" es una palabra con muchos matices. Existe el razonamiento de sentido común, el analógico, e incluso el emocional. Sin embargo, en el campo de la inteligencia artificial, cuando hablamos de razonamiento, nos referimos a algo mucho más específico y medible: el razonamiento deductivo.

Piensa en las matemáticas o en Sherlock Holmes. El razonamiento deductivo es la capacidad de partir de unas premisas (datos iniciales) y aplicar reglas lógicas estrictas para llegar a una conclusión que es indudablemente verdadera. No hay lugar para la ambigüedad.

Así que, cuando decimos que "los LLMs no pueden razonar", no estamos haciendo un juicio de valor sobre su inteligencia general. Nos referimos a que son incapaces de ejecutar este tipo de deducción lógica de manera fiable.

¡Pero los humanos tampoco somos lógicos!

Es cierto, los humanos somos a menudo irracionales. Sin embargo, usar esto como excusa para los fallos de la IA es una falacia.

1. Los humanos sí podemos razonar formalmente: Aunque nos cueste, nuestro cerebro tiene la capacidad de aprender y aplicar la lógica deductiva. Lo demuestran dos milenios de matemáticas y ciencia.

2. No medimos la tecnología con la misma vara: No aceptaríamos un avión que a veces se cae porque "los humanos no podemos volar", o una calculadora que a veces suma mal porque "la gente se equivoca". A la tecnología le exigimos fiabilidad. Para el razonamiento lógico, ya existen sistemas informáticos (llamados "SAT solvers") que son prácticamente perfectos y rapidísimos. El listón ya está muy alto.

El objetivo es que los LLMs puedan usar el lenguaje natural para acceder a este tipo de razonamiento perfecto, no que simplemente sean "tan buenos como un humano distraído".

Limitación #1: La máquina de probabilidades

La primera barrera, y la más importante, es la naturaleza estocástica (basada en probabilidades) de los LLMs. Un LLM no "entiende" el mundo. Lo que hace es predecir cuál es la siguiente palabra más probable en una secuencia, basándose en los miles de millones de textos con los que fue entrenado.

El problema es que la lógica no funciona con probabilidades, sino con certezas. Un razonamiento es correcto o incorrecto. No puede ser "más o menos plausible". Los LLMs confunden la plausibilidad con la corrección. Si una frase se parece a las frases correctas que vio en su entrenamiento, la considerará "correcta". Pero en el mundo de la lógica, una afirmación falsa puede parecerse mucho a una verdadera. Esta es la raíz de las famosas "alucinaciones": el modelo genera una respuesta que es estadísticamente plausible, pero factualmente incorrecta.

El eslabón perdido: La validación

Aquí hay una distinción clave. Otros sistemas expertos en lógica también usan la aleatoriedad, pero de una forma muy diferente. La usan para explorar de forma creativa posibles caminos hacia una solución. Sin embargo, una vez que encuentran un camino candidato, aplican un proceso de validación 100% determinista y riguroso para verificar si la solución es correcta.

Un LLM carece de este paso de validación fiable. Usa su mismo motor probabilístico tanto para generar la respuesta como para revisarla. El autor del artículo original lo explica con una genial analogía: si pones a un millón de monos a teclear, eventualmente uno escribirá El Quijote. El problema de los LLMs es que los monos son también los editores. No hay un Shakespeare que filtre el texto bueno del malo.

Limitación #2: Un presupuesto de pensamiento fijo

La segunda barrera tiene que ver con su arquitectura. Un LLM realiza una cantidad fija de operaciones por cada palabra que procesa. Imagina dos acertijos lógicos que ocupan el mismo espacio. Uno es fácil y el otro, extremadamente difícil. Un LLM dedicará exactamente la misma cantidad de esfuerzo computacional a ambos.

Esto es un problema fundamental. En computación, hay problemas que, aunque se describan brevemente, requieren una cantidad de cálculo inmensa. No importa cuán grande sea un LLM, siempre podremos encontrar un problema que necesite más "presupuesto de pensamiento" del que tiene disponible. En esencia, no pueden "sentarse a pensar" indefinidamente hasta dar con la solución; su cómputo es limitado por tarea.

¿Y las nuevas técnicas?

Para superar estas limitaciones, han surgido técnicas como la "Cadena de Pensamiento" (Chain-of-Thought o CoT), donde se le pide al modelo que "piense en voz alta" y escriba los pasos intermedios. Si bien esto mejora los resultados, no resuelve el problema de raíz:

• La "Cadena de Pensamiento" sigue siendo probabilística: Cada paso del "razonamiento" es generado por el mismo motor de probabilidades, por lo que puede alucinar en cualquiera de los pasos.

• La autocrítica es poco fiable: La investigación muestra que la capacidad de un LLM para autocorregirse es muy limitada sin feedback externo. Peor aún, a veces la autocrítica puede degradar el resultado, haciendo que el modelo se encierre en un ciclo de argumentos erróneos y se vuelva más convencido de su conclusión incorrecta.

• Conectar herramientas externas no es la panacea: Conectar un LLM a una calculadora o un motor lógico es prometedor. El problema es que el LLM debe "traducir" la pregunta al formato de la herramienta. Si alucina y le pasa datos incorrectos a la calculadora, el resultado será incorrecto. Es el clásico problema de "basura entra, basura sale".

La pregunta del millón

Los modelos más recientes como GPT-5, DeepSeek R1, o Gemini 2.5 Pro son realmente impresionantes. Parecen razonar mucho mejor, y resuelven problemas mucho más complejos. Sin embargo, representan una evolución, no una revolución.

Estos modelos integran el CoT y la autocrítica directamente en su entrenamiento, haciéndolos mucho más eficientes y precisos. Pero no cambian la arquitectura fundamental. Siguen siendo sistemas probabilísticos con un cómputo limitado. Mitigan los problemas, a veces de forma espectacular, pero no los eliminan por completo.

Conclusión

Los LLMs son una de las tecnologías más útiles que hemos creado. Pero no son motores de razonamiento lógico precisos. Su arquitectura les impone barreras fundamentales para garantizar la corrección lógica.

Esto nos obliga a ser conscientes de sus límites. El objetivo no es tener un "Data" de Star Trek, un ser perfectamente lógico. Quizás lo que estamos construyendo es más parecido a "Bender" de Futurama (menos el sarcasmo)—un asistente increíblemente hábil, útil, pero no siempre fiable y que requiere supervisión.

Incluso es posible que este problema sea incomputable. Traducir la ambigüedad del lenguaje humano a una solución lógica perfecta podría ser algo que, sencillamente, ninguna máquina podrá hacer jamás.

Quizás, el objetivo final no sea reemplazar el juicio humano, sino aumentarlo. Y saber dónde terminan las capacidades de la herramienta y dónde debe empezar nuestro propio razonamiento es, y seguirá siendo, la clave.

Deja un comentario

Tenemos noticias emocionantes que compartir. Un grupo de profesores e investigadores del Grupo de Inteligencia Artificial de la Universidad de La Habana estamos empacando las maletas para embarcarnos en una gira nacional por cinco provincias de nuestra isla.

Nuestro objetivo es simple pero ambicioso: llevar la conversación sobre la Inteligencia Artificial a cada rincón, compartir conocimientos, y encontrarnos con todos los profesionales, emprendedores y curiosos interesados en esta tecnología que está cambiando el mundo. Queremos crear un espacio para aprender, debatir y, sobre todo, colaborar.

Suscríbete ahora

Nuestro Itinerario

Estaremos visitando las siguientes provincias en estas fechas. ¡Anota en tu calendario!

• Guantánamo: 11 de agosto

• Santiago de Cuba: 13 de agosto

• Las Tunas: 15 de agosto

• Sancti Spíritus: 18 de agosto

• Cienfuegos: 20 de agosto

¿Qué haremos en cada provincia?

En cada parada de nuestro tour, ofreceremos un programa variado de actividades diseñadas para diferentes públicos:

• Conferencias Abiertas: Daremos una charla titulada "IA: Retos y Oportunidades", donde exploraremos el estado actual de la IA y cómo podemos impulsarla desde Cuba. También presentaremos nuestro proyecto "Cecilia, un Modelo de Lenguaje Cubano", para los más interesados en el desarrollo técnico.

• Entrenamientos Especializados: Impartiremos tres talleres prácticos de 4 horas cada uno:

  • Para no especialistas: Una introducción a los modelos de lenguaje (LLMs) y cómo usarlos en tu día a día.

  • Para desarrolladores: Aprenderemos a desarrollar aplicaciones utilizando LLMs con herramientas de código abierto.

  • Para docentes: Exploraremos cómo la IA puede ser una aliada para crear contenido educativo, planes de clase y evaluaciones.

• Taller de Creación de Proyectos: Facilitaremos un taller interactivo para generar ideas y diseñar proyectos de IA que puedan tener un impacto positivo y real en cada provincia.

¿Cómo puedes participar?

¡Queremos verte allí! Para conocer los horarios, las sedes exactas y cómo inscribirte en las actividades de tu provincia, te invitamos a ponerte en contacto con el Presidente de la Unión de Informáticos de Cuba (UIC) de tu territorio o con las autoridades locales del gobierno. Ellos tendrán toda la información detallada.

Esta es una oportunidad única para conectar y construir juntos el futuro de la inteligencia artificial en Cuba.

¡Nos vemos en la carretera!

El siguiente artículo ha sido adaptado del libro Inteligencia Artificial: Mayormente Inofensiva, en proceso de edición.

Si quieres ser el primero en leer la versión digital de este libro, suscribete a este newsletter.

Suscríbete ahora

La idea de una máquina pensante ha cautivado a la humanidad durante siglos. No se trata de una obsesión tecnológica moderna, a pesar de la atención que recibe en la actualidad. El antiguo sueño de construir autómatas se remonta a los mitos sobre golems y hazañas de la ingeniería como el Turco Mecánico.

Uno de los aspectos más fascinantes de la historia de la Inteligencia Artificial (IA) ha sido la tensión dialéctica entre dos enfoques fundamentales y aparentemente antagónicos. Por un lado, se encuentra la IA simbólica, basada en la lógica y las reglas; por otro, la IA estadística, centrada en los datos y los patrones. Este debate refleja la disputa filosófica entre el racionalismo, que postula que el conocimiento se adquiere a través de la razón pura, y el empirismo, que sostiene que se aprende de la experiencia.

En este artículo se explorará la historia de la IA desde la perspectiva de esta dualidad, para comprender cómo estas filosofías han moldeado su pasado, definido su presente y, finalmente, comienzan a converger para dar forma a su futuro.

La Era Fundacional (década de 1950 – finales de la década de 1960)

La historia de la IA como campo científico comienza formalmente en el verano de 1956, cuando un grupo de investigadores, entre ellos John McCarthy, Marvin Minsky, Nathaniel Rochester y Claude Shannon, se reunió en el Dartmouth College. En este evento, conocido como el Proyecto de Investigación de Verano de Dartmouth sobre Inteligencia Artificial, se acuñó oficialmente el término "Inteligencia Artificial". El taller estableció a la IA como una disciplina académica legítima con un objetivo ambicioso: construir máquinas capaces de pensar como los seres humanos.

En estos primeros años, el paradigma dominante fue la IA simbólica. Los investigadores creían que la inteligencia artificial se podía alcanzar codificando el conocimiento y el razonamiento humano en reglas explícitas. Una de las demostraciones más notables de este enfoque fue The Logic Theorist, un programa que podía probar teoremas matemáticos utilizando lógica simbólica, imitando la forma en que los humanos resuelven problemas.

Los juegos de mesa también se convirtieron en un campo de pruebas para la IA simbólica. Algoritmos como Minimax permitieron a las primeras computadoras jugar al ajedrez y a las damas explorando todos los movimientos posibles. Proyectos como el General Problem Solver buscaban resolver cualquier problema matemático formalmente decidible, partiendo de la premisa de que si se podían escribir todas las reglas, la máquina sería lo suficientemente inteligente como para encontrar la solución.

Fue en esta época cuando ELIZA, el primer chatbot, capturó la imaginación del público. Desarrollado a mediados de la década de 1960, ELIZA simulaba ser un psicoterapeuta rogeriano utilizando simples reglas de coincidencia de patrones. A pesar de su simplicidad, muchos usuarios sentían que ELIZA los comprendía, un fenómeno que se conoció como el "efecto ELIZA". Este sistema, puramente simbólico, encendió el sueño de una IA verdaderamente conversacional.

Paralelamente, una idea diferente comenzó a tomar forma: el conexionismo. Inspirado en la biología, este enfoque sostenía que neuronas simples podían conectarse para formar sistemas inteligentes. El Perceptrón, una de las primeras redes neuronales artificiales, fue diseñado para aprender patrones directamente de los datos. Esta perspectiva, alineada con el empirismo, prometía una inteligencia que no requería una programación explícita de cada regla.

Sin embargo, el optimismo inicial no duró. Los sistemas simbólicos resultaron ser frágiles y no podían adaptarse a situaciones fuera de sus reglas programadas. Por su parte, los perceptrones se encontraron con limitaciones teóricas, como su incapacidad para representar relaciones no lineales complejas. Este estancamiento condujo al "Primer Invierno de la IA", un período de reducción de la financiación y el interés público.

La Era del Conocimiento (década de 1970 – mediados de la década de 1990)

Tras el primer invierno, los métodos simbólicos resurgieron con fuerza. Durante las décadas de 1970 y 1980, los sistemas expertos alcanzaron el éxito comercial. Estos programas de IA imitaban la toma de decisiones de un experto humano en un dominio específico y acotado, como el diagnóstico de infecciones sanguíneas (MYCIN) o la configuración de sistemas informáticos (XCON). El objetivo era capturar y representar el conocimiento humano mediante reglas y hechos elaborados a mano.

Estos sistemas utilizaban sofisticados motores de inferencia para aplicar dichas reglas y extraer conclusiones, llevando el enfoque racionalista a su máxima expresión.

Mientras tanto, la investigación en redes neuronales continuaba discretamente. Un avance fundamental fue la popularización del algoritmo de retropropagación (backpropagation) a mediados de la década de 1980, que proporcionó una forma eficiente de entrenar redes neuronales multicapa y superar así sus limitaciones anteriores.

Sin embargo, los sistemas expertos también mostraron sus debilidades. Eran extremadamente costosos de construir y mantener, y su naturaleza simbólica los hacía increíblemente frágiles ante cualquier cambio fuera de su dominio programado. La constatación de que la IA simbólica no podía escalar a la complejidad del mundo real, sumada a la insuficiencia de datos e infraestructura computacional para la IA estadística, condujo al "Segundo Invierno de la IA".

La Era de Internet (finales de la década de 1990 – principios de la de 2010)

La llegada de Internet lo cambió todo. La explosión de datos digitales creó el combustible que la IA estadística necesitaba. Con enormes volúmenes de datos y mayor poder de cómputo, algoritmos de aprendizaje automático diseñados décadas atrás comenzaron a funcionar de manera efectiva.

Técnicas como las máquinas de vectores de soporte (SVM) y los árboles de decisión se hicieron populares, impulsando aplicaciones del mundo real. Los motores de búsqueda las utilizaron para clasificar páginas web, los proveedores de correo para filtrar spam y los sitios de comercio electrónico para recomendar productos.

La IA simbólica no desapareció, sino que encontró nuevos roles. Las ontologías y la web semántica ofrecieron formas de estructurar la información, a menudo en colaboración con métodos estadísticos. El Knowledge Graph de Google es un claro ejemplo de esta sinergia, permitiéndole dominar la industria de las búsquedas.

Fue también en esta época cuando comenzaron a manifestarse los primeros efectos negativos de la IA, como las burbujas de filtro y las cámaras de eco creadas por los sistemas de recomendación. Estos sistemas, al reflejar sesgos existentes en los datos, demostraron que incluso aplicaciones aparentemente inofensivas podían tener un impacto social significativo.

La Era del Aprendizaje Profundo (mediados de la década de 2010 – principios de la de 2020)

A mediados de la década de 2010, el Aprendizaje Profundo (Deep Learning) representó un salto cualitativo para la IA. El punto de inflexión llegó en 2012, cuando una red neuronal convolucional profunda llamada AlexNet ganó el desafío de reconocimiento visual ImageNet con un rendimiento sorprendente.

AlexNet demostró el poder de las redes neuronales profundas para aprender características complejas a partir de datos masivos, consolidando el enfoque empirista. El aprendizaje profundo se expandió rápidamente al procesamiento del lenguaje natural, el reconocimiento de voz y el aprendizaje por refuerzo. Un hito fue la victoria de AlphaGo de Google DeepMind sobre los mejores jugadores de Go del mundo, combinando la búsqueda de árbol Monte Carlo con el aprendizaje profundo para abordar un problema considerado inabordable para la IA simbólica tradicional.

Este período dio lugar a una realización crítica conocida como "La Lección Amarga" (The Bitter Lesson), acuñada por Rich Sutton. Sostiene que, a largo plazo, los métodos generales que aprovechan la computación masiva tienden a ser más robustos que aquellos que intentan incorporar conocimiento humano de forma artesanal.

En 2017, la arquitectura Transformer revolucionó el procesamiento del lenguaje natural gracias a su innovador mecanismo de atención. Esto allanó el camino para los Modelos de Lenguaje Grandes (LLM), como BERT y las primeras versiones de GPT. Nada de esto hubiera sido posible sin los avances en hardware (GPU y TPU) y la democratización del conocimiento a través de marcos de código abierto como TensorFlow y PyTorch.

La Era Generativa (principios de la década de 2020 – presente)

Hoy nos encontramos en la era generativa. La llegada de ChatGPT en 2022, junto con modelos como DALL-E y Midjourney, ha permitido que la IA no solo analice, sino que también cree contenido novedoso y coherente, desde texto hasta imágenes y código.

Esta era cierra el círculo que comenzó con ELIZA. Mientras que aquel chatbot se basaba en reglas simples, ChatGPT es una maravilla estadística que ha aprendido el lenguaje humano a partir de cantidades masivas de datos.

Sin embargo, las limitaciones inherentes de estos modelos estadísticos —como las alucinaciones y la falta de un razonamiento robusto— han renovado el interés en la IA neuro-simbólica. Este campo emergente no busca elegir un bando, sino integrar lo mejor de ambos mundos: el poder de reconocimiento de patrones de los modelos estadísticos con el razonamiento lógico y el conocimiento estructurado de la IA simbólica.

Conclusiones

La historia de la IA ha sido un dinámico recorrido entre la lógica precisa de la IA simbólica y el poder adaptable de la IA estadística. Hoy, el futuro no parece residir en la victoria de un enfoque sobre el otro, sino en su combinación inteligente. Los enfoques híbridos, como la IA neuro-simbólica, prometen construir sistemas que no solo sean inteligentes, sino también robustos, explicables y capaces de un verdadero razonamiento de sentido común.

Al mismo tiempo, el inmenso poder de estos sistemas nos obliga a enfrentar serios desafíos éticos, desde la difusión de desinformación y la amplificación de sesgos hasta las implicaciones existenciales de crear entidades autónomas superinteligentes.

La historia de la Inteligencia Artificial está lejos de haber terminado. Es un proyecto vivo que abarca todas las áreas del quehacer humano. Existe un lugar en este campo para tecnólogos, pero también para humanistas, economistas, historiadores, artistas y políticos. Los próximos años prometen ser extraordinariamente emocionantes.

Inauguramos esta sección del newsletter AI Cuba con una semana marcada por tensiones y contradicciones que definen el presente y futuro de la inteligencia artificial. Desde la automatización del descubrimiento científico hasta la formalización de una nueva guerra fría tecnológica, analizamos las tres historias que no puedes ignorar y lo que significan para nuestra región.

Suscríbete ahora

La Columna del Editor

Comenzamos con una mirada crítica a las tres noticias que consideramos más relevantes de la semana.

El Nacimiento del "Científico de IA": ¿Promesa o Espejismo?

Esta semana vimos la consolidación de un nuevo y provocador paradigma: la IA que no solo analiza datos, sino que intenta formular hipótesis, diseñar experimentos y verificar sus propios descubrimientos. La idea de un "Científico de IA" es potente. Para América Latina, sugiere una vía para que nuestras universidades y centros de investigación puedan superar barreras de financiamiento y acelerar la innovación.

Sin embargo, es crucial inyectar una dosis de pensamiento crítico aquí. Seamos claros: un verdadero "Científico de IA" autónomo está, por ahora, lejos de ser una realidad. Los Modelos de Lenguaje Grandes (LLM) que impulsan estos prototipos arrastran problemas fundamentales como las alucinaciones y los sesgos.

Debemos preguntarnos: ¿cómo se manifiestan estos errores en un contexto científico? Una alucinación podría generar una hipótesis completamente falsa pero plausible, desviando recursos valiosos. Los sesgos en los datos de entrenamiento podrían perpetuar o incluso amplificar desigualdades en la investigación médica o social.

Por tanto, aunque el avance es innegable, debemos tener cuidado de no extrapolar demasiado rápido de un prototipo de investigación a un producto realmente usable y fiable. El verdadero desafío no es solo construir estos sistemas, sino también desarrollar los marcos para validar rigurosamente sus resultados y entender sus limitaciones.

La Paradoja de OpenAI: Democratización Calculada y Miedo Estratégico.

OpenAI, el líder del mercado, ha hecho un movimiento de ajedrez magistral. Por un lado, liberó modelos de "peso abierto" muy potentes, dándole a los desarrolladores una herramienta increíble para innovar localmente, sorteando barreras económicas y comerciales.

Esto podría ser el impulso que necesitan iniciativas como "LatamGPT". Pero, simultáneamente, su CEO, Sam Altman, expresa un temor casi apocalíptico sobre su próximo modelo, GPT-5, comparándolo con el Proyecto Manhattan.

No nos engañemos: es una estrategia. Al regalar la tecnología de ayer, devalúan a la competencia. Al generar miedo sobre la de mañana, justifican mantenerla cerrada y propietaria, asegurando que cuando necesitemos el máximo poder, tengamos que volver a ellos. Es una jugada para consolidar su dominio a largo plazo.

Se Formaliza la "Guerra Fría" de la IA: Dominación vs. Derechos.

El tablero geopolítico se ha definido con dos movimientos clave. Por un lado, la Casa Blanca lanzó su "America's AI Action Plan", una estrategia de desregulación agresiva para ganar la carrera de la IA y exportar su tecnología a amigos y aliados.

Por otro lado, la Ley de IA de la Unión Europea entró en vigor, con un enfoque basado en derechos y un alcance global. América Latina se encuentra en medio de esta batalla, con la mayoría de sus proyectos regulatorios inspirados en el modelo europeo.

La región debe decidir si se alinea con el bloque de la dominación a cambio de tecnología, o con el de los principios, asumiendo mayores costos. La forma en que naveguemos esta fractura definirá nuestra autonomía digital para las próximas décadas.

Titulares de la Semana

Para terminar, un resumen de los titulares de la semana.

Ciencia y Tecnología

• El "Científico de IA": Surgen sistemas capaces de automatizar el ciclo completo de la investigación, desde la hipótesis hasta la verificación.

• Avances en Energía: La IA se utiliza para descubrir y diseñar nuevos materiales para baterías, prometiendo un almacenamiento de energía más rápido y sostenible.

• Diagnóstico Médico Eficiente: Desarrollan un sistema de IA que interpreta imágenes médicas con una fracción de los datos de entrenamiento que se requerían antes.

• Predicción de Ciclones: Google DeepMind anuncia el uso de IA para mejorar el seguimiento y la predicción de ciclones, una herramienta vital para la mitigación de desastres.

Productos y Servicios

• OpenAI Libera Modelos: La compañía lanza los modelos de peso abierto gpt-oss-120b y gpt-oss-20b-two, gratuitos para uso comercial y personalización.

• Ventas en "Piloto Automático": La plataforma Outreach lanza agentes de IA que automatizan la prospección y el seguimiento de clientes.

• Ciberseguridad Inteligente: HPE presenta un copiloto de IA que analiza continuamente la seguridad de la red y detecta vulnerabilidades.

• Contenido Sin Restricciones: xAI de Elon Musk lanza Grok-Imagine, una herramienta de generación de imágenes y video que permite explícitamente contenido NSFW, reavivando el debate sobre la moderación.

Economía

• Impacto en el Empleo: Un informe revela que la IA está vinculada a más de 10,000 recortes de empleo en EE.UU. en 2025.

• La Generación Z, la más Afectada: Un economista de Goldman Sachs advierte que los trabajadores tecnológicos jóvenes son los más vulnerables a la automatización.

• Inversión Récord: La inversión en startups de IA en Norteamérica superó los $145 mil millones en el primer semestre de 2025.

• Capital de Riesgo en LatAm: México supera a Brasil en capital de riesgo por primera vez desde 2012, con un creciente interés en la región.

Geopolítica y Regulación

• Plan de Acción de EE.UU.: La Casa Blanca publica un plan para eliminar regulaciones y acelerar la innovación para "ganar la carrera de la IA".

• Entra en Vigor la Ley de IA de la UE: Se activan las obligaciones de transparencia para los modelos de IA de propósito general que operan en el mercado europeo.

• Críticas al Plan de EE.UU.: Grupos como la Asociación Médica Estadounidense expresan su profunda preocupación por la falta de supervisión del plan de la Casa Blanca.

• Inspiración para América Latina: El enfoque europeo basado en riesgos sigue siendo la principal fuente de inspiración para los legisladores de la región.

En Resumen

Esta semana nos deja con una lección clara: la inteligencia artificial ya no es una conversación de nicho para tecnólogos. Es el campo de batalla donde se definen economías, geopolítica y el futuro del trabajo. Cada avance trae consigo tanto una promesa como una nueva complejidad estratégica que debemos entender.

Si este análisis te ha resultado útil y crees que puede servirle a otros, te invitamos a compartir este boletín con tus amigos, colegas y en tus redes. Ayúdanos a hacer crecer la conversación sobre la IA en nuestra región.

¡Hasta la próxima semana!

Compartir