Verdad, inteligencia y los límites del conocimiento humano ante la inteligencia artificial.

Hay una pregunta que parece sencilla y que, sin embargo, contiene una dificultad filosófica considerable: ¿existe el error?

La pregunta presupone que existe algo respecto a lo cual podemos equivocarnos. Llamamos verdad a la correspondencia entre una afirmación y aquello que acontece; llamamos error a su ausencia. Pero esta distinción, aparentemente elemental, empieza a mostrar sus límites cuando introducimos una inteligencia capaz de producir afirmaciones, demostraciones y decisiones que exceden nuestra capacidad de comprensión y verificación.

Quizá el problema de la inteligencia artificial no sea, en última instancia, que pueda equivocarse. El problema más profundo es que podría llegar a tener razón sin que nosotros estemos en condiciones de saberlo.

Para entender la magnitud de esta dificultad conviene separar dos conceptos que durante siglos hemos mantenido estrechamente vinculados: verdad e inteligencia.

La verdad pertenece, en principio, al mundo de aquello que es. La inteligencia, a nuestra capacidad de construir representaciones, establecer relaciones, anticipar consecuencias y actuar sobre ese mundo. Una proposición no se convierte en verdadera porque quien la formule sea inteligente, ni una afirmación deja de serlo porque nadie consiga comprenderla. Sin embargo, históricamente hemos utilizado nuestra propia inteligencia como instrumento privilegiado para reconocer la verdad. Hemos supuesto que comprender algo era, de alguna manera, poder justificarlo.

Esta relación empieza a romperse.

Desde una perspectiva semántica, la verdad no es una propiedad del discurso por el mero hecho de estar bien construido. Una frase puede ser coherente, precisa y gramaticalmente impecable y, sin embargo, referirse a algo inexistente. Los modelos de lenguaje han hecho visible esta separación. Son capaces de producir estructuras lingüísticas de extraordinaria complejidad sin que exista una garantía equivalente de correspondencia con los hechos. La fluidez no es conocimiento; la coherencia no es verdad.

Pero sería un error reducir el problema a las conocidas alucinaciones de los modelos de lenguaje. Eso sería observar únicamente la superficie de una transformación mucho más importante.

La cuestión verdaderamente inquietante aparece cuando invertimos el supuesto: ¿qué sucede cuando una inteligencia artificial afirma algo que es cierto, pero que ningún ser humano puede validar?

Si una máquina formula una hipótesis física que no podemos contrastar experimentalmente, una demostración matemática que no podemos seguir o una estrategia que supera nuestra capacidad de anticipación, ¿quién puede determinar si estamos ante un descubrimiento o ante una alucinación particularmente sofisticada?

La pregunta ya no es solamente si la máquina dice la verdad. Es si conservamos la capacidad de reconocerla.

La inteligencia no es una medida de la verdad

Desde una perspectiva materialista, la verdad no depende de nuestra capacidad para comprenderla. El mundo existe con independencia de las representaciones que construimos sobre él. La realidad impone condiciones, ofrece resistencias y produce consecuencias que no están sujetas a nuestras preferencias. Una teoría física puede ser elegante y estar equivocada; una predicción puede resultar correcta por casualidad; una explicación puede funcionar durante un tiempo y quedar refutada por una observación posterior.

La verdad, en este sentido, no es una propiedad que concedemos a las ideas, sino una relación que intentamos establecer entre nuestras afirmaciones y una realidad que no controlamos.

Sin embargo, esa relación requiere procedimientos de validación. Y estos procedimientos no son idénticos en todas las disciplinas.

En física, una afirmación debe enfrentarse, directa o indirectamente, con la observación y la experimentación. Una teoría puede ser matemáticamente consistente y, aun así, no describir nuestro universo. En matemáticas, la validación opera de otra manera: una demostración formal puede establecer la validez de un teorema respecto de unos axiomas y unas reglas de inferencia. No necesitamos observar físicamente todos sus casos, aunque sí necesitamos confiar en la corrección del sistema formal y de su aplicación.

La distinción es fundamental: demostrar no es experimentar, y experimentar no es comprender.

En ambos casos existe una estructura de justificación que permite separar la afirmación verdadera de la falsa. Pero ¿qué sucede cuando el procedimiento que produce la justificación supera también nuestra capacidad de inspección?

Cuando la inteligencia supera a su observador

El ajedrez y el Go ofrecen un ejemplo extraordinariamente revelador.

Durante siglos fueron considerados expresiones privilegiadas de la inteligencia humana. No eran simples juegos de cálculo: exigían intuición, estrategia, anticipación y una comprensión profunda de estructuras complejas. Sin embargo, los sistemas de aprendizaje por refuerzo han alcanzado niveles de juego superiores a los mejores jugadores humanos y han desarrollado movimientos y estrategias que, en ocasiones, resultan difíciles de interpretar desde nuestra experiencia.

AlphaZero es un caso paradigmático. Aprendió a jugar al ajedrez, al shogi y al Go mediante partidas contra sí mismo, partiendo únicamente de las reglas. Su superioridad no se estableció porque los humanos comprendieran cada decisión, sino porque los resultados competitivos y las evaluaciones de sus partidas permitieron medirla.

Aquí aparece una distinción que trasciende el juego: podemos demostrar que una inteligencia resuelve mejor un problema sin comprender cómo lo resuelve.

No necesitamos conocer todos los fundamentos internos de una estrategia para constatar que vence sistemáticamente a las estrategias que sí comprendemos. La evidencia de su superioridad puede ser objetiva, aunque nuestra explicación de esa superioridad permanezca incompleta.

El problema es que el ajedrez ofrece unas reglas cerradas y un resultado observable. La vida, la ciencia y el conocimiento no disponen siempre de ese mecanismo de validación.

Una inteligencia artificial podría proponer una solución a un problema científico que ningún investigador pudiera desarrollar por sí mismo. Podría encontrar relaciones matemáticas que escaparan a nuestra intuición o construir modelos predictivos cuyo funcionamiento interno resultara opaco. En esos escenarios, la distancia entre producir conocimiento y comprenderlo comenzaría a ser estructural.

No estaríamos necesariamente ante una inteligencia que piensa como nosotros, sino ante una forma de inteligencia cuyos resultados podrían ser accesibles mientras sus razones permanecen fuera de nuestro alcance.

El problema de la autoridad epistemológica

Los modelos de lenguaje introducen, además, una dificultad específica. No solo pueden producir respuestas incorrectas: pueden hacerlo con una apariencia de certeza que resulta indistinguible, para un lector no especializado, de una explicación fundamentada.

El trabajo de Sebastian Farquhar y sus colaboradores, publicado en Nature en 2024, muestra precisamente la dificultad de detectar determinadas alucinaciones mediante la incertidumbre semántica. La investigación es importante porque reconoce que la evaluación de una respuesta no puede reducirse a comprobar su fluidez ni a observar si el modelo parece seguro.

Pero hay una dificultad adicional que merece nuestra atención.

Supongamos que una inteligencia artificial afirma una proposición que ningún experto humano puede verificar directamente. Podemos pedirle que la explique, que presente sus cálculos o que produzca una demostración formal. Sin embargo, si sus explicaciones también exceden nuestra capacidad de comprensión, volvemos al punto de partida.

Aceptar su afirmación porque procede de una inteligencia superior sería una forma de autoridad, no una demostración. Rechazarla porque no podemos comprenderla sería confundir nuestros límites cognitivos con los límites de lo posible.

Entre ambos extremos queda un territorio incómodo: el de las afirmaciones cuya verdad puede ser real, pero cuya justificación todavía no podemos apropiarnos.

La cuestión se convierte entonces en un problema epistemológico y también político: ¿quién certifica el conocimiento cuando la capacidad de producirlo y la capacidad de validarlo dejan de coincidir?

Una nueva frontera entre saber y creer

Tal vez debamos abandonar una identificación que ha acompañado a nuestra tradición intelectual: la idea de que saber algo implica poder comprenderlo plenamente.

La historia de la ciencia ya contiene formas parciales de esta separación. Dependemos de instrumentos, mediciones, cálculos y comunidades de especialistas para aceptar resultados que no podríamos reproducir individualmente. La diferencia es que ahora podríamos depender de sistemas cuya capacidad de razonamiento supere no solo la de un individuo, sino la de cualquier observador humano.

Esto no significa que debamos concederles infalibilidad. Una inteligencia superior en determinadas tareas no es necesariamente una inteligencia superior en todas ellas. Tampoco significa que los modelos actuales constituyan ya una superinteligencia general. Sería intelectualmente deshonesto afirmar algo que todavía no hemos demostrado.

Significa algo más preciso: estamos desarrollando sistemas capaces de producir resultados que desafían nuestra capacidad de explicación, mientras seguimos utilizando criterios de validación concebidos para inteligencias humanas.

Quizá el error no desaparezca con la inteligencia artificial. Quizá cambie de lugar.

Hasta ahora, el error era fundamentalmente una posibilidad de nuestra relación con el mundo: interpretábamos mal, calculábamos mal, observábamos mal. En adelante podría existir una segunda clase de error: el de no reconocer una verdad porque quien la ha producido se encuentra fuera de nuestro horizonte de comprensión.

Y quizá exista también el error inverso: atribuir verdad a una afirmación por el mero hecho de que procede de una inteligencia que nos supera.

La diferencia entre ambas posibilidades es decisiva.

No debemos confundir la superioridad intelectual con la autoridad sobre lo real. La inteligencia puede encontrar caminos que no conocemos, pero la verdad no se somete a jerarquías. Una máquina puede descubrir una regularidad que el ser humano jamás habría imaginado; eso no convierte automáticamente en verdadero todo lo que produzca.

La cuestión, por tanto, no consiste en decidir si debemos confiar en las máquinas o desconfiar de ellas. Consiste en desarrollar procedimientos de validación capaces de sobrevivir a la desaparición de nuestra superioridad intelectual.

Tal vez estemos ante una transformación más profunda que la sustitución de unas herramientas por otras. Durante siglos, el ser humano fue simultáneamente el sujeto que formulaba las preguntas, el instrumento que buscaba las respuestas y el juez que decidía si eran verdaderas. La inteligencia artificial amenaza con separar esas tres funciones.

Y cuando eso ocurra, tendremos que enfrentarnos a una posibilidad que nuestra tradición filosófica apenas ha considerado: que exista conocimiento sin comprensión humana, inteligencia sin una justificación accesible para nosotros y verdades cuya existencia podamos admitir sin estar todavía en condiciones de demostrarlas.

La pregunta inicial permanece, aunque ahora adquiere otro significado.

¿Existe el error?

Sí. Pero quizá el mayor error de nuestra época consista en seguir creyendo que nuestra capacidad para reconocer la verdad es el límite de lo que puede ser verdadero.

Referencias

He seleccionado tres trabajos académicos que respaldan los argumentos centrales, sin convertir el texto en una revisión bibliográfica:

1. Farquhar, S. et al. (2024). Detecting hallucinations in large language models using semantic entropy. Nature, 630, 625–630. Consultar artículo. Estudia la detección de alucinaciones y la incertidumbre semántica.
2. Silver, D. et al. (2018). A general reinforcement learning algorithm that masters chess, shogi, and Go through self-play. Science, 362, 1140–1144. Consultar artículo. Fundamenta el ejemplo de la inteligencia que alcanza un rendimiento superior al humano sin depender del conocimiento estratégico humano.
3. Augenstein, I. et al. (2024). Factuality challenges in the era of large language models and opportunities for fact-checking. Nature Machine Intelligence, 6, 852–863. Consultar artículo. Aborda la dificultad de establecer la factualidad de las respuestas generadas por modelos de lenguaje.

Blog personal sobre actualidad, filosofía, tecnología y electrónica.

“La experiencia es el nombre que cada uno da a sus errores.”