LA MANIFIESTA SUPERIORIDAD DEL PENSAMIENTO INFORMAL SOBRE EL PENSAMIENTO FORMAL
(Un viaje personal desde la lógica formal hasta la sociología)
Juan Carlos Barajas Martínez *
La matemática puede definirse como aquella disciplina en la cual
ni sabemos nunca lo que decimos ni si lo que decimos es cierto.
Bertrand Russel. Mysticism and Logic (1901)
Cuando yo era joven, muy joven, tenía mucha relación con un matrimonio mal avenido. Aquella pareja, tan joven como yo, se había casado demasiado pronto, sin haber alcanzado la necesaria madurez para desarrollar, de manera correcta, algo tan complicado como la convivencia entre un hombre y una mujer.
Discutían suavemente cuando conversaban, discutían con agresividad si tenían un desacuerdo sin importancia y discutían con violencia cuando había un desacuerdo con fundamento que afectaba a su forma de pensar o de afrontar los problemas. A veces una misma discusión pasaba por los tres grados que acabo de describir.
Las discusiones siempre seguían el mismo patrón, él comenzaba por establecer una serie de premisas, esas premisas eran para él axiomas, en general derivaban de su educación, tanto familiar como académica. A partir de los axiomas establecía nuevas proposiciones e iba construyendo una teoría que se adaptaba a su visión de la realidad. Tendía a clasificarlo todo, a racionalizarlo todo. Apelaba a la economía familiar, al buen sentido, al “como Dios manda”. Intentaba no caer en contradicciones, lo que le hacía perder en flexibilidad y le llevaba muchas veces a callejones sin salida.
Ella ponía en duda todo lo que él decía. Cambiaba de asunto si sentía atrapada por la lógica de su marido y buscaba una nueva vía para incordiar lanzando el verbo como si se tratara de torpedos directos a línea de flotación. Sus razonamientos eran apelaciones a la emoción, a sus necesidades, no eran pensamientos construidos sino lanzados como azagayas. Y, por supuesto, no le importaba caer en contradicciones, lo que daba a su discurso mucha flexibilidad.
Fui testigo de muchas de aquellas discusiones. Cuando terminaban, pasado un rato, siempre tenía la sensación de que ella había ganado, él se quedaba sin palabras, terriblemente frustrado, con la rabia de aquél que se sabe poseedor de la verdad, de su verdad, pero que no podía demostrarla.
Yo no podía entenderlo, ¿dónde estaba el truco?, analizaba el pensamiento del marido y aparecía más coherente que el de la mujer, pero, tanto ellos como yo, no dudábamos que había ganado ella. ¿Por qué?
Por aquel tiempo yo tenía una terrible afición por la lógica, malsano hábito que con el tiempo logré acomodar a proporciones más justas. Creo que todo empezó cuando comencé a estudiar una asignatura que se llamaba “Lógica Informática”, era una materia especialmente bonita, pero quizás fue el profesor que la impartía –el profesor Cuena– el que me hizo esa especie de lobotomía. El profesor José Cuena Bartolomé, fallecido ya, era de esos que te haría amar hasta la asignatura más árida. Sus toques de atención en clase, su estilo, sus referencias históricas, sus chascarrillos... Todos sus alumnos –sin excepción conocida– nos acordamos de él con cariño y simpatía.
Recuerdo que podía estar horas resolviendo problemas, con claro abandono del resto de las asignaturas. Me aficioné hasta el punto que, superando el programa de la asignatura, busqué nuevos libros o artículos. A pesar de que en aquella época mi economía no era precisamente boyante compraba todo lo que caía en mis manos.
Por todo lo anterior, para mí, a los “ventipocos”, el pensamiento de tipo formal era superior a ninguna otra forma de pensar. Era de una belleza impresionante, era sutil, era mecánico pero al mismo tiempo necesitabas de la imaginación para encontrar la solución, era una gimnasia mental divertida y apasionante. Para mi todo lo que no fuera formal era impuro y, por tanto, barato y fácil.
Pero, ¿qué es el pensamiento formal? Empecemos definiendo primero qué es un sistema formal. Lo primero a destacar es que los sistemas formales están compuestos de axiomas, teoremas o fórmulas válidas y reglas de inferencia. Los primeros, los axiomas, son verdades absolutas dentro del sistema. Los teoremas o fórmulas válidas son proposiciones derivadas de los axiomas y de otros teoremas que son verdaderos en el sistema formal. Estos no son válidos por si mismos como los axiomas sino hay que demostrarlos. ¿Cómo?, haciéndolos derivar de los axiomas y teoremas previamente demostrados mediante las reglas de inferencia. La demostración es una búsqueda, casi épica, de la verdad. Este es el proceso conocido como deducción.
Un ejemplo de axioma es el postulado de Euclides que dice que por un punto exterior a una recta sólo puede pasar una paralela. Esto es verdad absoluta en el sistema formal de la Geometría Euclídea, lo cual nos parece muy sensato si tenemos en cuenta nuestra experiencia diaria, sin embargo –y es aquí dónde empieza la relatividad del asunto– en las geometrías paralelas no lo es en absoluto. Esto nos lleva a la idea de que lo que es verdad en un sistema formal no tiene por qué serlo en otro.
Dentro de la Geometría Euclídea, un teorema conocido es el de Pitágoras. Aquí la cosa no es tan obvia como con el postulado del amigo Euclides, el que el cuadrado de la hipotenusa sea igual a la suma de los cuadrados de los catetos no es tan evidente. Puede parecerlo pues nos lo han machacado tanto desde pequeñitos que nadie puede dudar de él. Pero existe una demostración y en cada paso de la demostración se aplica una regla de inferencia que está admitida en el sistema formal geométrico.
Un sistema formal sería completo si para cualquier teorema pudiera encontrarse una demostración que nos lo permitiera calificar como verdadero o como falaz.
Lo que está prohibido en un sistema formal es contradecirse. Un sistema para que sea formal debe ser coherente, es decir, en la Geometría puede demostrarse el Teorema de Pitágoras pero no puede demostrarse su antiteorema. Si algún chalado lo consiguiera habría una conversión en masa de los matemáticos a alguna de las religiones preponderantes.
Una vez asentada la base de lo que es un sistema formal continuaremos nuestra exploración lógica respondiendo a la pregunta principal, ¿qué es el pensamiento formal?, ¿cómo definirlo?
Quiero decir que voy a huir de una definición matemática del mismo por dos razones:
–En primer lugar porque ya no estoy tan loco por la lógica como hace 25 años y soy más un hombre de “letras” que de “ciencias”.
–En segundo lugar, y derivado de lo anterior, porque mi visión del problema es humanista y cuando hablamos de las personas no podemos aplicar definiciones puras a nuestra forma de pensar.
Debido a estas dos razones definiremos el pensamiento formal por aproximación, acercándonos a la formalidad pero no abrazándola sin ambages. Por tanto el pensamiento formal, para nosotros que intentamos ver el problema desde una perspectiva humanista, es un intento de las personas que lo aplican para aproximarse a la estructura y reglas de un sistema formal, pero, por la propia idiosincrasia de la mente humana, sin poder alcanzar este ideal de formalidad.
Dicho de otra manera, las emociones, los recuerdos, la experiencia, la naturaleza impide pensar formalmente de manera completa. Caemos en contradicciones continuamente por muy formal que se quiera ser. Ahora bien, admitida esta limitación humana, que –como veremos más tarde– más que limitación es ventaja, admitiremos que en general todas las personas normales, son capaces de pensar formalmente sobre todo en entornos concretos y tiempos limitados y, más aún, tendremos que admitir que todas la personas, normales o no, son capaces de pensar informalmente. Por lo tanto lo realmente maravilloso de la mente humana es que es capaz de pensar de ambas maneras.
El segundo hito importante en mi caminar por el mundo de la Lógica resultó ser el Teorema de Gödel o Goedel. Topé con él en un libro prodigioso que se llamaba “Controversia sobre mentes y máquinas”, se trataba de una recopilación de artículos de grandes matemáticos del siglo XX, escritos sobre un tema común, a saber, la mente humana, la mente humana simulada en una máquina y si esta “mente cibernética” podría superar, igualar o –al menos– imitar tan bien a la mente humana como para hacerlas indistinguibles.
Especialmente memorable es el artículo del gran matemático A. M. Turing titulado “Maquinaria computadora e inteligencia” publicado en la revista “Mind” en 1950. En él Turing contesta afirmativamente a la pregunta: ¿pueden pensar las máquinas? Y para justificar su posición desmonta todos los argumentos contrarios esgrimidos hasta el momento en que se publicó el artículo. En concreto examinó 9 argumentos que refutó con un gran sentido del humor. La 3ª refutación hacía referencia al Teorema de Goedel.
Pero el artículo de Turing fue famoso sobre todo por un test que propone para distinguir una mente humana de una cibernética cuando la condición principal del experimento es que el observador está en una habitación distinta y distante y no ve quién es quien y, para ser puristas, qué es qué. Este experimento ha sido citado en toda la literatura robótica e informática posterior. Incluso, el famoso test de comprobación de replicantes de la película “Blade runner” está basado en el de Turing.
El otro artículo superfamoso recogido en la Controversia es “Mentes, máquinas y Goedel” de J. R. Lucas, publicado originalmente en la revista “Philosophy” en 1961. Lucas mantiene una posición distinta a la de Turing indicando que el Teorema de Goedel demuestra la falsedad del mecanicismo, es decir, que las mentes no pueden ser descritas como máquinas. Para Lucas, la mente humana puede ser sustituida por máquinas, pero nunca se podrá construir una máquina como una mente, pues entonces dejaría de ser una máquina. Y la clave para asegurar esto, según él, es el Teorema de Goedel.
¿Pero que dice Goedel? Para saberlo es necesario primero hacer algo de historia de las matemáticas. A finales del siglo XIX la comunidad matemática se las prometía muy felices. Estaba segura de sí misma. Hilbert había afirmado –en un entorno en el que se consideraba que la mayoría del trabajo matemático ya estaba hecho– que se podría demostrar la coherencia de cualquier sistema formal. El método que proponía era que la consistencia de sistemas complejos se podía probar en términos de sistemas más sencillos contenidos en ellos. A este método se le denominó programa de formalización de Hilbert o, simplemente, formalismo. Goedel dio al traste con todo esto.
En realidad el teorema de Goedel no es sólo uno sino que son dos, siendo el segundo corolario del primero, y golpeando al formalismo con más virulencia en el segundo.
Existen múltiples “traducciones” de los dos teoremas del lenguaje matemático al cristiano, voy a hacer un intento de hacerlo lo más comprensible posible, espero que los matemáticos no se me echen encima.
Teorema 1º En cualquier sistema formal consistente que sea lo bastante fuerte para definir el concepto de números naturales, se puede construir una afirmación que ni se puede demostrar ni se puede refutar dentro de ese sistema.
Teorema 2º: Ningún sistema coherente se puede usar para demostrar que es coherente, sino que hay que acudir a un sistema formal más grande que lo incluya para poder asegurar su coherencia.
Bueno, así dicho no parece mucho, pero significó una auténtica revolución en las matemáticas, hasta el punto que es comparable a la revolución que significó la Teoría de la Relatividad en la física. Y es que de esos dos enunciados se han sacado muchísimas conclusiones. Conclusiones matemáticas, filosóficas, informáticas y yo creo que psicológicas y sociales.
Las primeras de ellas, la consecuencia matemática, es que demostró que el formalismo de Hilbert era erróneo, años después el propio Turing y Church acabaron de firmar su acta de defunción. Hilbert había afirmado que se podría demostrar la coherencia de un sistema acudiendo a un sistema más básico. El segundo teorema de Goedel afirma justamente lo contrario.
El primer teorema nos indica que todo sistema formal, en el que se pueden definir los números naturales, es incompleto. Es decir existen teoremas, fórmulas válidas que no pueden demostrarse. El sistema de demostración de Goedel fue especialmente curioso, utilizó una contradicción del tipo “el cretense Epiménides dice que todos los cretenses mienten” pero aplicada, nada más y nada menos, que a la parte más básica de las matemáticas: la aritmética. Esto supuso que el ambiente de autoconfianza que imperaba en el mundo matemático de principios del siglo XX se viniera abajo y brotara una fecunda crisis que hizo que se extendiera el horizonte matemático, apareciendo múltiples áreas de investigación y progreso.
Pero como no soy matemático ni metamatemático no voy a seguir comentando las consecuencias del teorema en las matemáticas, para eso hay libros ilustres, alguno de entre los cuales viene en la bibliografía al final del artículo.
Volviendo al tema de mentes humanas y cibernéticas, el teorema Goedel supone, en opinión de muchos, una limitación para las segundas que no está presente en las primeras. Supongamos un ordenador de capacidad infinita, este ordenador tendría incluso la capacidad de autoprogramarse. Este ordenador sería un sistema formal puesto que en este caso los axiomas serían las instrucciones del lenguaje de programación de su procesador y sus fórmulas válidas los programas que se constituyen a base de instrucciones de máquina. Además en el sistema formal que supone el superordenador, se puede definir el conjunto de los números naturales, ¡faltaría más!, que es la restricción que propone el teorema. Bien, pues en esta supercomputadora, existirían proposiciones, decisiones sobre las que no podría decidir si serían ciertas o falsas. En cambio, una mente humana normal, puede comprender declaraciones que son inconsistentes y falsas, precisamente por su capacidad de escapar de la formalidad.
¿Esto implicaría que las máquinas no pueden sustituirnos?, ¿se podría construir un mundo al estilo “Matrix”?, ¿se podría construir la mente positrónica de Asimov?, y en caso de existir todas estas maravillas o pesadillas predichas por la ciencia ficción, ¿les afectaría la restricción de Goedel? Hay muchas preguntas de este tipo que en realidad no son contestadas por el teorema. Mi opinión personal es que lo único que establece es que mentes y máquinas son distintas. Voy a citar literalmente a Lucas:
Esto demuestra que una máquina no puede ser un modelo completo y adecuado de una mente......Esto no quiere decir que no podamos construir una máquina capaz de simular cualquier patrón de comportamiento mental, lo que sucede es que no podemos construir una máquina que simule todo tipo de comportamiento mental........ por muy buena que sea la máquina y por mucho que mejore en todos los aspectos la actuación de la mente humana, siempre tendrá ese punto débil..... la fórmula godeliana es el talón de Aquiles de la máquina cibernética. Por cierto, esto está escrito en 1961.
En cuanto a mi paseo personal por la Lógica, el Teorema de Goedel, aparte de apasionarme durante algún tiempo, me hizo replantearme el papel de la lógica en mi vida diaria y pasado un tiempo me enfrió la pasión lógica. Dado que no existía una solución mecánica para todos los problemas tampoco era cuestión de perder el tiempo, había que tomar otras direcciones vitales. A lo mejor hoy tengo mujer e hijos gracias a Goedel.
Pero todavía no fui lo bastante sabio, quizás por la edad, para ver que el teorema estaba en la raíz de la dialéctica pensamiento formal-informal. Esta relación dialéctica, en el más puro sentido hegeliano, es una interrelación entre humanos básicamente, que es distinta de la relación máquina-humano representada en el debate anterior entre Turing y Lucas. Vamos a ver, si el pensamiento formal es una aproximación a la sistematización formal del pensamiento y, de alguna manera, podría estar afectada por la fórmula goedeliana y, al contrario, el pensamiento informal no está afectado de ninguna manera por el teorema, la conclusión es que el Teorema de Goedel representa una ventaja para el pensamiento informal.
Dicho de otro modo, si yo pienso formalmente tengo muchas oportunidades de llegar a callejones sin salida, fórmulas válidas en mi sistema formal, sobre las que no puedo afirmar la verdad o falsedad de su enunciado y me veré forzado a tomar dos posibles caminos. O bien me atasco, y mi pensamiento fallece de formalidad aguda; o bien recurro a mi informalidad natural, al fin y al cabo no soy una máquina de Turing y puedo escapar de la formalidad, usualmente a costa de mi coherencia personal cosa que a algunos humanos nos molesta pero, en cambio, a otros no parece que les represente un problema y si no miren a los políticos.
Todo esto representa el principio en el camino de la superioridad de la informalidad que está basado en las matemáticas, llevamos ya 1-0 a favor del pensamiento informal.
A pesar de mi abandono de la lógica y de lo que tenía delante de mí y no acertaba a ver, yo seguía pensado que el pensamiento formal era más puro, bonito y superior al informal.
El tercer episodio en esta relación personal con la lógica ocurrió no hace mucho tiempo, cuando mi afición a esta disciplina estaba prácticamente olvidada. En aquel momento me hallaba yo estudiando 5º de sociología, cuando me encontré con una asignatura que fue toda una sorpresa para mí, la Sociología del Conocimiento. Se trata de una aplicación de la sociología que mira al conocimiento o saber humano, y dentro de él a la ciencia, como una construcción social. Fue en el transcurso de esta singular asignatura cuando tuve la obligación de leer el libro “Conocimiento e imaginario social” de D. Bloor.
Bloor se impone la tarea de cómo la ciencia de una determinada época se ve influenciada, cuando no dirigida, por la sociedad contemporánea a esa época. Esto aparentemente resulta plausible, incluso evidente, pero hay que pensar que cuando se habla de ciencia se habla de ella como la única institución humana que es objetiva. Porque de lo que estamos hablando no es que la sociedad imponga criterios y objetivos a su ciencia sino que la misma esencia de la ciencia está filtrada por la sociedad. Los científicos tienen a gala la independencia de la creación científica así que no se toman, en general, esta idea con mucha alegría.
Pero va más allá, pues su tesis es que la mejor manera de estudiar la ciencia desde un punto de vista crítico es mediante la sociología del conocimiento a través de lo que el autor denomina “programa fuerte de la sociología”. En este contexto, Bloor nos habla del pensamiento formal.
Este autor debate sobre la compulsión de los argumentos lógicos o matemáticos, es decir, por una parte la necesidad humana de disfrazar todo pensamiento con un vestido lógico-racional y, por otra parte, la creencia generalizada en que todo pensamiento lógico formal, es puramente formal, sin ningún tipo de influencia social ni psicológica que pudiera dirigirlo. Nadie espera –como dice el profesor E. Lizcano en su artículo “La metáfora como analizador social”– que en el concepto de “raíz cuadrada” haya ninguna influencia social, parece un concepto matemático, alejado de toda moda, completamente atemporal, sin embargo, la sociología del conocimiento nos demuestra que existe una clara influencia de una sociedad agrícola sumergida en el concepto, no es casualidad el uso del término “raíz”, ni del término “extraer una raíz”.
Bloor cita la curiosa teoría del filósofo británico Mill en su libro “Lógica”. Mill dejó caer indicaciones –poco tranquilizadoras, pero apasionantes– sobre la naturaleza del razonamiento formal. Tomó como ejemplo el siguiente silogismo:
Todos los hombres son mortales
El Duque de Wellington es un hombre
Luego el Duque de Wellington es mortal
Según las reglas del silogismo, la primera premisa debe ser general para, por deducción, llegar a la conclusión que necesariamente debe ser particular.
Pero Mill tiene otra visión del silogismo. Si estás en condiciones de afirmar la primera premisa es porque sabemos ya de antemano que el Duque es mortal, y aquí viene su pregunta, ¿qué estamos haciendo cuándo concluimos o inferimos al final del silogismo? El silogismo, ¿no está razonado circularmente?, la deducción real, ¿no incumple las reglas del silogismo? Mill cree que, efectivamente, aquí se da una circularidad.
La teoría de Mill es que el razonamiento procede de lo particular a lo particular. La inferencia de la mortalidad del Duque se basa en una generalización inductiva y en una asociación de ideas; la experiencia de los casos pasados permite hacer generalizaciones inductivas fiables sobre la muerte y éstas se extrapolan de manera intuitiva para respaldar casos que parecen muy similares a otros que ya acontecieron en el pasado. Mill dice que el verdadero proceso de inferencia consiste en el tránsito de los casos particulares conocidos a casos particulares del presente, por lo que el proceso de pensamiento involucrado no depende de la generalización soportada en la premisa ”todos los hombres son mortales”.
¡Pobre Aristóteles, padre de la Lógica!, resulta al final que el proceso deductivo de un silogismo en manos de Mill se convierte en un proceso inductivo.
Para Mill esta forma que tiene el pensamiento de manifestarse inductivamente es consustancial a la naturaleza humana, naturaleza, añadiría yo, empírica. Si forma parte de la naturaleza humana, se trata de un acto universal y, sin duda, social. Y es ahí donde entra en juego, según Bloor, la sociología. Como ya hemos comentado una de las mayores sorpresas que proporciona la sociología es que la naturaleza social del ser humano se manifiesta tozudamente en la ciencia humana, hasta en la aparentemente más resistente a esta influencia: las matemáticas.
Para Bloor la Lógica Formal es un modo de expresar las cosas, una disciplina impuesta, una estructura más o menos artificial. Lo notable es el orden de causalidad y prioridad que revela el análisis de Mill. La idea central es que los principios formales de la razón son herramientas de los principios informales del razonamiento. La lógica deductiva es hija de las tendencias inductivas humanas, es el producto de una reflexión interpretativa a posteriori. Bloor define esta idea como prioridad de lo informal sobre lo formal.
¿Cómo se expresa la prioridad de lo informal sobre lo formal? La respuesta es doble. En primer lugar, el pensamiento informal puede utilizar el pensamiento formal, puede tratar de fortalecer y justificar sus conclusiones predeterminadas fundiéndolas en un molde deductivo. La recíproca no es cierta, el pensamiento formal no puede permitirse el lujo de ser informal.
En segundo lugar, el pensamiento informal puede tratar de criticar, evadir, burlar o rodear los principios formales. En otras palabras, la aplicación de los principios formales es siempre un asunto potencial de negociación informal. Mill se refiere a esta negociación como un proceso interpretativo o hermenéutico, que atañe al vínculo que debe forjarse siempre entre una regla y cualquier caso que supuestamente caiga bajo esa regla.
Cuando leí estas líneas de Bloor no pude justificar por más tiempo la primacía de la lógica como forma de pensamiento. Había sido engañado o, quizás, me había engañado a mi mismo. Se me había dado gato por liebre, se me había vendido lo inductivo como deductivo. Aquellos pasatiempos lógicos que tanto disfrutaba en mi juventud estaban basados en una idea primigenia que no era absolutamente cierta y, aunque tampoco resultara absolutamente falsa, con la lógica se trabajaba en términos absolutos de “verdadero” y “falso”, y esto, forjaba en mi espíritu una cierta ética binaria que me impelía a creer que todo se reducía a dos valores opuestos. Aquel caballero andante de la lógica formal que era yo habría tirado todos los libros de caballerías al fuego de haberse dado cuenta en aquel momento.
Incorporé este relativismo lógico a mi ideología, hoy en día sigo pensando que la lógica formal es la forma más pura de pensamiento, ya que es la sistematización de la estructura del pensamiento humano. Pero no creo que sea la forma superior del pensamiento, se trata de una simplificación –en el sentido positivo– de la misma forma que una ecuación simula un fenómeno concreto de nuestra realidad pero no refleja toda la realidad. Quizás esto sea evidente para muchos pero no ha resultado serlo para mí.
Y me acordé de aquella pareja con la que tanto conviví en mi juventud y me di cuenta que lo que tanto me intrigaba en aquel entonces, ahora tenía una solución matemática. El pensamiento informal es superior al pensamiento formal porque, entre otras razones, el primero engloba al segundo. Se puede usar a voluntad el uno o el otro, se puede justificar una idea informal en base a un razonamiento formal. No se puede ser totalmente informal porque el discurso resultante sería absurdo, pero se puede decir un absurdo y justificarlo formalmente, con lo que el discurso adquirirá “prestigio” y podrá pasar por cierto. Además te verás obligado a refutarlo formalmente necesitando un tiempo y un esfuerzo que resulta inconcebible si se tiene en cuenta la infortunada idea que le dio origen y, es posible incluso, que no puedas llegar a refutarlo. Es por esta razón por la que no se puede sustituir la metodología formal en la demostración de teoremas y, como no, en el método científico.
Lo que aquella joven esposa hacía era utilizar un técnica mixta formal-informal, mientras que su cónyuge se afanaba en razonar formalmente; ella minaba el discurso de él con explosivos ilógicos que justificaba lógicamente. No podía perder.
Esta estrategia la utilizaba inconscientemente, de manera natural e intuitiva, pero eso –en el fondo– da lo mismo. Las estrategias pueden ser conscientes o inconscientes pero, al fin y al cabo, son estrategias.
* Licenciado en Ciencias Políticas y Sociología. Ingeniero Técnico en Informática.
* * *
BIBLIOGRAFÍA
José Cuena Bartolomé. Lógica Informática. Alianza Informática. Madrid 1985
D. Bloor. Conocimiento e imaginario social. Gedisa. Barcelona 1998
E. Lizcano. La metáfora como analizador social. Revista Empiria nº 2 1999
D.R. Hofstadler. Gödel, Escher, Bach un Eterno y Grácil Bucle. Tusquets Editores. Barcelona 1987
Alan Ross Anderson. Controversia sobre mentes y máquinas. Tusquets Editores. Barcelona 1984
S.C. Kleene. Introducción a la Metamatemática. Editorial Tecnos. Madrid 1974
Pagina anterior