Alan Turing y el juego de imitación
/3 Críticas a Turing

OLYMPUS DIGITAL CAMERA

Al final de su artículo “Maquinaria computadora e inteligencia”, que he comentado en ¿Podrán pensar las máquinas? y en Alan Turing y el juego de imitación, Turing se ocupa del tema de la fabricación de máquinas capaces de aprender, los perceptrones. Es un tema muy interesante, que no trato aquí, para no hacer demasiado largo este comentario. Lo trataré en otro momento.

Insiste también, algo que suelen olvidar sus críticos, en que él no se pregunta si las máquinas actuales (para él, las de 1950) pueden pensar (aunque Turing no habla de “pensar”, sino de  jugar al juego de imitación), sino que ta solo plantean si podrán hacerlo (jugar al juego).

En consecuencia, no hay por qué incluir a Turing entre quienes atribuyen inteligencia o intencionalidad a un termostato, como Marvin Minsky. Críticas en este sentido como la de Gunderson en su artículo “El Juego de Imitación” están fuera de lugar. Por cierto, el trabajo de Gunderson es realmente endeble, por ejemplo, cuando habla de las piedras que simulan pisotones, comete un error tras otro, como confundir a las piedras con la caja que las deja caer e introducir apariencias físicas en la discusión, cosa que Turing intenta evitar de manera expresa.

Pero donde Gunderson roza lo grotesco es cuando hace decir a Turing, en un diálogo jocoso, que las máquinas pueden pensar porque pueden jugar al juego de imitación, cuando Turing, precisamente, rechaza la misma cuestión de si las máquinas pueden o no pensar y plantea tan sólo si existe un método no basado en aptitudes o caracteres físicos por el que se pueda desenmascarar a una máquina, es decir, dictaminar que se trata de una máquina y no de un ser humano. En caso de que tal cosa fuese imposible, si no se pudiese distinguir por sus respuestas a una máquina, y además se lograse construir androides de perfecta apariencia humana, ¿cómo podría saberse que una máquina es una máquina o no?

Sobre esto es muy interesante la novela/película “¿Sueñan los androides con ovejas eléctricas?”/Blade Runner). La novela de Philip K.Dick y la película de Ridley Scott.

Así pues, Turing no se plantea la cuestión de si existen procesos internos o subjetivos, sino, más bien, si, en caso de existir tales procesos internos, sería posible detectarlos mediante algún tipo de prueba externa. Y la respuesta a tal cuestión sólo la puede proporcionar, posiblemente, la experimentación.

(Mi observación acerca de la cuestión que plantea Turing no era correcta: Turing no plantea con su prueba ningún tipo de comprobación de estados internos. Digamos, que, como si fuera un conductista especializado en androides, deja fuera el campo de estudio los procesos internos, por ser inobservables, y se dedica a observar lo que se puede o podía observar en aquel momento (al menos en los humanos). Tan solo plantea si los procesos externos, el comportamiento de un humano o una máquina podría llegar a ser indistinguible. Hoy en día los procesos internos del cerebro humano relacionados con el comportamiento empiezan a ser observables, con lo que incluso un conductista clásico podría incluir esos procesos “mentales” que antes descartaba por no poder observarlos de ninguna manera fiable. Lo interesante del asunto, me parece, es que el hecho de que ahora se pudieran observar tanto los procesos internos de la máquina como los del humano sometido al tese de Turing, ello tampoco nos permitiría decidir qué es exactamente “pensar”).

alan_turing_at_the_ratio_club2

Lo que quizá sí se le puede reprochar a Turing, que se basa más en lo que puede imaginar que las máquinas serán capaces de hacer que en experimentos concretos.

(Otra pretenciosa y gratuita observación por mi parte: Turing plantea un problema teórico que puede dar pie a experimentos y pruebas, pero reprocharle que no haga los experimentos es absurdo. Hay un tiempo para todo y Turing precisamente se caracteriza por sus increíbles aportaciones concretas a la ciencia de la computación).

De todos modos, Turing admite que no tiene ningún “argumento positivo bastante convincente” para apoyar su tesis, pero que tampoco le parecen sólidos los que se pueden oponer a la misma.

 

Esto es un comentario al artículo de Alan Turing en el que propone su célebre prueba para distinguir entre seres humanos y máquinas. Son notas para un trabajo universitaio, por lo que su lectura puede resultar difícil y no muy interesante.

El texto en azul ha sido añadido en 2014. Para hacer más comprensible mi comentario.

 


(Escrito en 1989)

TURING Y LAS MÁQUINAS PENSANTES

Alan Turing y el juego de imitación

Turing y las máquinas pensantes /1

Leer Más
¿Podrán pensar las máquinas?
Turing y las máquinas pensantes /2

Leer Más
Alan Turing y el juego de imitación
/3 Críticas a Turing

Leer Más

CÓMO SE INVENTÓ EL FUTURO

Marshall McLuhan

Cómo se inventó el futuro / 4


Leer Más
Vannevar Bush y el memex
Cómo se invento el futuro /1

Leer Más
Borges, santo patrón del hipertexto

Cómo se invento el futuro /2


Leer Más
Ted Nelson y Xanadú
Cómo se invento el futuro /3

Leer Más

Share

¿Podrán pensar las máquinas?
Turing y las máquinas pensantes /2

Hemos visto (Alan Turing y el juego de imitación) que Turing se preguntaba si las máquinas pueden o podrán pensar y que, para huir de las definiciones esencialistas acerca de qué es “pensar” , proponía someter a las máquinas a un juego de imitación: ¿podrá algún día una máquina hacer creer a un humano que ella también es un ser humano?

Antes de continuar con el test de Turing, conviene conocer las objeciones que se suelen oponer a la posibilidad de que las máquinas piensen. El propio Turing las clasificó en varias categorías.

1 . Objeción teológica: el pensamiento es una propiedad del alma que ha sido dada a los humanos por Dios.
diosymaquinaObviamente, tal tipo de objeción tiene muy poco interés y ni siquiera es sólida teológicamente hablando, como demuestra el mismo Turing, al decir que si Dios quisiera podría dar alma a una máquina, a un animal o a una piedra. Dudar de eso sería poner en cuestión la omnipotencia de Dios.

Precisamente, y esto no tiene que ver con Turing, la contemplación de la complejidad del universo y del ser humano es una de las razones que más improbable hace la existencia de un dios todopoderosos: parece innecesario que un ser que puede mantener la existencia o no existencia por su mera voluntad se tome tanto trabajo en diseñar artefactos tan extremadamente complejos y en ocasiones tan mal diseñados como los que nos mantienen vivos: con Dios, podríamos funcionar igual de bien aunque estuviéramos huecos.

 

avestruz

2. Objeción del avestruz: las consecuencias del hecho de que las máquinas pensaran serían tan horribles que no se puede aceptar esa posibilidad.

Creo que esta objeción, aunque casi nunca expresada de manera explícita,  como señala el propio Turing, suele impregnar la mayoría de los argumentos en contra de la IA (Inteligencia Artificial), argumentos que parecen fabricados ad hoc para superar el miedo a las máquinas. Por eso, creo que lo primero que hay que plantearse al discutir sobre IA es si nuestra investigación no está condicionada de antemano por el deseo de que las máquinas no piensen y por el deseo de evitar que se cumplan los versos de Goethe: “Al final acabamos dependiendo de aquellas criaturas que hemos hecho”.

Muchos de los que temen a las máquinas pensantes, por otra parte, aplican una especie de racismo anticipado y sufren por un futuro en el que las máquinas controlaran, dominaran, gobernaran y/o explotaran a los humanos. En cierto sentido, sus argumentos se parecen a los de aquellas personas que se dejan explotar por gentes de su misma nacionalidad o etnia pero que no pueden soportar la idea de que quienes les exploten sean de otra nación o de otra etnia. Ante una situación de injusticia social absoluta, por ejemplo, a mí me trae sin cuidado si quienes la causan son chinos, judíos, musulmanes o gentiles: me importaría el hecho en sí.

Dado el estado actual de la cuestión, a quienes temen a las máquinas se les podría recomendar lo mismo que a quienes temen a los fantasmas: “No es a los muertos a quienes has de temer, sino a los vivos”. Hasta ahora, las máquinas han hecho poco por su propia iniciativa contra los seres humanos, tan poco como los fantasmas, es decir, nada. La frase equivalente, por lo menos a día de hoy, sería: “No es a las máquinas a quienes has de temer, sino a los hombres que las utilizan”.

Para terminar con estas comparaciones e imágenes, que no pretenden introducir argumentos morales, sino mostrar precisamente que tales argumentos no pueden usarse para dilucidar la cuestión planteada por Turing, Alen Paulos vaticina:

“Es concebible que con el avance de la inteligencia artificial, los chistes étnicos sean sustituidos por chistes robóticos”(Pienso, luego río).

godel

Kurt Gödel

  3. La objeción matemática: ciertas conclusiones matemáticas, como el teorema de incompletitud de Gödel, muestran que existen limitaciones en cualquier lenguaje matemático, lo que afectaría inevitablemente a las máquinas.

Este argumento sí tiene importancia, pero, aunque puede justificarse teóricamente con bastante solidez, sólo podrá ser respondido definitivamente a través de la experimentación y la investigación. Si somos rigurosos, habría que decir que solo se podría demostrar su falsedad, nunca su certeza.

byron-maquina4. Argumento de la conciencia: se resume en la Oración de Lister (1949) del profesor Jefferson:

“Hasta que una máquina no sepa escribir un soneto o componer un concierto con base en los pensamientos y las emociones que siente, y no a consecuencia de la caída venturosa de símbolos, no podremos estar de acuerdo en que la máquina pueda ser igual que un cerebro, es decir, que no solamente sepa escribirlos, sino también que sepa que los ha escrito. Ningún mecanismo podría sentir (y no sólo señalar artificialmente, lo cual es una invención fácil) alegría por sus éxitos, tristeza cuando sus válvulas se fundieran, placer al ser adulado y sentirse desgraciado a consecuencia de sus errores, encantado por el sexo, enfadado o deprimido al no lograr lo que desea”.

Este es el argumento al que Turing presta más atención y para el que propone su célebre test. La prueba podría servir para determinar si la máquina es capaz o no de hacer frente a preguntas y situaciones imprevistas. Eso no probaría que la máquina pensara, pero mostraría que las máquinas, al menos, son capaces de fingir las cosas que hacen los humanos.

maquina-poetaBlueprint-Machine

En cuanto a lo que sentimos los humanos cuando hacemos algo, hay que tener en cuenta que durante décadas los psicólogos conductistas negaron o rechazar considerar en sus estudios la existencia de estados mentales internos. Del mismo modo, los solipsistas no creen que las otras personas piensen o sientan las cosas que dicen sentir, así que, como se ve, el sentimiento no parece tan fácil de demostrar o definir como prueba de pensamiento real. Decía Ortega: “Del dolor de muelas de otro ser humano, lo único que tenemos es su espectáculo”. Es decir, supongamos que una máquina compone un soneto y además dice que lo ha hecho porque sentía esas emociones: ¿cómo comprobamos que miente? ¿Cómo lo comprobamos en un poeta humano?

 

5. Argumentos basados en incapacidades diversas: estos argumentos son variantes del argumento de la conciencia, como señala Turing, y apuntan a las cosas que no pueden o nunca podrán hacer las máquinas.  Eso no quiere decir que quizá alguno de ellos sea muy digno de tomarse en cuenta, pese a que, como también destaca Turing, tales argumentos suelen ser inductivos, se basan en la observación de cosas que suelen presentarse asociadas o correlacionadas:

“Una persona ve raíles de maquinas y , por lo que ve de ellas, concluye que esas son las características de las máquinas en general”.

Si ya de por sí la justificación final de la inducción suele llevar a una regresión infinita, cuando se trata de construcciones humanas, la validez de los métodos inductivos a posteriori se hace tremendamente problematica. Lo cierto es que, a medida que pasan los años, la cantidad de cosas que se niega a las computadoras se va reduciendo.

El mismo Gunderson, un rival de las teorías de Turing, ya no incluye la originalidad ni la capacidad de sorprender entre las características específicas de la mente humana. Con buen criterio, ya que la sorpresa, la originalidad, el que algo sea o no una obra de arte, etc, no son propiedades intrínsecas de las cosas, sino que dependen de quien aplica los términos, es decir, no existe la Bondad, la Belleza, etc. como Ideas de un Cielo platónico, sino que existen cosas buenas o cosas bellas y, además, en función de quien las describe así. Algo original a menudo lo es simplemente porque es algo que se había dejado de hacer en los últimos tiempos.

ajedrez-maquina

Cuando escribí este texto acerca del test de Turing, una de las cosas que se decía que las máquinas jamás lograrían hacer era ganar al campeón mundial de ajedrez. Pues bien, pocos años después lo lograron y desde hace años sabemos que es muy improbable que nunca vuelva a haber un campeón mundo humano capaz de vencer a la mejor máquina.

tick-tock-of-ozDe seguir este abandono de parcelas ‘humanas’ en favor de los ordenadores, quizá acabemos describiendo a las máquinas como al robot Tik Tok de L.Frank Baum:

“Un robot que piensa, habla, actúa y hace todo, excepto vivir”

No obstante, en relación con los argumentos de incapacidades diversas, se me ocurren varias pruebas que plantearían grandes problemas a la máquina simuladora que propone Turing en su test.

Por ejemplo: un actor que había trabajado con Stanislavski contaba cómo él le hizo recitar cuarenta veces la frase “esta noche”, significando en cada ocasión una situación o emoción distinta.

Jacobson cuenta cómo ese mismo actor colaboró con él, repitiendo esa frase en ruso cincuenta veces para sus estudiantes, que lograron en su mayoría decodificar correctamente la situación que describía la frase en cada una de las cincuenta repeticiones (ver Roman Jacobson, Ensayos de Lingüística General, 355).

Se me ocurren otras pruebas difíciles para la maquina, pero las dejo para otro momento.

ada-lovelace-day-celebrating-women-in-tech

6. El argumento de Lady Lovelace:  Ada Lovelace, pionera de los computadores, cuando describió la máquina de calcular de Babbage, dijo:

 “La máquina analítica no pretende crear nada. Puede hacer cualquier cosa que sepamos ordenarle que haga.”

 Tenía toda la razón Lovelace en ese momento, pero Turing dice que eso no impide pensar que algún día se construya una máquina que actúe por propia iniciativa.

Creo que es también una variante del argumento de la conciencia o de la sintaxis/semántica, aunque Turing parece considerarlo diferente.

neuronas

7. Argumento de la continuidad del sistema nervioso: el sistema nervioso no es una máquina de estado discreto. Un pequeño error en la información correspondiente a un impulso nervioso que llega a una neurona, puede representar una gran variación en el impulso de salida de esta neurona. Por consiguiente, se puede argumentar que, si esto así, no se puede esperar que podamos llegar a imitar el comportamiento del sistema nervioso con una máquina o sistema de estado discreto.

Para este argumento, que se basa en la dicotomía analógico/digital, obviamente es muy relevante la investigación centrada en el sistema nervioso humano (que llevan a cabo, creo, los neurólogos o los neurofisiólogos) que la que se ocupa del funcionamiento de los ordenadores. En todo caso, lo que se discute es si tales características internas podrían ser detectadas externamente, como recuerda el mismo Turing nuevamente.

Este argumento, combinado con el matemático es el que desarrolló Roger Penrose en La nueva mente del emperador, si  no me equivoco. Penrose sostenía que el caracter continuo (es decir no discreto o no digital) del cerebro humano hacía que no pudiera ser imitado por una máquina que se basa en ceros y unos, sí y no, abierto y cerrado, es decir, respuestas no ambiguas. 

caos8. El argumento de la informalidad del comportamiento: no es posible elaborar un conjunto de reglas que describa lo que una persona debería hacer en cualquier serie de circunstancias posibles.

Creo que es muy interesante en lo que se refiere a la pregunta de si será posible que los ordenadores sean capaces de hacer todo lo que podemos hacer los seres humanos, pero que adolece, en relación estrictamente con la tesis de Turing, del mismo defecto que el anterior: lo importante, en esta prueba de Turing, no es averiguar si las reglas de conducta son reducibles a leyes de comportamiento (en terminología de Turing), sino si eso podría llegar a ser detectado por un observador.

Tiene también cierta relación con la tesis de Penrose, si no me equivoco: no es posible reducir cualquier comportamiento imaginable a un algoritmo, y como las máquinas funcionan mediante algoritmos…

maquina-telepata9. El argumento de la percepción extrasensorial: Turing decía que un humano telepata contaría con ventaja frente a un ordenador.

Yo, al contrario que Turing, no creo que exista evidencia alguna, ni indicio de evidencia, de fenómenos de percepción extrasensorial (PES o ESP), así que no considero, como Turing, tan sólido este argumento. En caso de que existiesen tales fenómenos PES, cosa bastante difícil de comprobar experimentalmente debido al llamado “efecto timidez”, quizá tampoco servirían para ‘desenmascarar’ a la máquina, aunque cabe dudarlo seriamente en el caso de la clarividencia, la precognición y la psicocinesis (Turing rebate sólo el caso de la telepatía).

Pasados más de veinte años desde que escribí estos comentarios a Turing, la telepatía no ha sido detectada de manera experimentalmente fiable y seguimos esperando. No descarto que sea posible tal cosa, aunque más bien creo que no es que exista la telepatía, sino que quizá existirá: me parece más plausible que acabemos creándola, en vez de descubrirla. 

En cualquier caso, a la espera de novedades en tal sentido, la telepatía es el argumento menos a tener en cuenta al considerar el test de Turing.

Estos son, muy sintetizados, los argumentos que Turing recopiló de aquellos que no creen que las máquinas piensen o puedan pensar alguna vez.

Continuará…

 ***********

Esto es un comentario escrito en 1989 al artículo de Alan Turing en el que propone su célebre prueba para distinguir entre seres humanos y máquinas. Son notas para un trabajo universitaio, por lo que su lectura puede resultar difícil y no muy interesante.

El texto en azul ha sido añadido en 2014. Para hacer más comprensible mi comentario, he tomado en algunas ocasiones resúmenes de los argumentos contra la inteligencia de las máquinas de la página de Epistemowikia dedicada a la Prueba o test de Turing.


TURING Y LAS MÁQUINAS PENSANTES

Alan Turing y el juego de imitación

Turing y las máquinas pensantes /1

Leer Más
¿Podrán pensar las máquinas?
Turing y las máquinas pensantes /2

Leer Más
Alan Turing y el juego de imitación
/3 Críticas a Turing

Leer Más

CÓMO SE INVENTÓ EL FUTURO

Marshall McLuhan

Cómo se inventó el futuro / 4


Leer Más
Vannevar Bush y el memex
Cómo se invento el futuro /1

Leer Más
Borges, santo patrón del hipertexto

Cómo se invento el futuro /2


Leer Más
Ted Nelson y Xanadú
Cómo se invento el futuro /3

Leer Más

 

 

Share

Alan Turing y el juego de imitación

Turing y las máquinas pensantes /1

 

Turing se plantea el conocido interrogante “¿Puede pensar una máquina?”, y lo rechaza “porque carece de sentido”.

Creo que es cierto que este tipo de preguntas, que implican esencias, suelen llevar a callejones sin salida lingüísticos.

Se ha intentado a menudo definir qué es pensar o qué es la inteligencia y, como señala Alen Paulos, los que trabajan en la IA (Inteligencia Artificial) se quejan de que sus detractores acaban diciendo (aunque no siempre de manera explícita) que pensar es “aquello que no puede hacer un computador”, lo que recuerda, por cierto, la también viciosa definición de quienes hacen tests para medir la inteligencia: “la inteligencia es aquello que miden los tests de inteligencia”.

Turing parece anticiparse y precaverse de tal actitud y lo que se pregunta es: ¿Hasta que punto es capaz de simular un ordenador que es un ser humano? Dicho con sus propias palabras: “¿Qué sucede cuando una máquina sustituye al sujeto A (a la mujer) en el juego de imitación?”.

 

El juego de imitación

La propuesta de Turing es poner a prueba a las maquinas con el llamado “Juego de Imitación”.

En el Juego de Imitación participan tres personas:

A (un hombre)

B (una mujer)

C (un interrogador, que puede ser indistintamente hombre o mujer).

imitation game 1El interrogador, situado en otra habitación , debe hacer preguntas a los dos sujetos, que para él son tan solo A y B, y determinar a partir de sus respuestas quién es hombre y quién es mujer.

El interrogador debe ser capaz de decir quién de los dos es un hombre (y por tanto que el otro es una mujer).

Naturalmente, las respuestas de A y B deben llegar a través de un medio neutro, mecanografiadas, por la pantalla de un ordenador, etc.

Pero además, A y B participan de distinta manera en el juego: el cometido de el hombre es intentar que el interrogador se equivoque y el de la mujer es ayudarle a acertar.

imitation game 2Turing plantea entonces la pregunta: ¿Qué sucede cuando una máquina sustituye a la mujer en el juego?

La nueva pregunta traza una línea definida entre las aptitudes y características físicas de una persona y las intelectuales (si hubiese robots con piel humana indistinguibles de seres humanos auténticos, no sería necesario impedir que el interrogador viese y oyese a los interrogados).

Pero surge una objeción: “¿No serán las maquinas quizá capaces de hacer cosas que puedan ser definidas como pensamiento pero que en realidad sea algo muy distinto a lo que hace una persona? cuando piensa”.

Turing descarta por el momento tal pregunta: él sólo pretende averiguar si las máquinas pueden jugar bien al juego de imitación. Si pueden engañar al interrogador.

Para no caer de nuevo en controversias esencialistas acerca de lo que es una máquina, Turing limita la participación en el juego “a las computadoras digitales”.

 

¿Qué es una máquina digital?

Según Turing, las máquinas digitales constan de tres partes:

a) almacenamiento,

b) unidad procesadora

c) control.

Turing describe entonces la conocida analogía entre los computadores y el cerebro humano y hace notar que “el empleo de la electricidad no es teóricamente relevante” para definir las máquinas digitales.”.

La característica más importante de las máquinas digitales es que son “máquinas de estado discreto”; esto es: “pasan de un estado bastante definido a otro” (todo/nada, abierto/cerrado, 0/1).

maquina de turing

La máquina de Turing es algo tan sencillo como esto: un cinta con ceros y unos, una cabeza lectora de esos ceros y unos y un control.

Esta característica hace universales a las máquinas digitales: cualquier programa es tratado de igual modo por máquinas de capacidad semejante. Algo que suelen olvidar sus críticos, es que Turing no se pregunta si las máquinas actuales (para él, las de 1950) pueden pensar (aunque Turing no habla de “pensar, sino de  jugar al juego de imitación), sino si podrán hacerlo alguna vez (pensar/jugar al juego). No se está intentando averiguar si existen ahora computadoras capaces de jugar al Juego de Imitación, sino “si existen computadoras imaginables que actúen bien en él”.

Tras esto, Turing regresa a la pregunta inicial y da su opinión personal:

“Dentro de unos cincuenta años se podrá programar computadoras con una capacidad de almacenamiento aproximada de 10 elevado a 9, para hacerlas jugar tan bien al juego de imitación que un interrogador corriente no dispondrá de más de un 70% de las posibilidades para efectuar una identificación correcta a los cinco minutos de plantear preguntas”.

Además, dice, “a finales de siglo se podrá hablar de máquinas pensantes sin levantar controversias”.

Plantea entonces Turing las posibles objeciones a su propuesta.

turing machine lego

Si quieres conocer a fondo la máquina de Turing, puedes consultar la Wikipedia o esta excelente página The Alan Turing Year, en la que, entre otros muchos contenidos fascinantes se explica cómo construir una máquina de Turing con las piezas de LEGO

Continuará…

**********

Esto es un comentario al artículo de Alan Turing Maquinaria computadora e inteligencia en el que propone su célebre prueba para distinguir entre seres humanos y máquinas. Son notas para un trabajo universitario realizado en 1989, por lo que su lectura puede resultar difícil y no muy interesante. Las ilustraciones y pies de fotos han sido añadidos en 2013.


(Escrito en febrero de 1989)

***************

TURING Y LAS MÁQUINAS PENSANTES

Alan Turing y el juego de imitación

Turing y las máquinas pensantes /1

Leer Más
¿Podrán pensar las máquinas?
Turing y las máquinas pensantes /2

Leer Más
Alan Turing y el juego de imitación
/3 Críticas a Turing

Leer Más

CÓMO SE INVENTÓ EL FUTURO

Marshall McLuhan

Cómo se inventó el futuro / 4


Leer Más
Vannevar Bush y el memex
Cómo se invento el futuro /1

Leer Más
Borges, santo patrón del hipertexto

Cómo se invento el futuro /2


Leer Más
Ted Nelson y Xanadú
Cómo se invento el futuro /3

Leer Más

Share