Consciencia y prueba de Turing

En la inteligencia artificial (IA), desde el principio ha habido un gran debate sobre qué es la inteligencia. El primero en tratar de responder a esta pregunta fue realmente Alan Turing (que el año que viene se cumplen 100 años de su nacimiento). De ahí salió la ahora llamada "Prueba de Turing".

De acuerdo a wikipedia, el Test de Turing (o Prueba de Turing) es una prueba propuesta por Alan Turing para demostrar la existencia de inteligencia en una máquina. Fue expuesto en 1950 en un artículo (Computing machinery and intelligence) para la revista Mind, y sigue siendo uno de los mejores métodos para los defensores de la Inteligencia Artificial. Se fundamenta en la hipótesis positivista de que, si una máquina se comporta en todos los aspectos como inteligente, entonces debe ser inteligente.

La prueba consiste en un desafío. Se supone un juez situado en una habitación, y una máquina y un ser humano en otras. El juez debe descubrir cuál es el ser humano y cuál es la máquina, estándoles a los dos permitido mentir al contestar por escrito las preguntas que el juez les hiciera. La tesis de Turing es que si ambos jugadores eran suficientemente hábiles, el juez no podría distinguir quién era el ser humano y quién la máquina. Todavía ninguna máquina puede pasar este examen en una experiencia con método científico.

A todo esto, en 1990 se inició un concurso, el Premio Loebner, una competición de carácter anual entre programas de ordenador que sigue el estándar establecido en la prueba de Turing. Un juez humano se enfrenta a dos pantallas de ordenador, una de ellas que se encuentra bajo el control de un ordenador, y la otra bajo el control de un humano. El juez plantea preguntas a las dos pantallas y recibe respuestas. El premio está dotado con 100.000 dólares estadounidenses para el programa que pase el test, y un premio de consolación para el mejor programa anual. Todavía no ha sido otorgado el premio principal.

Pues bien, en contraposición a esta prueba esta la que planteara John Searle, la cual se describe así:

Supongamos que han pasado muchos años, y que el ser humano ha construido una máquina aparentemente capaz de entender el idioma chino, la cual recibe ciertos datos de entrada que le da un hablante natural de ese idioma, estas entradas serían los signos que se le introducen a la computadora, la cual más tarde proporciona una respuesta en su salida. Supóngase a su vez que esta computadora fácilmente supera la Prueba de Turing, ya que convence al hablante del idioma chino de que sí entiende completamente el idioma, y por ello el chino dirá que la computadora entiende su idioma.

Ahora Searle nos pide que supongamos que él está dentro de ese computador completamente aislado del exterior, salvo por algún tipo de dispositivo (una ranura para hojas de papel, por ejemplo) por el que pueden entrar y salir textos escritos en chino.

Supongamos también que fuera de la sala o computador está el mismo chino que creyó que la computador entendía su idioma y dentro de esta sala está Searle que no sabe ni una sola palabra en dicho idioma, pero está equipado con una serie de manuales y diccionarios que le indican las reglas que relacionan los caracteres chinos (algo parecido a "Si entran tal y tal caracteres, escribe tal y tal otros").

De este modo Searle, que manipula esos textos, es capaz de responder a cualquier texto en chino que se le introduzca, ya que tiene el manual con las reglas del idioma, y así hacer creer a un observador externo que él sí entiende chino, aunque nunca haya hablado o leído ese idioma.

Dada esta situación cabe preguntarse:

• ¿Cómo puede Searle responder si no entiende el idioma chino?
• ¿Acaso los manuales saben chino?
• ¿Se puede considerar todo el sistema de la sala (diccionarios, Searle y sus respuestas) como, un sistema que entiende chino?

De acuerdo a los creadores del experimento, los defensores de la inteligencia artificial fuerte -los que afirman que programas de ordenador adecuados pueden comprender el lenguaje natural o poseer otras propiedades de la mente humana, no simplemente simularlas- deben admitir que, o bien la sala comprende el idioma chino, o bien el pasar el test de Turing no es prueba suficiente de inteligencia. Para los creadores del experimento ninguno de los componentes del experimento comprende el chino, y por tanto, aunque el conjunto de componentes supere el test, el test no confirma que en realidad la persona entienda chino, ya que como sabemos Searle no conoce ese idioma.

Entre estas dos "pruebas" se centra la discusión de la inteligencia y así mismo, de toda la ciencia de la inteligencia artificial. De hecho, en mi opinión la prueba de Searle exige que quien exhibe cierto tipo de inteligencia sea consciente de sí mismo, sino, todo parece reducirlo a un asunto mecánico.

Por ejemplo, hace mucho tiempo escribí un programa que conjuga los verbos regulares (en Prolog). ¿Conjugar un verbo exhibe inteligencia? La verdad es que no, porque es un asunto rutinariamente mecánico. Incluso, si se consideran todos los verbos, los irregulares, se puede escribir un programa que los conjugue todos sin el mayor asomo de error. ¿Eso sería inteligencia? No. Porque el sistema no sabe siquiera nada al respecto. Sigue, como en la idea de Searle, una serie de reglas que le da los resultados correctos. No tiene que saber nada más.

Pero pensemos en los programas que juegan al ajedrez. ¿No exhiben inteligencia? ¿No juegan mejor que los seres humanos en un 99.99%? Si esto es cierto, de acuerdo a la prueba de Turing, los programas de ajedrez SON INTELIGENTES, pero de nuevo, si consideramos el criterio de Searle, es claro que no lo son, porque los programas simplemente siguen mecánicamente una serie de criterios para establecer la mejor jugada en una posición dada. Si es así, como leí en algún artículo hace años, con respecto a los programas de ajedrez, "no hay nadie en casa". Vaya, no saben siquiera que están jugando ajedrez los programas.

¿Cuál será pues la condición necesaria y suficiente para que algo se considere inteligente? Pensemos en nuestra mascota. ¿Se da cuenta de sí misma? ¿Sabe de su propia existencia? Aparentemente sí. Cuando le hablaba a la Pupa (mi perrita snauzer que ya murió), estaba seguro que ella entendía en alguna medida lo que decía. Exhibía pues algún comportamiento inteligente. Si le decía, por ejemplo, "ve por tu pelota", la Pupa iba a buscarla y regresaba con ella en el hocico. Sin duda -considerando el hecho de que de entrada, la orden era verbal- la perrita sabía lo que hacía. ¿Tenía consciencia de sí misma? No lo sé. Asumo que sabía de su propia existencia, pero ¿cómo asegurarlo?

Y toda esta reflexión, de la cual probablemente ya he hablado antes aquí en este blog, surge de QBO, un robotito que entiende el lenguaje natural y que además, tiene un modo de reconocimiento visual. En el siguiente video, QBO es interrogado para reconocer ciertos objetos, por ejemplo, el dibujo del pingüino de Linux, el cual acierta. Pero entonces el robot enfrenta una imagen de sí mismo en un espejo. ¿Qué respuesta dará? ¿Podrá reconocerse a si mismo? A mí todo esto me parece fascinante. Vea el siguiente video para que observe como QBO responde a esta interesante interrogante.

Ahora bien, una vez que QBO se ha reconocido a sí mismo en un espejo, ¿significa que tiene consciencia de sí mismo? tengo mis dudas. El tema me parece abrumador.

Más información sobre cómo funciona este simpático robot QBO, aquí.

Sobre la consciencia

Ayer con Pepe Gordon hablábamos, en mi intervención en el programa de divulgación científica de Canal 22, La Oveja Eléctrica, sobre si las máquinas podrían alguna vez tener consciencia, darse cuenta de lo que están haciendo, darse cuenta de sí mismas, por decirlo de alguna manera.

Esto es un sueño recurrente que se ha visto muchas veces en la ciencia ficción: los robots "despiertan" y cobran consciencia de ellos mismos y se apoderan del control, del poder, y hacen de las suyas. Esa es la trama de la película "I Robot", con Will Smith, basada en la novela del mismo nombre, de Isaac Asimov.

Yo desde hace mucho tiempo he pensado si es posible hacer un programa que simplemente haga que la computadora se dé cuenta de su propia existencia. En este terreno de la consciencia hay muchas teorías. Una de ellas, que creo que es Hofstadter quien la promovió en su fantástico libro: Gödel, Escher, Bach, una eterna trenza dorada, habla de cómo los organismos comienzan a autoorganizarse. Cada nivel de organización es más complejo del anterior y llega un momento que la complejidad llega a tales extremos que es cuando surge la consciencia. Esto es equivalente a lo que decía Yusupov en la quinta cápsula de ajedrez, sobre el aprendizaje. Aparentemente, después de un fuerte período de entrenamiento, algo pasa en el cerebro de quien entrena y de pronto, sin que medie aviso alguno, hay un cambio cualitativo en la percepción de cómo se ven las jugadas, en la evaluación de las posiciones. Así, en un esquema de auto-organización llega un momento en que hay este "brinco cualitativo" y entonces el organismo auto-organizado se da cuenta de su propia existencia.

Otro enfoque -que también es defendido por muchos- es que la consciencia subyace más allá de la organización y está en un nivel aparte que no tiene que ver con cómo un organismo se autoorganiza, valga la expresión. ¿Cuál será la verdad?

Las computadoras actuales pueden jugar al ajedrez como el mejor jugador del mundo. Pueden además hacer millones y millones de cálculos matemáticos en segundos. Pueden incluso realizar operaciones simbólicas como las que se requieren en el cálculo diferencial e integral. Pero por el momneto, ningún programa sabe qué está siendo. Mueven bits y bytes de un lado a otro basándose en un guión, que es su programa en ejecución, pero si tocamos la puerta pues no hay nadie en casa.

Si nos atenemos a la primera idea, podríamos asumir que en la medida que el ser humano haga "organismos" electrónicos más complejos, que requieran de más auto-organización, llegará el momento en que la computadora se dará cuenta de ello y entonces habremos creado la peor pesadilla para el ser humano. Sin embargo, si es así, nadie sabe qué complejidad se requeriría para que pudiese cumplirse la premisa y crear así el primer organismo electrónico, hecho por el hombre, que cobrara consciencia de sí mismo. Sin embargo, en caso de lograrlo creo que solamente tendríamos una alternativa: desconectar la máquina del enchufe.

Y esto me recuerda a una anécdota apócrifa (*) desde luego, en donde se cuenta la historia de una terrible confesión de Alekhine el cual, cerca del final de su vida, sólo y enfermo, pero aún campeón mundial, le dijo a un amigo lo que le pasó en el gran torneo de San Petersburgo de 1914. Una noche, a la mitad de la justa, alguien tocó la puerta del cuarto de hotel de Alekhine. Un tipo de extraño vestir y talante demandó que le abriera porque había encontrado un secreto del ajedrez que era de suma importancia. Alekhine impacientemente lo dejó entrar.. "He encontrado una manera de dar jaque mate en doce jugadas sin importar qué juegue el rival", clamaba el viejo. Alekhine empezaba a empujarlo para sacarlo de su cuarto pero el viejo aquel fue insistente. Entonces para zanjar el asunto, Alekhine dispuso del tablero y las piezas. Doce jugadas más tarde el futuro campeón del mundo, más pálido que nunca, acostaba su rey en señal de rendición. El viejo le ganó una y otra y otra vez más, las siguientes partidas.

Entonces Alekhine le dijo al personaje en cuestión que fuese con Capablanca, que estaba en otro cuarto, muy cerca del suyo y que le contara de este asunto.  Capablanca recibió al viejo y pensaba que todo se trataba de una mala broma, pero el personaje extraño le ganó una y otra vez al genial cubano en doce jugadas, sin importar qué defensa opusiera.

Alekhine terminó así de contar la historia a su eventual amigo. Éste le preguntó lo que seguramente ahora usted se pregunta: "¿y qué hizo después, Maestro Alekhine?". La respuesta de Alekhine fue devastadora: "¿Qué iba a hacer? Lo matamos".

Cabe señalar que los autores del libro en donde hallé esta ¿anécdota? no indican la fuente e incluso, piden a los lectores les escriban si saben algo al respecto para así poderla rastrear.

_______
(*) Del libro "The Complete Chess Addict", por Mike Fox y Richard James, ed. faber and faber; pág 156-157