Veladas esperanzas singulares

Hace un tiempo, había escrito sobre la singularidad, ese teórico punto en el tiempo donde logremos una computadora capaz de obtener conciencia pegando un salto cualitativo respecto al progreso observado en las computadoras para permitir que estas asomen a ese raro fenómeno que llamamos conciencia.

Hoy leo en la Dr. Dobbs un artículo que tangencialmente toca el tema. El artículo es bastante menos especulativo que el que apareció en Spectrum, y habla de problemas actuales que se resuelven mejor pensando en un software capaz de aprender del entorno por medio de la incorporación conocimiento y no en software estructurado como una cantidad de reglas fijas que se aplican en cada situación para decidir la conducta a tomar.

Así, dice el autor, uno podría enseñar a un vehículo espacial no tripulado (el autor fue CTO y CIO de la NASA) a sentir 'temor' ante determinadas situaciones, de forma que este las evite evaluando la intensidad del 'temor'.

Suena lógico y las redes neuronales produjeron más de un éxito, no es mi deseo negarlo.

Sin embargo, me parece, este modelo de aprendizaje se enfrenta con algunas limitaciones serias. En primer lugar, es deudor de la teoría del asociacionismo , que pretende que el aprendizaje es, simplemente, la formación de asociaciones entre conceptos. En su forma más extrema, el conexionismo, sostiene que las redes asociativas, expuestas a entrenamiento, pueden explicar toda la cognición. La idea del conexionismo sostiene que no se necesita más que el modelo de conexiones que se influyen unas a otras para explicar nuestra inteligencia.

No es mi intención y está lejos de mis capacidades tomar partido en la disputa académica, solo digo que me siento persuadido por el argumento de que nuestros procesos mentales se basan en las combinaciones de partes significativas, y muchas de esas partes significativas y del proceso combinatorio, muy probablemente, haya sido moldeado por millones de años de evolución y esté presente en nuestro cerebro desde que nacemos. La idea, que ha venido a cuestionar el conexionismo, se llama sistematicidad (sistematicity)

Volviendo al ejemplo del vehículo espacial no tripulado y su temor a las situaciones peligrosas, a nosotros nadie nos ha enseñado a sentir temor, como sabe cualquiera que haya convivido con un niño de pocos meses y observe sus miedos a la oscuridad, a la soledad, a los ruidos estridentes. El argumento cobra más fuerza cuando hablamos de animales. El 'miedo' es un sentimiento favorecido por la evolución (los peligros del entorno se encargaron de quienes no habían desarrollado un cerebro equipado para sentir 'miedo') que no se aprende. El golpe a la teoría del asociacionismo es inevitable: el aprendizaje se da sobre la existencia de un sistema especializado, siendo el aprendizaje más el seteo de algunos parámetros ('algunos' puede significar un número terriblemente alto), que la formación de asociaciones.

Noam Chomsky (en su faceta de lingüista) ha propuesto que el lenguaje es una capacidad innata, que sigue una gramática universal que tenemos impresa en el cerebro y que el entorno 'solo' viene a llenar algunos parámetros para que adoptemos nuestra lengua madre. Algunos experimentos parecen darle la razón (aunque solo sea un forma preliminar), y su idea de la gramática universal se ha extendido, al menos con un nivel de éxito que amerita ser tomado en cuenta, a otros ámbitos, como por ejemplo, la moral. (la manera en que nuestras intuiciones morales innatas pueden complicarnos la adopción de determinadas formas de trabajo podría ser un buen tema para un próximo post)

En este contexto, no diría que el conexionismo está muerto, pero al menos debe abandonar sus ideas más extremas, como que se puede aprender sin reglas que especialicen los instrumentos para el aprendizaje. O dicho de forma más clara: un software que aprende, para ser lo suficientemente confiable como para guiar un vehículo no tripulado que puede terminar estrellándose en la ciudad de New York (o en cualquier otro lado) debería tener una cantidad de reglas que lo preparen para aprender aquello que queremos enseñarle. Verdad de perogrullo? No para mis profesores de inteligencia artificial en la facultad.

El autor de la nota no dice directamente que los 'dispositivos de aprendizaje' que propone sean de propósito general, pero se orienta en algunas afirmaciones, que, en mi opinión, van demasiado lejos: asegura que es el ambiente el que determina como funciona la memoria, lo que está lejos de estar demostrado. O cuando habla de plasticidad ("plasticity": the ability to form connections and reinforce connections based on previous training) olvida mencionar las limitaciones que tiene la plasticidad de nuestro cerebro.

Tal vez la afirmación más extrema del autor sea que the machine's performance is modeling that of the mammalian brain. Esto se pasa unos cuantos pueblos: a lo sumo lo que se está modelando es la parte que creemos entender del funcionamiento del cerebro de los mamíferos.

Todo esto, aunque sea para no creer a libro cerrado las promesas del marketing más o menos encubierto que el tipo hace de su compañía en ese artículo.

El punto singular

Recientemente el IEEE ha publicado un informe sobre la singularidad. Un tema interesante, sin dudas,y donde se juntan temas interesantes no centrales al trabajo diario de un galeote informático.

La singularidad tecnológica es el hipotético momento donde las computadoras se harán inteligentes y conscientes de sí mismas. Es un punto singular, un cambio cualitativo, donde, además, las máquinas inteligentes serán capaces de mejorar su propia inteligencia. Este, que es un concepto que ha estado dando vueltas en la cultura popular desde hace mucho tiempo, fue formalizado por Vernon Vinge, profesor de matemáticas, ciencias de la computación y escritor de ciencia ficción.

Se me ocurre divagar sobre la historia de la singularidad: tal vez se remonte a las primeras máquinas, que hacían algunas cosas que nosotros los humanos hacíamos, pero mucho más rápido y con asombrosa precisión. Como esas cosas que las máquinas hacían bien y rápido en algún momento se asociaron, o tal vez se asocian aún, a la inteligencia (hacer cuentas rapidamente, por ejemplo), temimos que en algún momento nos saquen la misma ventaja en otro montón de cosas asociadas a la inteligencia que todavía no hacían (y todavía no hacen o no hacen bien), y los humanos sí.

Vinge, en su paper de 1993, sostenía que la singularidad se daría entre 2005 y 2030. Y que esta, tomaría alguna de las siguientes formas:

• Computadoras que alcancen la conciencia y sean mucho más inteligentes que los seres humanos. Es decir, que su creciente capacidad de cálculo alcance la del cerebro humano, y a partir de ahí, pueda entenderse a sí misma y mejorarse.
• Redes de computadoras que alcancen la conciencia (sep, la Skynet deTerminator). Lo mismo que antes, pero en lugar de una sola computadora con muchos procesadores, algo así como un MPP.
  
• Interfaces humanas que integren humanos y máquinas: un 'coprocesador' para el cerebro humano. Algo que, de alguna manera se enchufe a tu cerebro y sea particularmente bueno para cosas que tu cerebro es lento: por ejemplo, para hacer cálculos rápidos. En realidad, algo se ha avanzado en este campo, como por ejemplo los implantes cocleares que ayudan a recuperar la capacidad auditiva. De todas maneras, estos implantes no han alcanzado aún ni por lejos una capacidad comparable a la del oido, en parte porque no sabemos muy bien como conectarlos.
• Algún mecanismo que, por medio de la manipulación biológica, pueda incrementar la inteligencia.. Esta es mi preferida, por lejos: asume que de alguna manera que no conocemos mejoraremos algo que no entendemos del todo. Para aplaudir.
  
  

Los argumentos que Vinge da para apoyar la singularidad se basan, basicamente, en la creciente automatización, en la velocidad de propagación de las ideas y en la ley de Moore: en algún momento, conjetura, la capacidad de proceso de una computadora superará a la capacidad del proceso del cerebro humano.

Mantengo cierto escepticismo sobre las aseveraciones de Vinge. Para comenzar, no sabemos, y no define él, que cosa es la inteligencia y la concienca. Más aún, se ha argumentado por ahí, de una forma no facilmente refutable, que nuestro razonamiento va más allá de lo computable: no es que haya algo inmaterial, sino que nuestros sistemas formales no son lo suficientemente abarcativos para describir el funcionamiento de nuestro cerebro. Como decía, no es una invocación a lo religioso o espiritual, sino una propuesta de que existen mecanismos que nuestros sistemas formalizados no pueden describir.

Otro punto débil es la fe algo exagerada en la ley de Moore: nada dice que vaya a seguir indefinidamente, y es interesante ver que no hay especialistas en el cerebro entusiasmadísimos con la singularidad, la mayoría son matemáticos o gente de ciencias de la computación. Es probable que se deba a que los especialistas en el cerebro tengan una idea del tamaño de nuestra ignorancia en el asunto y no vean demasiadas razones para creer que estamos cerca de entender como funciona el cerebro.

De acuerdo a lo que sostienen los singularistas, las neuronas son como transistores, que absorben, procesan y reemiten pulsos eléctricos. Un detalle no menor es que un transistor se conecta a otros dos transistores y cada neurona se conecta a otras diez mil. Estos pulsos eléctricos, según los singularistas, servirían como la unidad de información tanto del cerebro, como de las computadoras. Como es que esos mecanismos se transforman en recuerdos, gustos, emociones, razonamientos nadie lo sabe, y no hay mayores elementos para suponer que se parezca a un algoritmo.

Es claro que el cerebro es una máquina, lo que es menos claro es que clase de máquina es.

Más aún, la codificación del cerebro, es decir, qué lleva de esos pulsos a nuestra conciencia es un campo de estudio abierto. En algún momento se descubrió que el cerebro usa un código de cantidad (se interpreta un concepto en virtud de cuantas neuronas estén activadas en un determinado momento). Luego se descubrió un código de temporalidad: no solo depende la cantidad, sino el órden de activación (el código de cantidad asigna a 101 y a 110 el mismo significado, pero el temporal no), y se sospecha que puede depender también del ritmo de activación: el tiempo que media entre la activación de las neuronas.

Se nota en Spectrum menciona que el código temporal nos acercaría al límite teórico de Shannon.

Esta mayor cantidad de posibilidades de representación hacen que las unidades de información que puede manejar el cerebro sean órdenes de magnitudes superiores a las que puede manejar una computadora, aún con cientos de microprocesadores. Aún cuando no sea cierto el argumento cualitativo (el que sostenía Penrose, que la conciencia no es algorítmica), el argumento cuantitativo es claro: no estamos cerca aún de siquiera saber cuantas unidades de información maneja nuestro cerebro.

Por último, es interesante ver que opinan luminarias sobre la singularidad.

A mí me parece que la singularidad no es una gran idea por sí misma, pero tiene la virtud de hacernos pensar en temas muy interesantes.