Dios&golem

Dios & Golem, S.A. Dioses, Hombres, Demonios y Máquinas Luciano de la Rosa Aguilar Wiener advierte que se debe tener una gran precaución a la hora de aplicar los métodos matemáticos de la cibernética a las ciencias sociales como la sociología y la economía, para no cometer ninguna especie de "abuso". A pesar de lo que muchos estudiantes erróneamente creen, el infinito no es un número.

Wiener advierte que el problema de las máquinas que aprenden a jugar cualquier juego no está tan distanciado de la religión como podría pensarse, y ejemplifica con el tema del Libro de Job, o con el Paraíso Perdido. Ambas son obras en las que el Demonio juega un juego con Dios, por el alma de Job y por las de la humanidad, respectivamente. Pero, ¿No es el Demonio también una criatura de Dios? Dios creó todo y la respuesta es afirmativa. Lo que significa que Dios está jugando contra una creación suya.

Norbert Wiener dice que el conocimiento está inextricablemente interrelacionado con la comunicación. Es así la manera en que nos podemos valer de la teoría cibernética para generar conocimiento. En el ensayo "Dios & Golem, S.A.", Wiener trata de temas encontrados en aquella frontera donde chocan la religión y la ciencia, en especial la ciencia cibernética, que es la ciencia que trata de la comunicación y del control, ya sea en máquinas, o bien, en seres vivos. A fin de cuentas en un modelo formal no interesa la sustancia de lo que se esté hablando, así que podría incluirse aquí cualquier otra cosa que reúna las características para ser candidata a ser estudiada por la teoría cibernética. Pero Wiener advierte que se debe tener una gran precaución a la hora de aplicar los métodos matemáticos de la cibernética a las ciencias sociales como la sociología y la economía, para no cometer ninguna especie de "abuso". Wiener justifica la existencia de su ensayo aduciendo que existen analogías entre ciencia y religión. Por ejemplo, el significado de las palabras Omnipotencia y Omnisciencia conllevan a una de las clásicas paradojas lógicas como la siguiente "¿Puede Dios hacer una roca tan pesada que Él no la pueda levantar?". Esto pasa por que se está hablando de totalidades; de absolutos. En matemáticas sucede algo similar con el concepto de infinito y es por eso que expresiones como 0/0, (infinito)/(infinito), o (infinito) - (infinito) están indeterminadas. A pesar de lo que muchos estudiantes erróneamente creen, el infinito no es un número. (El estudio del infinito siempre fue más bien filosófico, hasta que fue formalizado e introducido completamente en las matemáticas por Georg Cantor en el siglo XIX, y aún su tesis no estuvo exenta de especulaciones metafísicas). N. Wiener considera tres cuestiones en la cibernética que incumben a las religiones. Estas son: • • •

Las máquinas que aprenden Las máquinas que se reproducen a sí mismas La coordinación de máquina y hombre

Actualmente existen programas de computadora que aprenden de la propia experiencia, tal como los hombres y los animales. Es en este lugar donde pueden traspasarse fronteras y romperse barreras, pues el aprendizaje es (¿o era?) considerado como una característica exclusiva de los sistemas vivientes, y en un modo particular, del hombre. ¿Significará esto que si una máquina aprende, entonces está viva? Lo que entendemos por "inteligencia" parece ser una característica exclusivas del hombre, sin embargo las computadoras pueden tener comportamientos aparentemente inteligentes. ¿Es entonces una máquina igual a un hombre? El punto al que Wiener se dirige para enfrascarse en este dilema científico-religioso estriba en las diferencias que la conciencia humana ha creado. Diferenciar completamente a Dios del hombre, y por otro lado, diferenciar por completo al hombre de la materia. En nuestro afán de concebir estas diferencias podríamos pensar que nosotros no podemos crear máquinas que se reproduzcan a sí mismas, pero, si lo hiciéramos ¿no estaríamos entonces al nivel de Dios? Los nuevos hallazgos científicos y tecnológicos hacen que las categorías de creador y criatura se tornen borrosas. En cuanto a temas de reproducción y aprendizaje existe un enfoque para contemplar a éstos dos tópicos juntos dentro de un contexto de autosimilitud. Un individuo aprende, y a través de cada individuo y por la reproducción, aprende también una especie. Así que se puede contemplar a la selección natural como una forma de aprendizaje que opera dentro de las condiciones impuestas por la reproducción del individuo. Wiener advierte que el problema de las máquinas que aprenden a jugar cualquier juego no está tan distanciado de la religión como podría pensarse, y ejemplifica con el tema del Libro de Job, o con el Paraíso Perdido. Ambas son obras en las que el Demonio juega un juego con Dios, por el alma de Job y por las de la humanidad, respectivamente.

Pero, ¿No es el Demonio también una criatura de Dios? Dios creó todo y la respuesta es afirmativa. Lo que significa que Dios está jugando contra una creación suya. Tenemos la misma situación cuando nosotros los humanos -creadores- jugamos contra una máquina que es una creación nuestra. Las máquinas que juegan juegos como el ajedrez lo hacen de una manera muy similar a la que jugamos los seres humanos, y no lo hacen mediante la teoría de juegos de von Neumann. Jugar de esta segunda manera significaría -dice Wiener"poseer una teoría completa del juego y haberlo reducido a una trivialidad." Aparte de esto hay que imaginar la enorme cantidad de combinaciones con las que ni las máquinas más potentes de la actualidad pueden lidiar. Wiener llega a decir también que los días del ajedrez como entretenimiento de los hombres están contados, y ya vendrán otros juegos para descifrar, analizar y divertirnos. El ajedrez, al fin y al cabo, es un juego bien definido y para cualquier juego con reglas claras y objetivos bien definidos podemos hacer una máquina que lo juegue, y que lo juegue bien. Igual (¿o aún mejor?) que el jugador más experimentado a nivel mundial (recordemos el caso de la computadora Deep Blue). Esto también es cierto para cualquier otro fenómeno que pueda formalizarse como un juego y tal es el caso de las guerras, los negocios y, en general, cualquier tipo de situación que involucre la toma de decisiones. Siempre y cuando, como se menciona arriba, la situación no esté falta de objetividad. Con relación a una de estas situaciones de reglas no bien definidas Wiener rememora un pasaje de Lewis Carroll en donde en donde Alicia pretende jugar al croquet, pero en vez de bolas, hay erizos que se desenrollan; en vez de palos, flamencos; en vez de arcos, soldados que caminan y, lo peor de todo, la Reina de Corazones como árbitro, cambiando las reglas a cada rato. Así, simplemente no se puede. Estas máquinas se programan para que jueguen tal y como lo hacemos los humanos: aprendiendo de su propia experiencia. Aparte de las restricciones impuestas en cada movimiento se debe de realizar el movimiento más ventajoso. Para decidir cuál será este movimiento se pueden identificar algunos criterios que por lo general nos brindan ventaja al jugar ajedrez. Estos criterios pueden ser, por ejemplo, el controlar el mayor número posible de casillas; el tener un mayor número de piezas que el oponente; tener movilidad sobre el tablero; etc. Aparte de estos criterios generales existen otros, particulares, que dependen del estado en el que se encuentre el juego en algún momento determinado. Todos estos criterios combinados nos darán estrategias para jugar bien. Para que una máquina por fin pueda comenzar a jugar, necesitamos asignar valores numéricos a diversas combinaciones de los criterios que mencionamos. Así la máquina evaluará distintas estrategias posibles y finalmente hará el movimiento que tenga el valor más alto. La forma de asignar valores es algo similar a lo que se hace en la teoría matemática de la utilidad, donde se asignan pesos a distintas situaciones dependiendo de que tan convenientes nos parezcan. Sin importar que tan mecánico parezca esto, en realidad la máquina estará jugando de manera muy similar -si no es que idéntica- a la forma en que lo hacemos los humanos. Cuando la máquina haga un movimiento o utilice una estrategia que le resulte ventajosa, la seguirá utilizando, al menos con el mismo jugador o con jugadores que tengan el mismo perfil ajedrecístico. Obviamente, para que esto sea posible la máquina debe de llevar un registro de las jugadas y partidas anteriores, a las que asignará cifras de valuación altas a partidas ganadas y bajas a partidas perdidas. Es aquí donde podemos encontrarnos con el fenómeno del comportamiento emergente, en donde la pericia y sagacidad que la máquina desarrolla no fueron explícitamente programadas. Cuando se habla de reproducción en máquinas y en seres vivos, filósofos y bioquímicos argumentan que estos procesos se llevan a cabo de maneras totalmente distintas. Y como argumento a su favor podría decirse que la materia viva sigue estando viva aún en niveles inferiores (por ejemplo, un organismo, sus órganos, sus tejidos, sus células, las moléculas con su estructura basada en carbono, etc.) y una máquina esta hecha de fierros y alambres, los cuales no están vivos. Pero, si nos vamos a niveles aún más bajos, los seres vivos terminan siendo átomos o partículas subatómicas que tampoco están vivos. Con lo cual esta distinción no existe. En nuevas disciplinas, como la vida artificial, abundan especulaciones metafísicas que son como ideas de ciencia ficción. Pero esto no es razón para restarles importancia científica. Pues si bien es peligroso afirmar que existe una analogía con evidencias insuficientes -dice Wiener- es igualmente peligroso rechazar una sin pruebas de su falta de congruencia. Wiener califica estas ideas como "perturbadoras". Así fueron las ideas de Darwin en su época, cuando se nos comparó con un mono. Ahora estamos siendo comparados con una máquina. Aún cuando el mundo actual es más racional que en otras épocas, podemos encontrar casos equivalentes a los de tiempos pasados. Simón Mago negoció con San Pablo poderes que tenían los cristianos, y fue condenado por querer utilizar para fines propios algo destinado solamente a la glorificación de Dios. El caso similar que hoy

tenemos es la cuestión de cómo se utilizarán los "poderes" que nos brindan las máquinas, poderes que si bien no son sobrenaturales superan por mucho algunas capacidades de los hombres. Si manejamos un poder muy grande, existe la posibilidad de que se salga de nuestro control, trayendo esto consecuencias catastróficas. Wiener ejemplifica esto con obras literarias, como El Aprendiz de Brujo de Goethe, o el cuento clásico de horror de W.W. Jacobs, La Garra del Mono. En estas obras se ilustra el peligro de la magia. Y existe el mismo peligro con la tecnología. En el cuento de Jacobs tiene sumo peso el hecho de pedir deseos que sean interpretados literalmente. ¿Quién nos asegura que las máquinas no malinterpretarán nuestras órdenes cuando les digamos lo que queremos que hagan? El mismo caso tendríamos si al programar una máquina para cumplir un objetivo, ésta intentara llegar al objetivo a través de medios que trajeran consigo consecuencias indeseables, incluso fatales. Se tendría que ser sumamente cuidadoso al condicionar a la máquina para que no haga lo que no deseamos. Para que no sucedan estas catástrofes, la realimentación es fundamental. Si la máquina actúa como una caja negra y después de pedirle que haga algo arroja una salida hasta el final del proceso, las posibilidades de que una catástrofe ocurra serán mucho mayores. La retroalimentación en este caso, significaría ir regulando periódicamente (por etapas) el procedimiento que se está llevando a cabo. Así, si algo marcha mal, podemos corregir el error antes de que sea demasiado tarde. Algún día la humanidad tendrá que enfrentarse con el tercer punto que Wiener considera: La relación entre el hombre y la máquina. Bastan los ejemplos que la ciencia biónica (derivada de la cibernética) nos ofrece. El hombre no sólo puede fabricarse extensiones mecánicas de su propio cuerpo, sino que también puede dotarse de cosas con las que la naturaleza no lo dotó, y como un claro ejemplo están el sonar y el radar. Norbert Wiener, como persona razonable que era, desacredita tajantemente esas ideas tan comunes que dicen que si construimos máquinas "inteligentes" los hombres se volverán flojos y ya no va a ser necesario pensar. Creo que cualquiera que haya realizado un programa de computadora sabe la gran falsedad que puede significar lo anterior. Wiener dice al respecto: "El futuro ofrece pocas esperanzas a quienes aguardan que nuestros nuevos esclavos mecánicos nos ofrezcan un mundo en el que podamos dejar de pensar. Pueden ayudarnos, pero a costa de plantear reivindicaciones supremas a nuestra honestidad y a nuestra inteligencia. El mundo del futuro será una lucha todavía más intensa contra las limitaciones de nuestra inteligencia, y no una cómoda hamaca en la que podamos echarnos a ser atendidos por nuestros esclavos robot.