Revista Mexicana de Física 35 Suplemento (1989) 589-5102

Implicaciones epistemológicasde la inteligencia artificial*

Resumen. Después de examinar algunos problemas filosóficos asocia-dos a diversos campos de la inteligencia artificial, se estudia el mo-delo cognoscitivo que en los últimos años ha surgido en los trabajossobre percepción artificial. Este modelo consiste en un proceso continuode formulación de hipótesis sobre estructura y concatenación de 108elementos que componen el mundo externo al ente observador; estashipótesis se utilizan para hacer predicciones en cuanto a los resultadosde acciones en dicho mundo; el éxito o no de estas predicciones se utilizapara confirmar, extender o reformar las hipótesis, de manera a construirpoco a poco un modelo dinámico del mundo. Dado que en este procesointerviene en forma central la interferencia delibnada en el mundo, seconcluye que si el modelo es válido también para el ser humano el mundoexterno debe existir, independientemente del observador. Se examinanalgunas consecuencias de esta posición.

El término "inteligencia artificial" cubre una multitud de pecados contra el sen-tido comlÍn del siglo pasado, todos los cuales proponen explotar la computadoraelectrónica para efectos que en algún sentido corresponden a la inteligencia humana.Él campo incluye cosas que van desele la traducción automática de idiomas hastalas matemáticas mecánicas, pasando por los programas que juegan ajedrez, los quediagnostican enfermedades, y los que interpretan fotografías tomadas desde satélites.Al comienw apenas más que una diversión académica, en los últimos lustros lainteligencia artificial ha encontrado una s~rie de aplicaciones de considerable interése importancia. Ya se está perfilando para un futuro bastante cercano la construccióny explotación industrial de robots inteligentes; las posibilidades son suficientementereales para que compañías poco dadas a perseguir una quimera, como la General~1otors en Estados Unidos o la Hitachi en Japón, estén inviertiendo sumas conside-rables en ellas.

Es natural que la emergencia de una nueva tecnología que rompe tan r&d.ical-mente con tradiciones milenarias fuera acompañada no solamente de un esfuerzoconcentrado para crearle una base teórica, sino también de muchas discusiones ypreocupaciones propias de la filosofía. Durante los primeros años la interrogante cen-tral era simplemente la posibilidad de una inteligencia no humana, sino purAmenteartificial. Después de vacilaciones iniciales, el problema parecía adecuadamente de-finido en la formulación de Turing (1950):

"Written in 1976.

590 T.A. Brody

Vamos a sen lar a una persona delante una terminal (algo como una máquinade escribir eléctrica conectada a otra máquina) y dejarlo dialogar con lo que seencuentra en el otro extremo de la línea; si al cabo de un tiempo rawnable no puededecir si está en comunicación con otro humano o con una computadora, entoncesel programa que controla las actividades. de la computadora amerita el nombre deinteligente. Desgraciadamente tenemos ahora evidencia de que el criterio de Turinges insuficiente: se han escrito varios programas que mantienen diálogos y que unalto porcentaje de sus interlocutores considera humanos, sin que en ellos se hayanincorporado rasgos de inteligencia; lo que hacen simplemente es seleccionar algunoselementos de las frases introducidas en las terminales, manipularlas según algunasreglas relativamente sencillas y devolverlas en forma de comentarios un poco másgenerales o de preguntas que piden mayor información¡ el resto lo hace el hombre,con su fatal aptitud para aceptar una serie de lugares comunes y preguntas de cortesimpático como si se tratara de comunicaciones reales que requieren inteligencia.

A pesar de ello se han aplacado en los últimos años las discusiones sobre laposibilidad de una inteligencia artificial -tal vez porque se ha ido acumulando laevidencia concreta de que algunas actividades que calificaríamos de inteligentes leson posibles a la computadora. Vale la pena citar algunos ejemplos:

Existen programas capaces de jugar juegos bastante complejos como damas, goy ajedrez¡ el nivel que alcanzan es respetable, en los juegos un poco más sencillospueden ser campeones, y aún en el más complejo de ellos, el ajedrez, si bien nollegan al nivel de maestro internacional, le ganan a la gran mayoría de aficionados(Greenblatt el al. 1967; Samuel 1959, 1967).'

Hay tod", una serie de programas dedicados a problemas matemáticos. Uno seutiliza para demostrar' teoremas en geometría euclidiana; los deduce a partir de losaxiomas (Gelernter et al. 1960). Otro efectua inlegraciones en forma algebráica (esdecir, no calcula numéricamente el valor de la integral, sino escribe la expresiónalgebráica que corresponde) y sería capaz de pasar todos los exámenes de cálculointegral hasta el ni.vel universitario (Slagle 1961; Moses 1967). Otro programa evalúalos diagramas de Feynman que describen la física de interacciones entre partículaselementales (Hearn 1966). Otro más suma por ejemplo las series trigonométricascomplicadas que surgen en astronomía posicional, cosa que no es trivial porquelas series son infinitas (ltuiriaga et al. 1966a, 1966b). También hay programas quedemuestran teoremas lógicos (ver por ejem. Cooper 1966).

En un campo diferente, se han construido programas que aceptan un dibujoburdo para piezas mecánicas o para construcciones arquitectónicas, lo transformanen un diseño exacto que satisface los requisitos ingenieriles y otros y finalmenteproducen los dibujos, planes o proyecciones que se necesiten entregar a los tallereso al maestro de obras. Otros programas se utilizan en la construcción de com-putadoras: optimizan el diseño de circuitos electrónicos individuales, planean lafabricación de circuitos integrados (es decir, los que se construyen inlegramente enun cristal minúsculo de silicio o germanio), optimizan las millones de interconexionesnecesarias para hacer de las piezas electrónicas una computadora.

INaturalmente est08 comentari08 reflejan la situación que había cuando se escribió el presentetrabajo. En -loe últimOllMOI'lse ha aVAnzadoba.stante mM [Editor].

Implicaciones epistemológicas de Ja inteligencia artificial 591

Hay programas que mediante dispositivos ópticos pueden descifrar textos ytransformarlos en datos manipulados por programas más convencionalei¡ o quepueden interpretar fotografías aéreas y transformarlas en mapa;s de alta preci~i??¡ ~que saben reconocer objetos en una escena captada por una camara de televlslOn.

La lista podría alargarse casi indefinidamente. Es más importante, sin embargo,señalar ciertas propiedades esenciales de estos programas:

e8

1) Existe la posibilidad de que estos programas produzcan soluci0J.les muyoriginales a algunos problemas. Un solo ejemplo lo mostrará: a un programa dedemostración de teoremas se le pidió la deducción del teorema geométrico de queen un triángulo isósceles los dos ángulos a la base son iguales. Todos recordamos laprueba que dió Euclides, en la cual es necesario construir la perpendicular sobre labase que pasa por el ápice y luego demostrar que los dos triángulos resultantes soniguales. El programa produjo una deducción mucho más elegante y sencilla:

AAH = AC (dado: el triángulo es isóseles)

AC = AH (consecuencia de lo anterior)

LA = LA (principio de identidad)

Ó,BAC = 6CAB (es decir, el triángulo es congruentecon su reflexión especular)

por lo tanto, LB = LC

Que un programa relativamente sencillo sea capaz de este nivel de inventiva prometemucho para el futuro (Minsky 1971).

2) Muchos de estos programas logran sus.fines mejor o más rapidamente que elhombre: pero ninguno tiene su flexibilidad. Ninguno podría atacar cualquiera de losproblemas que he mencionado ~n cambio, el cerebro humano puede jugar ajedrez,integrar, resolver diagramas de Feynman y diseñar circuitos, y no son tan raros loshombres que efectivamente pueden hacer todas estas cosas. En este sentido, el deuna capacidad generalizada de resolver problemas, todavía no tenemos máquinasinteligentes.

3) Esta falta dt flexibilidad, sin embargo, no significa que no dispongamos demétodos bastante generales, a tal punto que se han podido elaborar teorías com.pletas al respecto (por ejemplo Mesarovié 1965) y crear programas que en principiopueden resolver problemas de cualquier índole (por ejem. Newell el al. 1960, y enuna forma más sofisticada Raphael 1964). La dificultad que impide una f1exihilidadmayor consiste más bien en que no se sabe cómo representar los datos provenientesde campos variados e imprevistos. Dicho de otra manera, sabemos indicar a lacomputadora cómo manejar sus conocimientos, pero no sabemos cómo trasmitiry almacenar estos conocimientos sin demasiadas restricdones. Sin embargo, todo

3Debido a la operación del secreto comercial y del secreto militar, la información publicada sobreestOfldos campos es tan incompleta como es extensa. He preferido por lo tanto no dar ref~rencia8.

S92 T.A. Brody

indica que soluciones pqf lo menos parciales de este problema pueden esperarse enlos próximos cuantos años.

4) En casi lodos los casos, la naturaleza del problema resuelto por estos pro-gramas es tal que se imponen métodos heurísticos. O bien el problema no se puededescribir con suficiente precisión, o bien el número de caminos a explorar para encon-trar la solución es astronómico (para el caso del ajedrez se estima que es del orden de10120 ... ), o ambos, de modo que no es concebible un algoritmo que lleve a la meta enforma relativamente directa. Entre los métodos heurísticos el más interesante paranosol,ros es el aprendizaje: en su forma más sencilla, el programa cuenla con unaserie de criterios para evaluar cida posible paso, y sobre la base de la experienciaque se va acumulando, la sección de control del programa ajusta las prioridades conque se emplean estos criterios, eliminando o reduciendo en importancia aquelloscuyo uso acabó en el fracaso, enfatizando aquellos criterios que dan éxito; versionesmás elaboradas de la misma idea son capaces de crear nuevos criterios que luego sesometen al mismo proceso, y de tomar en cuenta las circunstancias de cada éxitoo fracaso. El programa va, por lo tanto, aprendiendo de su propia experiencia, ypara esto es indispensable que se le informe de los resultados obtenidos -que hayaretroalimentación del ambiente sobre el cual actúa el programa, en otros términos.

5) En el proceso de solución de sus problemas, estos programas (o por lo me-nos aquellos que tienen capacidad de aprender) causan acciones sobre su ambientey reciben información sobre los resultados obtenidos. Mediante este proceso vanformando un acervo important.e de información sobre el ambiente; parte de estainformación se encuentra en forma de tablas de datos, pero una parte más esencialse integra en el programa y lo modifica.

6) Una parte considerable de estos programas, en general, corresponde a ladeducción lógica; pero solamente una parte. Por ejemplo la generación de nuevoscriterios que se emplearán en el proceso de aprendizaje, la selección al azar decarninos por explorar, ciertas técnicas de evaluación de soluciones incompletas -hay toda una serie de métodos que no se conforman a los esquemas de la lógicatradicional y que sin embargo juegan un papel decisivo en hacer posibles los logrosde los programas de inteligencia artificial.

Il

No cabe duda ya de que en estos programas tenemos demostraciones aunque parcia-les de inteligencia; ni siquiera de que a vecesesta inteligencia excede la del originador-por lo menos en el sentido restringido de que algunos programas para juegos lespueden ganar a sus programadores.

Otro punto que amerita un momento es el de la creatividad. Este concepto escasi imposible de circunscribir con algo de claridad, tal vez aún más difícil que elde inteligencia. Pero si consideramos creativo un ente que produce más de una idea

Implicaciones epistemológicas de lt} inteligencia artificial 593

por cada idea que se le comunica (suponiendo que el número de ideas se puede de-terminar), entonccs muchos programas ya existentes son creativos -y muchos sereshumanos no lo son. El tipo de originalidad que muestra por ejemplo el programasobre teoremas de geometría que mencioné apoya fuertemente esta conclusión.

Un problema filosófico de índole distinta proviene del hecho de que se conocenciertas limitaciones intrínsecas al proceso lógico.deductivo; estas limitaciones sonconsccuencias del bien conocido teorema de Godel (1931; ver también Kneebone1963) respectó "de.,la imposibilidad de demostrar la consistencia interna de estruc-turas axiomáticas suficientemente complejas. Una de estas consecuencias es que nopodemos construir un programa que sirve para descubrir todos los errores en otrosprograma.~. La demostración es scncilla e instructiva. Si el programa por exami-narse nunca termina su ejecución, entonces no produce resultados, mucho menosresultados correctos; que termine es por lo tanto una condición necesaria. Ahorabien, supongamos que existe un programa, llamémoslo P, capaz de determinar sicualquier programa terminará su ejecución: es decir, capaz de darnos una respuestaT si termina, otra respuesta N si no termina el programa P' que está examinando.Podemos fácilmente agregar algunas instrucciones más a P de modo que en vezde darnos la respuesta T continúe indefinidamente (se meta en un "loop" infinito,como dicen los programadores), mientras sigue dando la respuesta N cuando éstaes la correcta; llamemos Q a esta versión. Hemos supuesto que Q debe funcionarcorrectamente con cualquier programa: esto incluye por supuesto a Q mismo. Peroentonces tenemos la situación contradictoria de que Q (como programa que efectúala prueba) termina si y sólo si Q (el mismo programa, pero ahora el caso examinado)no termina. Esta contradicción es suficiente para demostrar que Q (y con él suversión original P) no pueden existir.

Este resultado y una serie de otros más complejos han dado lugar a una extensateoría (ver p. ej. Davis 1958); lo que es más relevante aquí es que constituyen tambiénlímites a lo que puede en principio hacer una computadora, y que por consiguientela inteligencia es imposible en las máquinas. O por lo menos así va el argumento (unbuen ejemplo es Taube 1961). Una primera respuesta ya la dió Turing (1950): estamisma limitación es presumiblemente válida también para el hombre. De los puntosque anoté arriba se puede derivar una segu'nda respuesta que es que usamos -tantohumanos como máquinas- métodos heurísticos que van mucho más allá.de la lógica.(desde el simple "vamos a ver si pega" hasta técnicas sumamente elaboradas), almismo tiempo que pagan el precio de no poder aseguror la solución o, siquierauna buena aproximación a ella; desde luego tales métodos tienen que ser efectivosy aptos, pero no se les exige rigor ni consistencia -de modo que escapan a laslimitaciones implícitas en el teorema de GOdel. Si estas limitaciones son realmenteimportantes en la práctica y si 105 métodos empleados en la heurística no sólorebasan la lógica sino la contradicen son problemas que discutiré en otra ocasión¡baste anotar aquí meramente que en mi opinión encontramos en estos métodos queexceden la lógica y sin embargo son racionales, posibles puntos de partida para lasfuturas extensiones y transformaciones de la lógica.

594 T.A. Brody

III

Entre las propiedades anotadas arriba, hay una que da lugar a consecuencias másprofundas. El punto (5) resume la experiencia de que programas con capacidad deaprendizaje se enteran de su ambiente interfiriendo con él y observando los cambiosque resultan. Esto va en directa contradicción con un principio de la epistemologíaacadémica: la información sobre el mundo que nos rodea la recibimos a través delos sentidos y la absorbemos pasivamente. Este principio es a tal punto arraigadoen el fondo de las filosofías empiristas y positivistas que ni siquiera se siente lanecesidad de formularlo expresamente; pero lransluce en las descripciones de cómo"se imprimen en nuestra mente las percepciones sensoriales" (Bcrkeley 1710), como"una impresión primero incide en nuestro sentidos y nos hace percibir" (Hume 1739).en los datos sensoriales que intentan aislar Russell y More, o en "lo dado" con quese contenta Carnap: "Las frases protocolarias se refieren a lo dado y describenexperiencias o fenómenos directamente dados" (Carnap 1932). El origen de estaconcepción pMiva se encuentra mucho más atrás, en las "ideas simples" con lascuales Locke (1690) intentó eliminar la noción de ideas innatas para poder partir desu famosa labula rasa; y antes de él, se puede observar cn Hobbes y hasta en Bacon.

Pero si bien casi no se discute, es fundamental esta noción dc nuestra pasividadante el desfile de percepciones sensoriales cuyo análisis es en consecuencia el únicocamino para llegar a conocer el mundo. Una vez aceptado cste punto de partida.efectivamente se nos presentan todos los dilemas de la filosofía tradicional, y sobretodo la gran cuestión de si este mundo que tratamos de construir siquiera existedetrás de la barrera qu.e las sensaciones erigen entre él y nosotros: nos amenaza en.tonces el temible fantasma del solipsismo que tantos filósofoshan tratado vanamentede exorcizar y que otros, más valientes o más ingenuos, han aceptado.

En cambio, este mundo se nos abre a nucstro conocimiento si lo que sugiereesta experiencia con mecanismos cognoscitivos es válido también para percepciónhumana. Si nuestra interferencia con el mundo "cxterno", nuestra actuación, es unelemento esencial del proceso perceptual. si nuestra información sobre el mundo noproviene tanto de las observacioncs estáticamentc accesiblcs sino de las inferenciasque podemos hacer a partir de 1M transformaciones deliberadamente inducidas.entonces los resultados de un proceso de percepción contienen ya su propia confir-mación. Si sabemos, por ejemplo, que la botella ya no contiene vino, 10 sabemosrealmente, porque la hemos destapado y tratado de vaciarla cn un vaso; y sólo laexperiencia acumulada en años de vida nos permite llegar a esta conclusión másrápidamente por un simple vistazo. El ej~mplo es trivial y obvio: pero sugierefuertemente que todo proceso perceptual tiene que ser activo. Vale la pena puesexaminar con más detalle lo que se ha logrado en materia de inteligencia artificial,mediante programas de computadora en donde la estructura de lo que ocurre noses accesible.

La parte electrónica que es menester para conectar una cámara de TV a travésde circuitos apropiados y una computadora en una forma que simule la conección delojo al cerebro no presenta problemas. La información que recibe la computadora esuna secuencia de intensidades luminosas asociadas a las coordenadas que describen

Implicacione8 epi8temológica8 de la inteligencia artifidal 595

su posición en el campo visual. Un primer método para sacar información respectoal sentido de la escena observada sería el que Michie (1971) llama el monádico:comparar combinaciones de puntos vecinos, después de algunas transformacionesmás o menos preestablecidas, con una tabla de datos patrón. En la traducciónautomática de lenguajes -un problema cuya estructura intelectual es muy similar-este método correspondería al de buscar cada una de las palabras del texto dadoen un diccionario y simplemente traducir palabra por palabra. Poco esfuerzo fuenecesario para convencer a los lingüistas de lo absurdo de este procedimiento; peroen la interpretación de imágenes visuales se siguió trabajando en esta línea durantebastantes años.

Un segundo nivel es el estructural: en vez de medir distancias y áreas en laimagen, se miden ángulos y se trata el problema con la geometría proyectiva. Estoya es mucho más natural, porque se tiene evidencia (Johannson 1973) de que poreste camino el ojo humano compensa el movimiento constante de la cabeza, del ojomismo y de los objetos observados; pero implica que tenemos que usar un mínimode dos imágenes (simultáneas como en la visión binocular o sucesivas como enlas observaciones desde avión o satélite) para determinar el punto de proyección,adonde se considera colocado el aparato observador. En la lingüística el métodoencuentra su análogo en el uso de las gramáticas generadoras introducidas porChomsky (1957). Las técnicas de este nivel permitieron un brinco grande en lacalidad de los resultados (Guzmán 1968, Clowes 1971), y muchos proyectos militaresen Estados Unidos las utilizaron para el estudio de fotos aéreos. También en el áreade la traducción automática se invirtieron enormes sumas; pero después de unaserie de éxitos iniciales las cosas se estancaron, por razones que analiza por ejemploBar-Hillel (1964) para el problema lingüístico. Para el caso perceptual podríamosponerlas así: el método permite analizar imágenes muy sencillas; pero a medida queaumenta su complejidad, aumenta el número de diferentes posibilidades que hayque examinar y en forma tan rápida que pronto excede la capacidad de nuestrasmáquinas mayores; y no se ve posibilidad alguna de aplicar criterios para reduciresta inundación a proporciones más razonables.

En los Estados Unidos esto se consideró, durante una temporada, como ar-gumento para construir máquinas aun más gigantescas. Es un h'echo que deberíainteresar al historiador de la ciencia que las primeras. indicaciones de una salidadel atolladero vinieron del grupo de inteligencia artificial de Edimburgo, al querestricciones económicas habían linútado a computadoras cuando más medianas.La idea fundamental que se ha implantado ea que en vez de tratar de sacar elmáximo de jugo a la imagen individual se debe obtener de ella simplemente unaindicación de cómo modificar la situación cámara. mundo para ob~ener una segundaimagen que mejoraría la interpretación, y luego continuar esta alternación hasta quese tenga una información adecuada. Michie (1971), muy justamente en mi opinión,llama este nivel el epistémico. Cabe notar qUE";¡. este nivel de trabajo obtenemosuna descripción del mundo observado que tiene una dimensión adicional: el tiempoy en él las relaciones causales. Al nivel monádico compilarnos diccionarios, sin quehaya en ellos noción de las estructuras encontradas. Al nivel estructural bU8CA~mos estructuras individuales y está.ticas, sin preocuparnos por sus correlaciones

596 T.A. Brody

ni evoluciones. Al nivel epistémico pro('{.demos a la manera <1(' una investigacióncientífica: un estudio superficial de la primera vista sugiC'ff' algunas posibilidades deestructuras ligadas entre sí; la máquina postula provisionalmente algunas ideas decómo podrían cambiarse estas estructuras si se hiciese talo tal cosa, y sobre esta baseselecciona una acción; se obtiene tilla nueva imagrll del mundo modificado, y ('5 ahorarelativamente fácil determinar hasta donde las predicciones eran corrcctas; en casode errores inaceptahlerncntc grandes, el proceso se repite -tantas veces como seanecesario para tener en la memoria de la (omputadora IIna de:-cripción de su mundoconstituida por programas capaces de $¡mular el mundo y su comportamiento, y deallí poder predecir lo que sucederá si se toman tales acciones.

El método epistémico por lo tanto trata tan pronto como sea posible obteneruna cierta comprensión del mundo en que se mucve la computadora y su cámara;~omprensión por 10 menos en el sentido implícito f'n la posibilidad de prediccionesrazonablemente correctas. Una vcz establecido <'SIc principio, fué inmediatamenteobvio que el proceso perceptual podría mcjorarse dotando al sistema de un mayormargen de posibilidades de actuar en Sil mundo. A los cambios de posición y di-rección de la cámara se agregó el movimiento de la lámpara, 10 que permitió sacarconclusiones de cómo se alteran las sombras; hwgo se agregó un brazo que puedemover los objetos individuales, y a este brazo se le dotó de sentidos para juzgarel peso y la dureza de los objetos. t\lichie (197.1) resume la ('xperiencia así: "'Losmétodos lingüísticos {estructurales] son incapaces de C'mpujar el análisis de ('scenasvisuales más allá de cierta profundidad. AtÍn a esta profundidad Sil uso exhaustivoes excesivamente desgastador. En el análisis se deben resolvcr dinámicamente lasambigüedades, a medida que ocurran, mediante rf'ferencias a un modelo epistémico.De hecho, esta resolución semántica de las ambigüedades dcbf'n hacerse tan prontosea posible en cada etapa, en vez de f'Spcrar hasta el final del proceso. Estudiosque llegan a conclusiones similares se deben a ~1insky y Papert (1972) Y a Light-

hill (1973).La velocidad que permite el nivel epistémico al proceso cognoscitivo es grande.

Una vez bien establecidas las estructuras generales del modelo (Id mundo, ('S posiblea.islar dentro del modelo para cada caso a aqlldlas características que se necesi-tan para hacer la discriminación relevante. Se puede pues desarrollar, mediante lapráctica, una serie de atajos y elegir el más breve; sólo si ést.e nos falla r('gresa.mas e intentamos otro un poco más largo hasta dar con la mela. Pero pagamosel precio de que e! modelo y sus estructuras deben estar formados ya, y esteproceso puede llevar tiempo: es un proceso de aprendizaje que atÍn en el mundomuy simplificado que presentamos a la computadora debe organizarse con cuidadopara evitar que la máquina resltlte ser un ca.'lo "'psiquiátrico". El aprendizaje de!(Y'undo desde luego es un proceso que nunca termina, ya que este mundo nuncadeja de cambiar. Si este aspecto en general no se programa todavía en las compu-tadoras, es evidente su fundamental importancia en e! ser humano; podemos sinembargo incluirlo en nuestras consideraciones, porque la limitación es una de índolepráctica: en las aplicaciones muy restrictas de las máquina.'l inteligentes que porel momento se prevén no se necesita¡ los principios y hasta la mayor parte deldetalle de su realización son bien conocidos, dado que se emplean en el aprendizaje

Impli('Ucionc,~ cpistnllo1ógica .••de ltl inteligencia artificial S97

inicial que ya forma parte integrante en tantos de los programas que existen yfuncionan.

Tan pronto incluyamos pues la continuación del proceso formativo del modeloen el funcionamiento de las máquinas inteligentes, tendremos sistemas en los cualestodos los aspectos esenciales de un proccso cognoscitivo vienen representados. Por lopronto limitacioncs tanto técnicas como más fundamentales nos impiden pasar másallá de lo que hp.ría, digamos un niño de tres alios: ha sido posible programar unacombinación d~ computadora, cámara y brazo para que se le puedan enseñar unaserie de piezas, por ejemplo de un juguete, luego la manera de montar el juguete, yfinalmente dejarle un montón de piezas (en desorden, con otras piezas más) para quede allí construya el máximo lllímero de juguetes posible. Otros sistemas han sidocapaces del equivalente de la hazaña que realizan muchos antropoides, -descubrirque poniendo una caja sobre una silla pueden alcanzar los plátanos colgados deltecho (~fichie el al. 1973, y otros trabajos presentados en la misma conferencia).

Ahora bien, ¿podemos decir que la percepción humana emplea modos similares?Desgraciadamente la evidencia L'S muy incompleta; en parte porque la experimen-tación con humanos tiene sus problemas y en particular no permite establecer corre-laciones fisiológicas, en parte también porque los psicólogos como otros científ1coshall estado bajo el encanto de la epistemología empirista y simplemente no han bus-cado en las direcciones apropiadas. Sin embargo, se tiene ya una serie de datos quenos revelan algo de las estructuras perceptuales en los animales y su funcionamiento;los trabajos de J.Z. Young con pulpos, de Ewert y otros en ranas, y sobre tf)do losde Ilubely \Viesel (1959) con gatos han demostrado ampliamente la extraordinariaflexibilidad y adaptabilidad de estos mecanismos, llegándose hasta la restructuraciónanatómica de las conexiones ncrviosas en animales muy jóvenes. Recientemente,Creutzfeldt y sus colaboradores (1975) han extendido notablemente el campo deesta flexibilidad. Algunos de los resultados más relevantes en la percepción visualhumana se deben a Julesz en los Lahoratorios de la Bell (ver p. ej. Julesz 1973),a Barmon (l9il) a Johannson (1973); una excelente discusión de los resultadosanteriores se encucntra en Gregory (1966). El cuadro está muy incompleto y muchoqueda por hacer alín, pero por lo menos hasta ahora nada contradice la validez delmodelo epistémico para la percepción humana mientras varios indicios concuerdanbien. La situación es demasiado compleja para que una discusión detallada aquísea posible. Posiblemente uno de los mejores argumentos actualmente disponibleses precisamente el hecho de que en el campo de la inteligencia artificial la gente,df'spués de partir de modelos de una índole bien distinta, se vieron obligados acambiar de rumbo y desarrollar el método que hemos llamado epistémico.

IV

Indudablemente la implicación más fundamental que se saca de la naturaleza delproceso perceptual que se viene de describir concierne la relación entre el ente per-ceptor y el ambiente percibido: que se trata de un proceso complejo, en el cual loserrores (es decir, las discrepancias entre las respuestas esperadas según el modelo y

598 T.A. Brody

las efectivamente provocadas por la acción del perceptor) juegan un papel decisivoen lograr la adaptación gradual del modelo y este no puede concebirse si el ambienteasí percibido no tiene una realidad sobre la cual el perceptor puede tener influenciapero que es independiente de él. En otros términos, el ambiente existe, en el mismosentido y al mismo nivel que el ente que lo percibe. Lo que es más, el modelo quese va creando y ajustando es una representación bastante fiel del ambiente¡ no en elsentido, evidentemente, de que si vemos una montaña, entonces nuestra mente debecontener olra montaña, tal vez más pequeña, sino en el sentido de que el modelorefleja adecuadamente las propiedades y la evolución del ambiente y nos permiteobtener predicciones precisas y específicas respecto a cómo se comportarán los dife-rentes elementos del ambiente en determinadas circunstancias. Lo que se ve reflejadoen el modelo son, pues, las relaciones dinámicas en el ambiente percibido, según ellenguaje de los físicos; es decir, las relaciones (dadas normalmente en términos deiteracciones causales) que determinan cómo cambia en el tiempo el ambiente.

Que este modelo da una representación adecuada de la realidad "externa Il esalgo que evidentemente no se puede-Clemostrar lógicamente mediante deducciones deun conjunto de bases axiomáticas; en primer lugar porque su modo de construcción yajuste continuo -al igual que las teorías científicas- no reciben su justificación sinoa posferiori, en su aplicación; y en segundo lugar porque el modelo nunca es perfecto,siempre contiene aproximaciones y errores, cuya existencia es el motor que estimulael proceso de adaptación ulterior y por lo tanto es vital, en el sentido más literalde la palabra. "Errare humanum est"; Y si quisiéramos exagerar, podríamos decirque es indispensable equivocarse para luego poder acertar. Pero ¡no exageraríamosmucho!

Por consiguiente, la ontología materialista que obtenemos de esta concepciónepistemológica tampoco queda demostrada en forma c:;ontundente a partir de pri-meros principios universalmente aceptables; semejantes pretensiones serían bien ab-surdas; pero sí considero que el examen atento de lo que está logrando la inteligenciaartificial contribuye a hacer plausible esta ontología.

Un segundo punto de inportancia filosófica es la ausencia en el proceso percep-tua! que hemos descrito de un elemento básico que se acepta definitivamente sinestar sujeto a revisión~ no hay "átomos" en el sentido de Russell, o "particularesbásicos" como los que postula Strawson. Peor aún, cada vez que examinamos lasrazones de aceptar una parte del análisis que nos ofrece el modelo, vemos que sebasa en lo demás del modelo -y estas otras partes a su vez se basan en lo queestamos examinando. En cada parte el análisis se empuja justito tan lejos comoresulta necesario para dirigir nuestras actividades prá.cticas, y en otros momentos uotros contextos, este análisis irá más lejos o se quedará más somero. Lo que en uninstante es el punto de partida, en otro resulta d<>rivado.

La satisfacción al ver desvanecerse el atomismo epistemológico, tan arbitrarioen sus postulados y tan expuesto a contradiccones irresolubles, no debe escondernosque en consecuencia quedamos ante una tarea bastante menos fácil: la justificaciónde cualquier modelo perceptual ya no se puede encontrar en su deducción impe-cable a partir de bases indiscutibles, sino solamente en el éxito que tiene al guiarnuetras actividades. Esta formulación del problema implica que debemos examinar

Implicaciones epistemológicas de la inteligencia artificial 599

a posterion' 10que nos ha permitido cada modelo; implica también que si el éxitono es meramente fortuito sino perdurable, entonces hemos conseguido la semejanzaestructural entre nuestro modelo perceptual y el mundo que nos rodea: en consecuen-cia, ni concepciones apriorísticas ni simplificaciones pragmáticas serán aceptables.Ambas cortarían una parte esencial del proceso perceptual, ya sea de un lado, yasea del otro.

También se desvanece otro complejo de problemas que ha obsesionado una buenaparte de la discusión filosófica en el último medio siglo. Si bien es posible observarciertas fases en todo el proceso que he llamado perceptual y que realmente se ex-tiende en forma continua hasta lo cognoscitivo, estas fases no ocurren bien ordenadasni cronológica ni lógicamente. En los programas que emplean los laboratorios deinteligencia artificial es posible percibir diferentes niveles: se puede hablar del ais-lamiento de formas, del reconocimiento de estructuras, del descubrimiento de leyesde cambio, del desarrollo de leyes causales y de conexiones, de la construcción depredicciones; y en cada fase existen formas apropiadas de interferencia e interaccióncon el ambiente que se trata de interpretar. Pero en la ejecución se salta de unafase a la otra, en una forma poco previsible y dictada sólo por la conveniencia delmomento. Es este hecho el que explica porqué todas las tentativas para aislar unascenso ordenado desde el recibimiento del dato perceptual hasta la coronación deledificio mediante la deducción de la estructura mundial han fracasado. Por supuestono "quierodecir aquí que no es posible el análisis del proceso: sí lo es, pero no en lostérminos evidentemente inapropiados de conceptos que dependen jerárquicamentesólo de otros inferiores en la estructura. Aceptemos la interdependencia de todoslos elementos, tanto hacia arriba como hacia abajo, y la comprensión de su fun-cionamiento resulta una tarea bien difícil en la cual hemos avanzado muy poco,pero enteramente factible. Sobre todo importa no tratar de hacer cortes arbitrarios;hasta aquí la percepción, más allá la lógica. El cerebro tiene más sentido común ypermite la colaboración de estas cosas.

En el programa computacional esta interdependencia se ve reflejada en unfenómeno que a primera vista sorprende. La estructura del programa contiene loque con un poco de simplificación se puede llamar una subrutina para cada unode los elementos que revela el análisis perceptual¡ pero estas subrutinas requieren asu vez el uso de una serie de subrutinas que representan las diversas categorías depropiedades y las consecuentes formas de evolución dinámica¡ y estas subrutinas quepodríamos llamar descriptivas contienen elementos que sólo se pueden representarmediante las subrutinas "elementales". Tenemos así la situación de una serie desubrutinas a un nivel ligadas entre sí porque emplean subrutinas de otro nivel,siendo al mismo tiempo subrutinas de las subrutinas que emplean ... A primeravista esto parece confuso, pero no lo es; si consideramos dos objetos en el campovisual del dispositivo, entonces la descripción de ellos, conteniendo no solamente susaspectos momentáneos sino también sus futuras interacciones, debe hacer referenciaal otro objeto. Técnicamente se habla aquí de co-rutinas, cada una de las cualesllama a ejecución las otras; las estructuras computacionales involucradas son partede la programación recursiva (Barron 1968; ver también Brody 1968). Lo notableque tienen es que una parte de un programa puede usar cualquier otra parte del

5100 T.A. Brody

programa -aún a sí misma, aún a todo el programa entero- de modo que aquí laparle es mayor que el todo. Desde luego, la paradoja no es más que aparente, ya quese realiza sólo en la ejecución del programa, mientras que estáticamente el conjuntode instrucciones constituyendo la subrutina es bien un conjunto menor que todo elprograma; pero es útil tener a disposición un caso de esta seudo-paradoja, porqueayuda a evitar muchas confusiones que surgen.

Una de ellas involucra el problema de la conciencia. Si el tipo de mecanismoperceptual de las computadoras es aplicable al ser humano, entonces el modelo queél se construye debe incluir una representación de él mismo. Comúnmente se aceptaque el conocimiento que tiene cada quien de sí mismo es tan bueno sino mejorque e) que tienen otras personas; en el modelo la representación de sí mismo debeser, entonces, bastante completa y debe incluir naturalmente una representación dela representación del mundo que uno tiene. Llegamos en esta forma al comienw deuna regresión infinita que es inaceptable para un mecanismo finito. Pero las técnicasrecursivas hacen evidente que hay aquí una confusión: la regresión se realiza sólodinámicamente, y su infinitud es sólo potencial, porque en la práctica los progra-mas (y presumiblemente los mecanismos cerebrales) llegan a un nivel de recursiónvariable e imprevisible, pero siempre finito, limitado simplemente por necesidadespuramente prácticas. Pero, por otro lado parece lícito aquí especular de que en lamera potencialidad de una recursión indefinidamente profunda hemos encontradouna huella del tipo de estructura que nos permitirá comprender el fenómeno elusivode la conciencia y autoconciencia humanas.

v

Naturalmente, las implicaciones epistemológicas del desasrrollo de las técnicas dela inteligencia artificial que hemos esbozado aquí no son novedosas. Ni siquierael modelo del proceso cognoscitivo como la estructuración de hipótesis que suce-sivamente se afinan es nuevo; se encuentra esbozado ya hasta por Peirce (1903),sorprendentemente. Desde luego, PeÍrce no dio una descripción explícita y detallada,como lo que se puede hacer hoy efl día; además ignoró totalmente la necesidad quehemos subrayado de verificar estas hipótesis mediante la interferencia activa con elmundo que nos rodea, de modo que pudo fácilmente caer en la extravagante nociónde la auto confirmación de las hipótesis por el hecho de que "jalan" -esencia máspeculiar del pragmatismo.

Lo que sí es enteramente novedoso es la posibilidad que se abre ante nuestrosojos de explorar en un futuro ,no muy lejano las cuestiones epistemológicas porla via experimental. Cabe preguntarse, pues, si para el año 2000 los institutos defilosofía en nuestras universidades tendrán que instalar laboratorios --Q si, comoya ha sucedido tanta:3 veces en el pasado estamos asistiendo al nacimiento de unanueva ciencia experimental que se separará de su madre filosófica.

Referencias

Implicaciones epistemológicas de la inteligencia artificial 5101

Bar.Hilleil, Y., 1964, Language and ln/ormation, Addison-\Vesley, Reading, Ma.ss.

Barran, n.w. 1968, Recursive Tcchniques in Progmmming, Ma.cdonald, Londres.

Berkeley, G., 1710, Treaties concerning the Principies o/ Human Knowledge, Part J,Everyman, Londres 1910.

Brod)', T.A., 1968, Symbol Manipulation Techniques, Gordon &: Brea.ch, New York.

Carnap, R., 1932, Die physikalische Sprache es Universalsprache der Wissenschaft,Erkenntnis, p. 112.

Chomsky, N., 1957, Syntaetic Strueturcs, Mouton, La Haya.

Clowes, M.B., 1971, Artificiallntelligence 2, 79.

Coopcr, D.C., 1966, Adl'ances in Progmmming and Non-Numen'cal Computation, L. Fax(ed.), Pcrgamon, Oxford, p. 155.

Creulzfeldl, O.D. & P. lIeggelund, 1975, Science 188, 1025.

Davis, 1.1., 1958, Computability and Unsolt'ability, McGraw-HiIl, New York.

Gelernter, 11., J.R. Hansen & D.W. Loveland, 1960, Proc. lVestern Joint Computer Con/.17, 143.

Godel, K., 1931, Monat.'ih. F. Math. U. Phlls. 38, 173.

Greenblatt, R.O., D.F.. Ea.stlake & s.n. Crocker, 1967, Proc. Fall Joint Computer Conf.,Thomson Book Co., Washington, D.C. p. 801.

Gregory, R.L., 1966 Eye and Bmin, Widcnfeld &: Nicolson, Londres.

Guzmán, A., 1968, Proc. Fall Joint Computer Conf., Thomson Book Co., Washington,D.C., p. 291.

Harmon, L.D., 1971, Abh. 4. Kongress d. Deutschen Ges. f. Kybernetik, Springer, Derlin,p. 277.

Hearn, A.J., 1966, Comm. Assoc. Computing Mach. 9, 573.

Hubel, 0.11. & T.N. Wiesel, 1959, J. I'hysiology 148,574.

Hume, D., 1739, A matise o/ Humar. Nature, Penguin, Harmondsworth, 1939.

Iturriaga, R., T.A. Standish &: R.A. Krutar, 1966a, Proc. Spring Joint Computer Con/.,Spartan Books. 28, 241.

Jturriaga, R., T.A. Standish, R.A. Krutar &: J. Early, 1966b, "'The Implementation oCFormula Algol", Carnegie Institute of Technology Memoranduffi, Pittsburgh, Ill.

Johannson, G., 1973, Perception and Psychophysic1i 14,201.

Julesz, B & al., 1973, Perct'ption 2, 391.

Kneebone, G.,T., 1963, Mathematieal /.,ogic and the Foundatioos o/ Mathematics, VanNostrand, Londres.

Lighthill, M.J., 1973, Artificial Intelligence, A Geneml Survey, Science Research Couna!Report, Londres.

Locke, J., 1690, Essay 00 the Human Understanding, Part n.

8102 T.A. Brody

Mesarovié, M.O., 1965, en Computer Augmentation o/ !Juman Reasoning, 5ass & \Vil.kioson (eds.), Spa.rtan Books, \Vashington, D.C., p. 37.

Michie, D., 1971, Experimental Programming Report No. 22, Department of MachineIntelligence and PerceptioD, Univ. Edinhurgh.

Michie, D., 1974, On Machine Intel1igencf', Edinhurgh Univ. Press, p. 123.

Michie, D., A.P. Ambler, H.G. Barrow, R.M. BurstaJl, R.J. Popplestone &,: K.J. Turner,1973, Proc. First Con/o in lndu6trial Robot Technology, Univ. Nottingham. p. 185.

Minsky, M'l 1971, comunicación privada.

Minsky, M. &. S. Papert, 1972, Artificial Intelligence: Progress Report, MIT ArtificialInlelligence Memo 252, MIT, Cambridge, Mass.

Moses, J., 1967, Ph. D. Thesis, MIT, Cambridge, Mass.

Newell, A., J.C. Sh.w &. B.A. Simoo, 1960., Proc. lnl. Con/. lnfo. Proce..,ing, UNESCO,Pari" p. 256.

Newell, A., J.C. Sh.w &. B.A. Simoo, 1960h eo Se1f-Organizing Systems, Yovit, &.Cameran (eds.), PergamoD, Oxrord, p. 153.

Peirce, C.S., 1903, The Reality of Thirdness a.nd Sorne Con sequen ces of Four Incapacities,en Colledtd Papers o/ Charles Sanders Peirce, Harvard Univ. Presa, Cambridge, Mass.,vol. V, p. 63.

Raphael, B., 1964, Report TR-2, Projecl MAC, MIT, Camhridge, Mas •.

S'l"Iuel. A.L., 1959, IBM J. Res. Dev. 3 210.

Somuel, A.L., 1967, lEM J. Res. Dm 11,601.

Sla.gle, J., 1967, Ph.D. The.i., MIT, C.mbridge, Mas •.

Tauhe, M'l1961, Computers and Common Senst, Columbia Univ. Press, New York.

Turing, A.M., 1950, Mind S9, 433; reimpreso en Computers and Thought, F~igenbaum&. Feldm.o (ed •. ), McGraw-Bill, New York 1963, p. 11.