searle, j.r. - mentes, cerebros y programas
Post on 06-Apr-2018
332 Views
Preview:
TRANSCRIPT
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 1/12
III. MENTES, CEREBROSY PROGRAMAS*
JOHN R, SEARLE
¿.OUÉ MpSRTANCIA sicológica y f i losóf ica debemos da r a los esfuerzos
rccientes que se han realizado para que las complttadoras simulen las ha-
bil idades cognoscit ivas del ser hr-rmano? Para tesponder a esta pregunta,
nr e parece út i l diferenciar entre lo qu e llamaré Ia (intel igencia art if ic ial)
"f uerte" e I A "débil" o "cautelosa". Segúrn a ra débil, el principal valor qu e
tiene la computadora en el estudio de la mente es ql le nos proporciona un a
hcrramienta mu y poderosa qu e no s permite, po r ejemplo, formular y com-
pr:clbarhipótesis de modo má s riguroso 1'preciso. Empero, en la Ia "fuerte",
la computadora no es tan sólo u¡a herramienta para est l ldiar la mente;
rurásbien, la computadora programada adectradamente es t 'ealmente un a
nrente en el sent ido de que puede decirse literalmente que lascomputadoras
Llue CUenf n co n prggramaS correc(oS cot t tpret tdet ty poseen ot tos estadOs
cognoscit ivos. En la IA fuerte, como la comprttadora progranrada cuenta
c6 n estados cognoscit ivos, lo s programas no Son meras herramientas qu e
no s permiten probar las explicaciones psicológicas, sino que los programas
constituyen po r sí mismos la s explicaciones
No tengo ninguna obieción a lo que se dice acerca de la IA débil, al menos
er-r o qu e concierne a este artículo. Mi exposición aquí I 'ersará en tor-no a
las af irmaciones que he hecho acerca de la tn fuerte, específ icamente en
t()rno a la af irmación cl equ e la computadora programada adecuadamente
t iene literalmente estados cognit ivos-v
que, en consecuencia, lo s programas
explican la cognición humana. A part ir de ahora, cuando me ref iera a Ia
tA enclré en mánte la versión Fuerte, al cual queda expresada por estas do s
aseveraciones.consideraré la obra de Roger Schank y su s colegas en Yale (Schank y
Abelson, 1977), porque me encuentro má s famil iarizado co n ella que con
ctralesquiera otras aseveraciones similares, y porque oFrece tr n ejemplo
ntuy cláro clel t ipo de trabajo qu e deseo examinar. Pero nada de lo que a
continuación se presenta depende de lo s detalles de lo s programas de
Schank, pues los mismos argumentos se podrían apl icar al SHRDLU
de Winogiad (Winograd, 1973), a1 ELIZA. de Weizenbaum (Weizenbaum,
* JolrnR. Searle, Minds,Brains,an d Programs", lr cBehavioral nd Brait tscietrces,3, 1980,pp.417-424. 198ó,Cambridge nÑersity ressReproducido on pemiso de
CambridgeUniversityPress del autor.
lvlENTES,FI{EBROS I'R()(tR¡\trtAS s:
19ó-5) 'c le hecho a ct ralquier-s imt r lac i r in e. r r í rqt r ina cl e Trrr . i .s cl e fenó-menos mentales ht r lnanos.
Nltr-vbre'emente, v dejando de lado'ar i .s c letai les , el pr .ogr . : r . ra deSchank ptrede describirse de la sigr-riente raner.¿r: l p' .prisito clel r, ,g.rmaconsiste en simular la capacidad hunrara para c().rpr-e.der. relat.s. un acaracter ís t ica de la capac ic lad de los ser.eshrrnra.os par.¿ i .mprenc lerrelatos es que éstos pueden
responcle. pregrntas acel.ca clc-l -elaro, atrncuando la información qr-re .opor-cionen nrrnca se hava establccici lr exolí-c i tamenle en el relato. Así pues. por.ejenrplo, srrp{}ngaqu e cs(.ucl,a la s¡_guiente historia: "u n honrbre entró a un rest¿llr.antc r, or.clerró rn:r haln-burguesa. cuando se la s in ' ieron, estaba t r ta l r re. te qrre. r l rc la,as í <¡'e erhombre estalló en cólera v abanclonó el restarrr.ante irr. irso, , ir, ¡rngu. rahamburguesa ni deja. propina." Aho'a bien, si re pr-eetrntan,or, ". . .s" co'rióel hombre la hamburguesa?", usted probabre. re. tJ respor-rc le, r íá: . .No,
nose a comió." De igual maner-a, si ustec, l scrrch¿ro sigtrie.te: "[Jn hor'breent ró a u n restau.anre'oldenó t ¡ l r ¡ r l ¡ . rbr¡ lqrresr . cra.. l , , st ' l lr s i r . , , . ie l .on,le agradó mucho. Al sali. del r-estau.ante, e Jc. ió a la nlescr.¿r
'r age'erosa
propina antes de pagar la ctrenta." Si se e pr'r.gu11ta:¿S e co'rit i"f
lro,.br-ela -hambtrrguesa?", usted probablen-rente .esponcrería: "Sí,
se la crmió., ,Ahora bjen, la s máquinas de schank ptreclen e.s¡,orr. ier , .eguntas sir¡i lar-esacerca de restaurantes formuladas en estos ér.nrinos.par.al i¿rce.rlc),Llentanco n un a "representación" clel t ipo de inltornración qlre poseen l. s sereshumanos acerca de los r-estau.antes, a cual les per. ' r i{e resp.rcler-l)r-eg'n-ta s como la s antes mencionadas, dado ester ip. de relat.s. c,,r,rr. lo se pr-()-porc iona el relato a la máqr-r ina'se le hace la pr-eg'nt¿r , r r rpr . inr i r . í r-es-puestas de l t ip. de las qr-re speraríamos qr-re l ier:rri los se'es hrrrr ' tnos alescuchar relatos similares. Lo s part iclar. ios de la lR ftrer-teaf ir.nr¿rn ilre enestasecuencia de pregr-rntas respLlestas ¿rmáquina no sólo s inr t r la un ahabi l idac l humana, s ino qu e también:
1) puede deci rse l i teralmente qu e la nráqrr nacct r r tprer t r lc l re lat . y pro-porc iona respuestas a las pr.egrrntas,
2) lo que la máquina y su programa hacen es ex\t l ic.r la cap¿rciclacl u-mana de comprender el relato r. responder.p. "g, ,n iu, ¡r. .", .ca e el .
A mí me parece qu e ningtrna de estas do s afirmaciones c.crrc.rr.a unsostén total en el trabajo de Schank, ' como intentaré clemostr.ar a conti-nuac ión.
un a manera de probar cualquier teoría cle a n-re.te estriba en preg'n-tarse a un o mismo qu é suceder' ía s i nr i mente realrnente ftrncionara sobrelos principios con que Ia teoría dice que funci.nan toclas as n-rentes.Apli-quemos esta prueba al programa de Schank con el sigrrie nre Gerlanketrcx-
I No pretendo ecir, laroestá, ueel propioSchank eencuentre ornprometicloo¡estas firmaciones.
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 2/12
S,1 I',IENTES,CEREBROSY PROGRAITIAS
pcrimerlt.Supongamosque estoyencerrad,o n un a habitaciónv que seme
propo..io.ru'un f-ajo randede textosescr"itos n chino Supongamosade-
rna, (.o-o" ,
d" h"iho el caso)qu e no sé chino' ni escrito ni hablado'
y qr-re i siquiera tengo la certeza de.poder reconocer la escritura china
como tal, distinguiénáola,por ejempló, de la escritura aponesao de una
sel.ie e garabatossi n signiiicadt alguno.Para mí , la escritura chi'a sólo
esun a r"il" d" garabatoJsinsentido.Ahorabien,suponganlosqu e despuésá" .".ibi. est" á; o de extosen chino, se me proporcionaotro que contiene
un a serie de reglas para relacionar el sepgndo fa'ioco n el primero La s
r.eglas stánen nglei v la sentiendo an bien como cualquierotro hablante
cl eesta engua.Me permiten establecer na correlación entre un conjun-
to de sírnbolos ormalesy otro conjunto de símbolos or-males.on "fonnal"
sólo quiero decir aquí qrr" p,,,e.lodentificar lo s símboloscompletamente
po. ,tu formas. S.tpo.rgu*.rs también ahora que recibo un tercer faio
cl esímbolos chinos i.rrio .o r algunas nstr'cciones, otra'e z
en inglés,
qlle me per-rniten orrelacionar elementosde este ercer faio co n lo s do s
primeros, v que estas eglasme instmven acercade cómo responderco n
.i",ro, símbólos chinos de cierta forma a ciertos lipos de forrna que me
lireron proporcionadas en el tercer faio' Sin yo saber'lo, asp^el'sonas ue
nr edierón todosestos ímbolos laman "manuscrito"al primerfajo, "relato"
al segundov "preguntas"al tercero.Además, laman "l'espLrestasla s pre-
,.t.rür"^
lo, ,l-üolos que doy en respuestaal tercer fajo' y al coniunto de
iegl.s en inglés qu e-é
p.opor.ionaron lo llaman "e l programa" Ahora
bien, sól,r para complicar la historia un poco, maginemos que estasper-
sc,nas amtién me proporcionan relatos en inglés,qtle vo comprendo'
v que luego me hacé' preg.ntas en ingléssobre esos elatosv vo les res-
p,rr-r.loambi¿n en ingiés. Supo'gamos también que despttésde tt n rato
i,)gr,, "gui. tan bien ia s instmccionespara descifl'ar os símboloschinos
,, ü, p.o-grrrrrradoresogran escribir tan bien los programas desdeun punto
cle ista externo esto es ,desde a perspectiva e alg¡ien qlle se encuentra
ftrera de la habitación cloncle stoyencerrado- qtte mis respuestas la s
pleguntas pr-reden istinguirse en absoltttode ia s qu e proporcionaría tt nirablanted" l chit o. Nadiequesóloobsen'aramis respuestas odríaafirrnar
qlle no hablo ni un a paiabra de chino. Supongamos ambién qne mis res-
¡,i-restas la s preguntasen inglés so n (qué dr,rda abe) ndistingrriblesde
ia s cle otros hablantesde l inglés, por la sencilla razón de qu e )' o sc)' tl n
hablante de esta engua. Desdeel ptrnto de vista externo -e l de alguien,.¡ueea mi s "respuestas"-, las contestaciones la s preguntasen chino
v . lu. preguntasen inglésso n gualmentebuenas.Empero, en el caso del
chino, a cliferencia el inglés, c¡r-rnulo is respuestasmedianteel manejo
cl esímboios forrnalesno intetpretados,En lo que respectaal chino, nl e
cclmporto simplen-rente omo una computado¡a; realizo operacionesde
lvfENI-ES, EI?LBIiOSpROGR;\IIAS ¡s
cómputo co n base en elementos especif icados l 'onnalmente. En cuanto alchino, no so\-más q' e un ejemplo concreto del p'oer.arrra de t¡na c()mp'-tadora.
Ahora bien, la s al-in¡aciones acerca de Ia t, q f.er. te est i¡-r ' lan c¡-re acomputaclora programada compr.cnde lo s relatos v qu.,
"lp,. . ,g,-a,r-ra. ipl ica
en cierto senticlo la conrprensión humana. Sir-r nrbarg,r, n,-ra.-"r-r.orrt¡an)os
ahora en una posición qrle no s perrnite exalninar estas alir.nraciones a lalu z de nuestro experirnento clel pensamiento.
1/ En lo qu e respecra a la pr-imera asever-acirjn,me pal.gcre asta¡te ¡6vioen el ejempl() qLle no entie'do un a sola palabra cl e os r.elatr¡s hi ' .s. Mi sentradas v salidas de información so n ir-rcl ist ingtribles e las rl e r¡ n ¡abl¿rntechino y'aunqlle pueda contar co n el p'oe.a, 'a forr,-.ral ll e s. - qr-rier.a, ig 'si n ente'der nada. Po r la misma raz.ó¡-t ,zr co'putacl ' r 'a cle .sclra. l. ,oent iende rada de ningú. relato, se a en chino, en ingrés o en Io cr.e sca, yaque, en el caso clel chino, la cornputador.a so\¡ ¡o, v en l.¡s casos en qLle nosol' la computador-a, el la no t iene más que yo'en el caso en que ll . cnt ienc lonada.
2) F.nlo que concier-ne a la segunda afi l ' ' ració' , c1,eel pl.()gr-.rra explicala cor-nprensión
hunrana, podemos obsen.a' qu e la cornprrJora v sL lpuo-granra no aportan sr¡ f ic ientes condic iorres de conrpi -ens i r in, ya qrre lacomputadora v el programa se encuentl 'an en frrr-lciorr¿rnrierrto1, rD llaycotnprensión. No obstan'.e,¿proporci<.rna iqr. l i¿¡.2 na condicirin neccsar. lao hace un a contr-ibuciór-r signif icante parzr la cornpr..-nsi<in? ln o cl,¡ .¡sargulrentos de los clefensores de la ln f trerte es cli le crr¿rncl¡l o¡¡)l .e¡ct() 1l ¡relato en inglés, lo que hago es c-\actanle' te lo rnismo, o quiz-: i alg, nr: is,qu e hacía al manejar lo s sí rnbolos cJr i r ros.Es tan só1, , rn i r - r r¿rni ¡ ru lac ior . rsin-rbólican'rás ormal lo que dist ingue el caso del ir igles, qu e sÍ c,nr¡-,rc.rrclo,de l de chino, qLleno conrprendo. Arrnque n.., re clenro-*tr.ácloa falsedacl cl cesleargunlell to, clertamente parece incrt íble en el e. jenrplo.La cl.eclibi l ic iaclqu e tiene el argurnento proviene de la strposición de qtrr: podenrrs cr.car.un programa qu e tenga ia s mismas entr.at jas
1,salidas qrre lo s habl¿rntes
nativos, además de suponer qu e lo s hablarrtes t iene'r. l lgírn nivel cle cles-cr ipc ión en el qu e tarnbién el los so n ejempl .s c , ,ncr-etosde rrn l l rogr .¿rrr : r .Sobre la base de estas dos ir ipótesis supollenlos cILre un cuanclt¡ el ¡r^rg'a-ma de Schank no sea a historia completa de la cornpr-errsi irn, í ¡ruccleser.parte de ella. Br-reno, lrpongo qu e es un a posibil idad ernpít ica, ¡ iero lrastaahora no se ha oft 'eci. lo la más rnínima razírn p;rr-a rL-er.qrre ea cierta, yaqrie o qLleel ejemplo sugiere --aunque ciertamente lro t lerntrestr-a-- es qll€el programa de la computadora es sencil larnente ilr.elevante par-ant i r:orn-prens ión del re lato. En el casc de i c l r ino r ,err r .ooc lo Io qtrc la i r r te l igt ,nt . iaart i f ic ial puede poner dentro de mí medianre Ll n prosr.anra, .\ ¡ o entienclcrnada; en e] caso de l inelés enl iendo toc lo v hasta el n lornenro no eriste
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 3/12
I] 6 MENTES, CEREBROS PROGRAMAS
absolutamente nlnguna razón para suponer qu e mi comprensión t iene aigo
qLle ve r co n prograrrtut ¿t cámputadora' ás clecir ' co n operaciones de
cómputo sobre puros elementos formalmente especif icados M-ientras el
; ; ; ; . se d"f i. ta en tér-minos de operaciones de cómputo sobre puros
elementos clef inidos fár"tu1"-'" ' -t te' lo qu e el ejemplo sugiere es qtre éstos
;; ; ; ; ; l ; t,, o gt. .dul
' ' t i t tgtt t 'orelacián interesante co n la comprensión'
Ciertameute .t o"* irt"t t
tof idit io' t" ' suf icientes v no se ha dado la más
mínima razón para ,a'pot"t ql le son condiciones necesarias' ni siquiera
qr-re ontribuyan cl e-ot '"tu
si!nif icat iva' a la comprensión' Nótese qu e la
frterz-aciel argumento no radiá sirnplemente en qu e máquinas diferentes
ñaur] teneilas mismas entradas -validas de información aunque operen
sobre diferentes principios formaies; éste' po r supuesto' t to."t:1
punto'
Meior dicho, cualesquiára qu e sean lo s principios puramente formales qu e
seint roducenenlacomputac lora 'nosetánsuñc ientesparalacomprensión'
Ya qu e un se r t lu-u, lo'p'"á"'"g' l i t
lo s principios fonrrales si n entender
r.rada.Tampoco se nu orr". i¿" . irór, ulgir.ra para suponer qu e tales prin-
c ip iossonneces¿1rt . " 'o ' iq" l " t 'acont r i -bu1' " ' - tt " ' 'p t t " tnosehadadora-z-ón algr-rnapuru ,npott" 'qtt" t t tu' ' t t io vo entiendo inglés' estov operando
con algún pro€Jranla for¡nal'IJLreno, entonces, ¿qtré es lo qu e tengo en el caso de .las oraciol les er l
inglés que no tengo"r. t l
.u,o de la s oraciones en chino? La respuesta obvia
es que sé lo que signif ican la s primeras' mientras qu e no tengo la má s
rnínima iclea acerca de l signif icado cl e as segundas Empero' ¿e n qué con-
siste esto y po r qtré ,r o p,, i . íu*os dárselo a rlna máquina' se a o qu e fuere?
Regresare o"rru
pr'"g.nta rnás adelante' pues primet 'o quiero contlnl lal '
co n el ejemplo.He tenido la oporturniclad de presentar este ejemplo a varios estudiosos
c le la intel igencia art if ic ial 1' reiulta interesante qu e no parecen estar de
act terdoco"ncrráles larépl i .caadecrrada.HeobtenidounaasombrosaVa-riedacl de r.éplicas y a continuación consideraré la s má s conlunes (que
especif icaré iunto co n su s orígenes geogr'áf icos)'Si n embaigo, antes quiero cletener algrrnos malentendidos comllnes
acerca de la "con-rprer-rsiZn": n muchas de estas discusiones se produce
un excesivo tejemaneje de la palabra "comprensión". Mi s crí t icos señalan
qrre ha y-.r.üo,
gruáo, cl i feientes de comprensión; qu e "comprensión"
r-. 'o"r. trt
simple pi". l i .udo de closposiciones' que incluso-existen dist intos
t ipos y niveles .1" compr"nsión v que a menudo la le y de l medio excluido
'isiquiera se aplica i" *ur]".o clirecta a enunciados de ia forma "¡ en -
t iendey"; ql le en muchos casos es una cuest ión de decis ión 1'no un a s imple
.rest ián de hecho cl esi r ent iende y, etcétera. A todos estos puntos qrriero
rlecir: po r supuesto, por supuesJo, pero nada tienen qu e ve r co n lo s puntos
e' n discusión. Hu¡' .u.os . la.os"t t
io t qt l" "comprensión" se aplica literal-
tvlENTES, lIrliFIlR(lS I'R()L]R;\N1A, n,
mcnte v casos ob' ios en que n. se apl ica; ] ,es tos c l rs t ipos cl e casos so ntodr lo qt re neces i to para este argunrento.z yo ent ienc lo r-elat 's en inglés;en menor g|ado, puedo entencler |elatos en l ' r-ancés; n nren()r.gr-aclo úrn,relatos en alemán, pero en chino, absol t r tanrente rac l¿r . or . r i t r¿rparte, miautomóvi l v mi s t r ' radora ro ent ienc len nac la: es e as'nto no
"n. - lest , in -
cumbencia. co n f i -ecuenc ia at r i l>uinos la cap: rc ic lac l le "conrpr-ens ión, ,yotros-predicados
cognil ivos po r nredio clc nretírf irr-a.. , u.uloiíns a allto-mór' i les, surnadoras v otros artefactos, ¡rer-o ad a s" pr:r,"tr. co]r tales at l. i-buciones. Decimos: "l a pue.t:r .sa,/ ;e rrinclo ¿rbr. i l .sc, ca.sa clt : st r celdafotoeléctrica", "l a sunrador-a.scl¡¿::rl t t to (ertrí t , rt t l t ,: t j t t to, , . \ . (t l)(tz, /r, / t rnrarv restar pero no dividir", v "e l tcr.nt<_rstlo ., t t , rt . ibccant bios rle t t nt t tcratur_a,, .La |azón poI - a qu e hacemos estas at r iLr t rc i , rncses Lrrs t lur t r . nt . , r -esantet lene qLle Ve r co n el hecho de qr-re n lo s artefactos extenc lenr6s ¡ t res l r -apropia intenc ional idad. r Nrrest r '¿rser lanr ientas so n extens i r ines cl enues-t ros propós i tos v, po r cons iguiente, nos parece nal t r la l at l i I r r i r - les i l t ten-c ional idad nretafór- icat rente. Si n enrbar-so,a rni . j r r ic io estos c. jenr¡r les rot ienen ningt rna importanc ia l - i losól - ica.El sel r l ic lo en r l qrre, , , , . ¡ - r . , " . tuautonlát ica "ent ienc le inst r t tcc io l les" : r pat - t i l cl e st r ce- lc l ¡ rotoc lóc l t - ica lt oes de ningt lna nlanera el ser-r t ic lon el c ¡r - re,o ent ienc lo inglés.
Si r: l se¡ t ic loen el qt re la conrpuladora prograrnac la cl e Scl larrk c , r , r r ¡ r r - " , r , .1"gs r .e- latoses sLrpuestamenle el sent ido rnetal 'ór . icoen r . l qu e la ¡, tr. , r a ¡r r l t l t tát icaent iende' l ro el sent ido en el que'o e' t ie 'c l , ingles, l l , , r 'a lc l r . r . ra penzrdiscut i r -e l ast r r - r to. in en-rbargo,Neu,el l v S i l r . lon (1961) t -scr . ib ier( ) . qrreel t ipo de co-enic i t in qu e at r ibt rvet r a la s conr l lutac lol 'as es e\act í lnrcnte elmismo qu e el de los seres ht rman, r* . Me agrac la a t .ect it t rcl le es la al i r .nt¿r_c ión Y es de l t ipo que cons idcr-até.Argrrnrental 'é qu e c¡ sr ' ¡ t ic le l i te¡al lacomputac lot 'a programada cot - t - tpt 'enc leo que el autonrór , i lv la srrrnac lor .a,es dec i r , exactantente nada. La corrrpr .ens iórrcl c la c,rlr l . rrtacl, , l¿t to esprec isamente (como mi conrpr-ens ión c lel alenrá. ) parc i : r l . i rc r r rpleta;es nula.
Pasentos ahora a las r-éul icas.
2 "Conlprensión" tal l lbién intpl ica tanto la post 'sión cle est l i los nlcnt¿rlcs (i rrt t . ¡ci6rrl les)cornr¡ l a Veraciclad (val idez, óxi to) de cl ichos estackrs. Pal a los l incs rl c csrc en¿i l isis rros l inri -tarc-mos a la posesión cle os estados.
' I -a i l l t t -t -tcional idad es, por dcf inicirin, la calacter' íst i r:a clc cicl tos rstrrlos rrrcnlales nrc.-diante la.ct tal se didgen a objetos v si tuaciones clc l ¡ r rurrr lo o sc ocupan cl c t ' l los. por.colrsi-guiet l te, la s creencias, lo s deseos v la s i l rtcrrcir¡ncs son rstados intcncionalcs, r)ricnt t as (luclas lonnas ¡, r j i rigides d(' í rngl t \ l i i l \ ( i ( . 11t, \ i , rt ) i lo l , r \ , I r l , ; i l ¡r n t ¡ r r0r i l l l , , ¡rl r; rr i , , l l , r, , , ; rsr,Seelh'(lqTqóL
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 4/12
MENTES, CEREBROSY PROGRAIVÍAS
1. LA NÉPUCA DE I-OS SISTE\{AS (BERKELEY)
Au n cuando es cier to que e l ind ivicluo encerrado en la habitación no entiende
;l-;;ht;, el hecho es que él es só¡¡ una parle de un sistema con'lpleto qtle sí
entiencle el relato. p,l inclividuo tiene anté sí un enorrne libro e' el que están
"r..i iu, lasreglas, ..,".,tu .ot gran cantidad cle pa-pel 1'láp,icespara realizar los
.á i ."f"r , t ienJ"bancos de datos" de lo s conjuntos de símbolos chino.s.Fntonces,
la comprensiór, .r., pr"J" u,¡b.r i.." sólo ai in¿i'iduo, sino a todo el sistema del
que él es sólo una Par1e.
Mi respuesta a la teoría de sistemas es mu y sencil la: permitarnos que el
inclividuá absorba toclos estos elementos de l sistema. Memoriza las.eglas
clel ibro y los bancos de datos de los símbolos chinos v hace todos- os cálcu-
lo s mentalmente. Luego, incorpora todo el sistema. No ha1'absolutamente
ll;rda en el sistema qr'"""
haya incorporado. Incluso poden'ros deshacer-
ros de la habitación -. r rpo.t"iqt'e trabaia al aire lib.e' De cualquier modo'
ir¡r entiende nada de .l-ti,to I'n firtiori tampoco el sistema' pues no hav nada
L. néste que no esté dentro de é1 .Si él no ent iende, entonces no ha Y modo
cl eqr-re i sistema entienda, pues el sistema essólo un a pañe de él '
E, n realidad, me siento algo molesto pcr clar incluso esta respuesta a la
1t-or-ía e sistemas,.va qlle, para empezar' , la teoría me parece bastante
irrverosímil. La idea es qlle aunqlle Llna persoila no entienda chino, \a cott-
iutrciót 'Lde es a p"r.orl^ -y de peiacitos de papel de alguna manera podúa
eiltencler chino. No me l-esulta fácil imaginar cónlo alguien, qlte no est l l-
r. ier-abaio el dolninio ci e un a ideología, podría considerar lerosímil esta
iriea. Incluso así, creo qu e muchas cl e la s personas conlprometidas co n
la icleoiogía de la l ¡ frrerie acabarán por decir algo mu ' parecido; as í qr-re
Si¡¡ar-nos .r poco más adelante. De acuerdo co n un a"'ersit in
de esta opinión,
", ,r,q.,"el htmbre clel ejempio de lo s sistemas incorporados no entienda
r, l i in1¡en el sentido"t
qr" Iohace tl n hablall te c.hino (porqt¡e, po r ejemplo'
rr, ,r abe que el relato se ref iere a restat l l 'antes y hambu¡guesas,-eic.), "e I
!r,)nrbr-een cuanto sistema cl e manipulación de símbolos forrnales" real '
: l ] t t t te í ent iendechinct .El subs is tema de l hombre que col ls t i tuve el s is tema
d, : nranipulación de símbolos forntales para ei chino no debe confrrndirse
r' , . 'nel subsistema para el inglés.
As í que en realidad existen do s subsistemas en el hombre: un o que en-
l i t ,ncle nglés y el otro, chino, -" -lo qu e sucede es que ambos sistemas tienen
Dluv poco qu e ver ent re sí " ' Si n embargo, quiero repl ic : r r qu e no sóio
t ienen mu y poco qu e ver entre sí, siuo qu e ni siquiera so n l'enlotamente
:;eme antes. El subsistema qu e comprende inglés (suponiendo que l)os per-
¡: i t iremos por el momento l-raplar co n esta jerga de "subsisl,emas") sabe
,l r e os relatos tratan de restaurantes y de comer hanrburguesas, sabe qu e
MENTES, EREBROSPROCIRAMAS 89
se le hacen preguntas acerca de restau'arltes y qu e está resporclie¡rclo lomejor que puede al Jracer varias inf i: rencias a part ir del conteniclo cie anarrat: ión, y así sucesivamente. Pero el sistema chino no sabe nada cl eesto.Mientras qu e el sistema inglés sabe que "hambur.guesas" se r.ef ier.e ham-burguesas, ei subsiste.ma chino sólo sabe qtre después cl e "gii ir. i gi i ir i" apa-rece un "guara guara". Todo lo que sabe es qlle lo s dist intos sírnbolos for-males
ingresan po r un ext l 'emo, se nraniprrlan confor-nre a r-cglase,scr. i ta.sen inglés y otros símbolos salen por el otro extrc-nro.Tocl,r c. l . ropósito clelejemplo original er a argurnentar qlle esa rnanipul¿rción de sírrr[ál<.,s ror-sÍmisma no bastaba para compre'de'chino en ningún sentido literal, p()rq. eel hombre podía escribir "guara guar-a"despuéscl e gii ir- i gi i ir- i" si n enl ender.nada de chino. Así que postular strbsistemas dentro de l f ionrbrr. . o sat sfac eel argumento, porque en pr-imer lugar, lo s srrbsisternas r)() se cncllentr.anen mejor posición qu e el l-rornble; no poseen nacla que se par.rrzc¿ricluier,aremotamente a lo que t ie¡re el hombre (o st rbs is terna)qu e habla i r rg lés.Dchecho, ta l como se desc l ibe el caso, el s rrbs is ter¡a chino es tan st i lo un apar le de l subs is tema inglés, una partc qrre nter l ienc en el r r rur¡ce cl c s í ¡ r -bolos carentes de signif icado confor.me a las r-eglns J., l nglr:s.
-
Preguntémonos qu é es, en plinrer lrrgar-, o qrre. upuest¿lri lerrtcr¡ot i\ ¡¿ral sisten-raa r-esponder; es decir, ¿qrré 'r-rndanrcntr)s tt t lelett t l i¿¡l(r.ssc sLl-
ponen para af i rmar qrre el agenter ebe p()seel . ¡n srrbs is tc . ¡ l l¿rlt ¡ l_r¡ l le s íqu e entiencla l i teralmente lelatos en chilro? Hi,sta clr¡rrrle rtreclodccir, lo súnicos fundamentos son que en el e. jenrplo vo tengo la r. is.r: i crrtr.aclasalida de infornación qu e los hablantes clel clr ino v un pr.ogl.anra qLre
'L re la una a l a otra. Pelo el propósito c¿rbalde k-r.s iernplos ll a siclo r terrt¿¡-demost rar qu e eso no bastaba pal 'a colnpl 'endcr en cl sent i.k, el r qr e vocomprenc io relatos er r inglés, porque Llna per-sol la. . \ 'p() r coi ls iquiente L- lconjunto de sistenras qu e la const ituven, ¡,odría 1ener. a conrbin¿rcirin r: t l_necta de entrada, saiicla v progr-ama v arrn as í no r.ntencler.nacla t-rr elsent iclo iteral pert inelt te en el qu e vo enliend,r inglés. I-a t inir: ; . r rot ivaci<inpara afirmar qu e debe exist ir rtrr srtbsistcma en nri interior c¡rre r.rrrrpr.e¡clc
chino es qlre vo tengo un prograrna v aprol. , t -ía pnreLra de 1' trr. ine; rrrecltrengar iat -a os hablantes nat . ivosdel chino. Pt r-o rno r ie ios ¡r t r ¡ tos e¡ c¡es,t ión es precisamente la suf iciencia cl e la ¡rr-ucb:rcl c -r-rrl irrr¡. il ejernplomuest ra que podría haberdr¡s "s is temas";ambos pasan a pmeba cl eTrrr ing,pero sólo nno c leel los ent iende; v no t iene sel t l i i | l arguntenlai .cont l .¿rest ( lpara decir que, como arnbos pasan la ¡lnreba dt r¡r ' i lrr ' . , ¿rnrl-rosc' lre¡conrprencier' , /a qu e esta af irmación no satisface c. l rr¡ lrnrento clt- 'c¡tre lsistenra dentro cl emí que complende inglés t iene nrtrcho nrás qrre el sis[enraqu e nada nrás procesa chino. En ¡rocas paialrras, l; r réplic: ;rc, l t os sistc¡rassenc i l lamelr te da po r sentada la cuest ión. r l ins is t i r s i i r argrrnre r tos r ¡ t rc elsistenra debe entcncler chino.
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 5/12
90 MENTES, EREBROSPROGR,A]\ÍS
Además, la réplica de lo s sistemas parecería condttcir a corrsecttencias
que son independientemente abs'rdás. Si hemos de concluir que debe
exist ir coglt ición en mí sobre la base de que tengo un a especie de entrada
v salida cl " infort t lación 1'un programa entre ambas' entonces pareceria
qtre todos lo s t ipos de subsisien-,as que no sean de cognición acabarán
,l"r-r¿o cognit ivos. Po r eiemplo, existe un ni'el de descripción en el cual mi
estómagJp.ocesa información ¡- eien'rpl i f ica co.cretamente cualqtr er can-t idad de p.ogru*^. cle conlpt ltadora, pero considero que no queremos
clecirque tiene comprensión alguna (cf. P¡-I1'shvn,1980). Pero sl aceptamos
la répúca cl e os sistemas, entonces resulta dif ici l" 'er
cómo podemos evitar
la af-irmación de qu e el estómago, el corazón, el hígado, etc., so n subsiste-
rras que .ort-rp."n. l"r-t , puesto que no ha y un a manera de principios para
dist inguir qué nos-oiir",u
a decir qr_re l subsistema chino entiende de
afirmlr qu. e l estómago entiende. Po r cief lo, decir que el sistema chino
t iene información cl e Átrada y cl e salicla v que el estómago tiene entrada
v salicla cl ealimentos v productos alimenticios no constit t lve un a respuesta
a esta cuest ió' , 1, aqul desde el punto de r, ista de l agente -desde mi punto
cl e vista- no existe información ni en la comida ni en el chino, pLles esta
lengua no es más qlle t lna serie de garabatoscarentes de signif icado La
información en el caso de chino se encLlentra exclusivamente en lo s oios
de lo s progran-raclores y de lo s intérpretes, v no ha1' nada qr're es impida
.or-,siderurl.omo información la s entradas ¡t salidas de mi s órganos diges-
l ivos, si as Í l t - - , esean.
El últ imo punto se ref iere a algunos a problemas independienles en la
lA [r-ler-te'aje
ia pena des' iarnos un poco pal'a explicarla. Si ]a.tn tuet ' te
ha de se r un u .u,r-tucle a psicología, entonces debe se r capaz de dist ingtrir
Ios sistemas que son genuinamente rnentaies de lo s que no lo son' Debe
se r capaz. de áist ing.rit - lo s principios sobre lo s qu e trabaja la nrente de
oquellos sobre lo s qure rabajan lo s sistemas no menlales; de no se r así, no
no s expi icará qué es especí f icamente mental en la mente Y la dis t inc ión
entre Áental) 'no
mentál no puede quedarse sólo en los o os de l espectador'
s ino qrre debe se r in l r ' í l lseca a los s is tenlas; de no sel 'as l . cada espec la-
do . pod.íu tratar a Ia gente como no mental y, por eiemplo, a los huracanes
conao menlales, si as i lo deseara. Si n embargo, mu v a nlenttdo en la l i te-
rat lrra sobre IA esta clist inción resulta confusa en aspectos que en el largo
plazo resultarían desastrosos para la af irmación de que la IR es una disci-
pl ina cognoscit iva. McCarlhy, po r ejemplo, escribe: "Puede decirse qu e
r-r-ráquinasan sencil las conlo los termostatos t ienen creencias y tener creen-
cias parece ser Llna característ ica de la mayoría de las máqtt inas capaces
cle solucionar problemas" (Mccarthl." 1979). Quien piense que la lA t iene
la probabil idad de ser un a teoría de la mente debe ponderar la s implica-
ciones cl e ese comentario. Se no s pide aceptar como descubrimiento de la
It,
FrF
EtFr.
tt,tl,ÍI¡
trI¡IE
I¡tI
E[.I¡
IVIENTFS, ]ERFBROS PRO(IRA]\JAS 9I
IA ue.te qu e el pedazocre.metarn ra par.ecl¡rrertiriza'ros Pa.aregurar atenrperatrrra iene c'eenciaseractamc-rte n el ,-risrlro entlcl,r n qu e no _sotros,nuestroscón-r,trgesnuestl.os ijos la s enenlos,v aclertrás,ue,,lantavoría"de la s demásntáquinasde Ia rabitaci, i¡ ,"1.,f"". , ' * l"baclora,umadora, nten-uptor- le trz- tarnbién iel lencret-ncias n estcsentidoliteral No es el propósi1o leestear1ícuro 'gr.re'rar.e, contl.¿rer pr_rnto
de M.ccarlhv,así que simpler.'entee,*p,r..rr.é., sigrrierrlc in criscrsión.Elestudiode Ia mente parte cr e echos1ur"r.,r , , .r , . ,rr c os rrrrnrar.s ienencreencias, tientras qu e os terntostatos, eléf no so ,un'..l.rr=,r,-rr. Si ,"obtieneun a teoríaqu e niegrre st epu'to, se rabr.áogr.aclo,,-, .,r-rtro"¡"--pl o de la teoríav éstaserá alsa.Se iene ra mpr.esi<iirre ltre rr-p",.roru,qlle se oclrpan de la L'\.vescribeneste ip o crecosas ricrrsa.r ., J pued",-,salirseco n a_suya, orqlle no la tonran eallnenteen ser.ir_rtantpocopien_san qlle lo s demás o harán. propong' q'c- al nrenosp,r,l r ,r-,.rr,,rentoaconsicleremoseriamente. ienseintensantertfelur_antern rl irrr to gu é senecesitaría ara establecer ll e es e roz()cl enreralen Ia par.eclie'e creen-cias reales,creenciasco n cli'eccioraric'racr,on co'te'ir[. pr..¡r,sicionalycondicionesde satisfacción;c.eercias que. rr' ier.a' ra ¡l,rsibilidu,l r" ,",.sól idas
o débiles; reencias er' iosas,a.,s iosus segrlr .as;r.eenciasog -máticas, acionales superf ic iosas, c' s iegas cogniciorrr.sirrrbeantes,crralquier ip o de creencias.El ternrostat,, ri
",.,o,,Ji.r"t,,par.¿r,¡o, comotampoco o so n el estómago, l hígado, as"radrr.a, er ciéf.r ' . si n em _bargo,p.esto qlle estanros or-rsicler-ancloa idca scr.ialrrerrle,bstir-vese ues,u'erdad ser'ía atal para la afirmacirin de cltre a lA frrer.tr-s lril clencia
de la mente Po . ahora, a rrente se e.cl¡ertr-aen lrcr:rs rar.t t ,s.o qtre3yeriamossaberes qué dist ingrre la ntentecl c os ter.n los{att,s cl e oshígados Y si Mccarthv ru'iese t'az.(:n,a r¡ ftrerlc r- ;;u.i;;;;rr,,¡¡,,,o
"r -eranzapara decírnoslo.
2. LA RÉpLrcA ELRoBot (ynr_e)
Supongamos qu e cscl ib i rnos un tipo cle pr -oqr¿rnra l i l 'e l .cnteal cl e Scl lank. Su _pongamos qu e ponemos un a computador-a dcnlro cl eun rr ¡ tr r ¡ t c¡ tre rstant¡ sr i lcracepta símbolos fonr- ra les como cntracra y pr ,cruce ' sú-nbolos f, , , . , , ,^1", . . ,n ,r , ,sa l ida, sino que cfect i 'amentL- opera ar r . ,bo i cr e ar nr¿tnc-r -au. , e .t . :- r ,og,n lg ,,mu1'parccido a percib ir , caminar ., desplazarse, mañi l lar . , . , , ,r ,". , betr . ,r . l . q 'ese quiera. El robot tendr ía , po r c. jenrp lo ,un a c.i rn l¿u.arc clevisi r i ¡ i ¡ lcgr -ardzracual le permit i r ía "ver"; tendr ía brazr¡ .s p icr .r lasp¿¡ .ap6<Ier ,actuarr , ,
v loclo eslcrlo cr ¡ntro la ía su "ccrebro" cr ecomptr tadc,r -a .A cl i fercncia cl e ¿r ., , ,r ,¡ , , , tr , .r ,r , ,u .1"schlnf, este robot ser ía capaz .l " i rno gcntr ina crnrp.e- .si írn v cl c tr r rs estacl .smenta lcs.
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 6/12
92 MENTES,CEREBROSYPROGRAMAS
Lo primero que hatrríaque obser-var cercade a réplica del robot es que
se acepta ácitamenleq.r" lu cognición no es únicanlenteuna cuestiónde
n.ranipulaciónclesímbolos fornales, ya que esta éplica añade un conjunto
rl e relracionesausales on el n-rundo xterior (cf. Fodor, 1980)'Pero a res-
p¡esta a la réplica del tobot es que la inclusión de estashabilidades per-
c.eptuales" "motoras",en nadacontribul'eal entendimiento,en par-ticular,
o a la intencionalidad,en generai,de l programa original de Schank.Paracaptar esto, obsérvese ue el r-nismoexperimento-pensamiento e puede
.,¡rii.u,-al caso dei robot. Supo.gamos qLleen vez de la computadora dentro
dcl robot, me lnetenelt una habitación1,',omo en el casooriginal del chino,
se me propor-cionanmás sírnbolosen esa engua con rnás nstru-ccionesen
rngléspar-aaparear os símbolos chinos co n otros símbolos chinos para
,lrji,olver trossímboloschinosal erterior. Supóngase, unqueyo 1o gnoro,
clrre lgunoscl e os sínrbolosqu e recibo provienencl eun a cámara de telet' i-
,ió,r irit"g.uda al robot y que los otros símbolos que vo remito al extedor
sirven ¡rJ.o echur u^.táui
los motores dentro de l robot que mueven la s
pier.naio braz.os el .obot. Es imporla'le resalta¡que todo lo qu e esto¡'
i,aciendoes manipula| sílnbolos orrlales; gnoro todo lo demás.Yc ) ecibo
la "ir1lbrr¡ación" a panir del clispositivo de percepción"de l robot v do Y"i¡stlrcciones" a su apar-atomotor si n saberque o estoY aciendo.Yo so y
t l lt¡mrinculo clei obot pero, a diferenciade os romúncuios radiciona]es,
ignoro qu é estásucediendo; o comprendonadaexcepto as reglaspara a
,r,a.ipuiu.ion de sírnbolos.Ahora bien,cabemencionaren estecasoque el
rr¡bol carecepor completo cl eestados ntencionales, ues sencillamente e
a,:1.ivaomo r.esultado e sLl istenia ecircuitose1éctricc-rs' cle u p|ograma.
irOr. tra parle, ai ejeinplificarconcretamenteel programa vo no tengo es -
taclos ntencionalesper-tinentes:od o lo que hago es seguir nstmcciones
¡raramanipular símbolos onlales.
.3.Ln nÉplIcA DF,I- IMUI-ADoR EcEREBRos Br'nr-elr'v Y [4ir)
S)upongamos c¡uese diseña un programa guc l lo representa la in for rnación qu e
t..r iemo s acerca cle lnrur ido, como ser ía la in fbr rnación de lc¡s ibretos de Schank,
si¡s qu e simula la sectrencia l-eal dc emi siones neuror ta les cn las sinapsis de l
cerebt.o de nn hal¡ la¡ l te dei chino cuando corn¡r renc{err : la los en chino v otrece
r 'e-spuestas cerca de éstos. I-a máquina acepta los re la tos ett ch inr r y la s pregutr -
t l is sobre e l los a modc, de entrada: simula la estr -uctura fr ¡ rmal de los cerebros
clr inos rea les a l procesar los re la tos ¡t o frece respuesta.sen chino a manera de
sal ida. Podernos incluso imaginar qr re a máquina no opera con Lln solo pr-ogra-
rn a sc' r ia l , sino con toclo un con- iunto rl e programas qu e operan en para le lo , del¿r n isma manera en qu e supueslamente r)peran los cerebr-os humanos rea lescu¿rndo procesan el lenguaje n¿r tura l .Ahola bien, no cabe duda de qu e en este
IVÍENTES,EREBROSpROCJtAMAs 93caso enclríamosueafirnrar Lrea máquina a comprencliclcl.s rel¿rt.s. sino snegamos decirlo, noestar'íarmosánrbién "guri.l,, uc os rabla'tes elchinoentiendenos elat.s?En el niver e assrnapsis,q' é sería p.dr.ía erdiferente ntreel programa e acon-rputadora,cl
'rogranladcl ce-rebl. rrino?
Antesde contradeciresta ép[ica,nr egLrstar-íaaccr rrn paréntesis ar aanotar qu e se rata de un a répricaextrañapara un partidari. de ra nteri-genciaartificial (o de l funcionalismo,etc.):1, o "r,rát
^qtre a de a cl e a rRfuerte radicaba en qtre no necesitamossabe' cóino ftrncio.a er cel.ebropara saber cómo frrnciona ra l-rente.La hipótesis firndanie'tal, . as í locreíayo , es que existe n nivel cl e peraciones mentales qtre cc,r]sta ep¡ocesos ecómpr,rto obre oseremenios ornrales ue constitrr'en a esen_ci ade o mental .', ' ue ptreclele'arse a cabo
"","¿1, i,,, i l i ; ; ; ; rip.s cl eprocesos erebrales el mismo modo qu e cuarc¡uier.p,',,gr.onroiu : .,.,rp,,-tadorapuede uncionar en distinros tardwares e com¡ruraclor-a.egir' ra ssuposicio'es de la n fuerle, ra mente es
'espectocrelcerebro ro qu e erprogramaes espectode rhardruare , po r consigi¡ien{e, sposibleentenderla mente si n incurrir en el án'rbitoáé lo ,-r".rrofisiología. i p^,-o-t',u.", otu'leramos qu e sabercómo traba.ia l cereb.o,n, tenclr-ía
ur.,o.r,p,,r.rroade.ella.Si n embargo,aLlnctrandose encrentra ta n pr-oxima¿r l rr'ciona-miento de i cerebro todar'íano es suFiciente ar a procltrcircompr.ensión.Para'er estomá s claro, maginemosqLre n li,gu. áe .,., honrbr.ji 'o'olin_gü e nun a habiración evor'iencro ímúoros,enenlos,n hrmbre o¡rerancroun glupo complejo de pipas de aguaconectacras:o'r'álvtrlas.cr-rarrcroe-cibe os símboloschinos,consultien el programa,escr.tto n 'glés, cnálesválvulas eb e encendero apagar.cacracoiexió'clc agua,,o.i]"rp,,,.,.r",.un a sinapsisen el cerebro chino ¡r todo el siste¡naestá cliseiraclo le almanera r-re,espr-rése odos os "encencricros"orrector,
",d".i., ¿espuésdeponeren funcionamiento ocrososgr-ifosorr"sponclientes, as cspues-ta sen chino brotarán a la salida cl e a ser-ie tepipas.
.Ahora bien, ¿dóndeestá.ia_comprensión n este sistema?Acepta el
chino como entrada, simura la esiructr¡r-a or-nral re as sinapsis r le lcerebrochino l'entrega chino como salicla.Si n errrbargo, r homür.ecier-tamenteno entiendechino, ni tanrpoco o hacen ra spilas .r " ug.,^, i ,,o.sintiéramos entadosa adoptar el punto cr e'ista,
a mi'lrricio a6srrrdo,deqr-ree alguna manera Ia colluncióiz de hombr", plpu, i" ;;.,;.;,rpr""_de ; ecordernosqu e en prinr:ipio er hombre puecre nter-narizara est^rc-tura formal de 1a spipas.de agua y rearizar en su imaginación tocros osencendidosneuronales".El proúlema co n er simurador de l cerebro esqu esimula aspectos qui'ocados cl eéste.Mientras ílnicame'te sim.le laestructura ormal de la secuenciacl e"encendidos"neuronalesen la s si -napsis,no habrá simulado lo qu e realmentees mpor-tanteacer-ca er ce -
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 7/12
94 MENTES,CEREBROSYPROGRAN{AS
r-ebro; es decir: sl ls propiedades causaies' su capacidacl de prodr-rcir esta-
clos intencionales. Y eiejemplo de la s pipas cl e agua demuestra que las
;; ;pi";"i"t formales ,-,o ot t suf icientes para la s propiedades causaies:
iod".rro, extraer todas la s propiedades formales de la s propiedades cau-
sales neurobiológicas pert inentes'
4. LA RÉPLICA E -A COMBINACIÓNBERKELEYY STANFORD)
Arrncuandocac launacielast resrépl icasanter io l .espr-rdieran.res l t l tarcom-pletamente convincentepor sí misma como refutación al contraejerrrplo e la
habitación china, si se cc' 'nsideran n conjunto' colect ivamente on mLlchomá s
con.rincenlese incluso clecisivas.maginernos un robot qu e cuenta co n Llna
.u-p.t tuao* en forna cl ecerebro alo¡adaen su cavidad craneal; maginemos
que la comptttaciora st áprogramacla on todas as sir-rapsise un cerebro hu -
mano; imagtn"-. , . tu-bié" lu e todo el conrportamiento de l robot es ndist in-
gtrible de l á" .,r, ." . humano, e imaginemos ahora todo esto conlo Ll nslstema
irnif icado v no sólo como un a tornputut lotu co n entr-adas salidasde datos'Si n
ducla,en ta l caso endríamosq.r" át. ib.ri . l" intencionalidad al sistema.
Estoy totalmente de acuerdo en qlre en tal caso nos pareceía racional'
y""
."^i i¿^¿ irresist ible, aceptar la úipótesjs de qu e el robot t iene intencio-
nalidad, siempre y.*áo'' á
t"puto' nada má s acerca de é1 En realidad'
apafte de su apariencia v de su comportamiento' lo s demás elenlentos de
ii.o-blnu. ión so n fi 'ecuentemente irrele'antes. Si pudiéramos construlr
r¡n robot, ..,¡'o.o*por.tamiento [uera an-rpliamente indistinguible dei com-
portamiento llumano, le atribuiríamos intencionalidad' hasta qu e exist iera
algúrnmot ivopal .anohacer lo.Noneces i tar íamossaberdeantemanoqttesu cerebro de computadora es una analogía formal de l cerebro humano'
Empero, realmente no \¡eo que esto arttcle en algo a los argumentos de
Ja n ftrene; y he aquí po r qué: de acuerdo co n la IA uerte' la e-iemplif icación
concreta d" t.t p.og.áma ftrrnal con datos de entrada v de salida-adecuados
constituye r., . ,"to.rái. ión suficiente, y de hecho es constitut i 'a, de intencio-nalidacl. Al decir cl e Newell (1979), la esencia de lo mental es la operación
cl e un sistema de símbolos físicos. No obstante, la s atribuciones de inten-
cionalidad qu e le hacemos al robot en este ejemplo nada tienen qu e ve r co n
p.og.u-u, iorrnol"r. se basan simplemente en la suposición de que s i el
i 'obot se ve y se comporta lo suf icientemente parecido a nosotro.s' . ntonces
poclrían-ros st.lponer, hasta que se demuestre lo contrario' que debe poseer
estados mentales como lo s nuestros qlle causen su comporlamlento v se
expresen a través de éste, y qu e debe contar co n Ll n mecanismo interior
.uput d,.producir tales estádós mentales' Si supiéramos' de manera inde-
pendiente, cómo explicar su comportamiento si n tales suposiciones, no le
MENTES,IFIIEBROSI'ROClRAfvfS 95
atriblr iríamos intencionalidacl sobre toclo si strpiér-anros ue posee Lrn pro-grama l-ormal. Éste es pr-ecisarnente l ptrnto qrre raté en rrri réplica anteriora la objec ión 2.
Sr,rpongamosqu e sabemos q. e el comportarrie' l 'del rob.t obeclecepo rcompleto al hecho de qu e un hombre recibe en su interior-sín-rbolos or-malesno inter-pretados desde os receptores sensoriales del r-otrot envía símbolosforr¡ales no interpretados al mecanisrncl
rnotol 'del r-obot, clrreel hombrerealiza este manejo de los sír¡bolos segrlrn rna ser-ie c'r-eglas. upongarnos,además, que este individuo no sabe nacla acer-cadel robot Y qu e lo úrnicoqu e sabe es cuáles oper-aciones ealizar co n crrálessímbolos sin signif icaclo.En es ecaso consideraríamos qtre el robot es un lnuñeco rnecárrico rrgenioso.La hipótesis de qu e el robot t iene mente r-est¡ltar-ía nt()nces inlrrsri[ icada einnecesaria, puesto qu e ya no habr' ía ninguna razirn para atribtrir. le inten-cionalidad al robot o al sistema del cual forma parte (exc-epto, ol-sLlpuesto,la intencionalidad de l hombre en el manejo cle krs sírnbolos). El niar-rejodesímbolos forrnales continúa, lo s datos de ent lacla 1'de saliclase con.esponclencon-ectamente, pero el úrnico oc o real de intencionalidad es el lrombre y élno sabe nada de los estados intenc ionales per l inentes; no l ¡e,por.ejemplo,lo qu e entra en lo s ojos del robot; noriette la ít t tett t : i t i t t le rnoverel brazode l robot y no conry)rendeninguna de l¿rs bserwaciones hccllas al robot opo r el robot. Ahora bien, por la s razones anteriolnlenre exprrestas, ampocolo hace el sistema de l cual el hombre y el robot fonlan par1e.
Para considerar este pllnto, comparemos este caso con otros en los quenos parece completamente natural atribuir intencionalidad a os r¡iernbrosde alguna otra especie de primates, como sinrios .v nronos, .y a rtnimalesdomésticos como los perros. La s razones de qtre ell 'nos pu,:". . . , naturalson, a grandes rasgos, dos: no podemos clarle sentido al compo|tamientode l animal sin atribuirle intencionalidad, y podemos ve r qlle la s best iases lán hechas de mater ja l s imi la l al nr¡est ro (eso cs rrn o o. eso es rrr ra rar . iz ,ésta es su piel , etc.). Dada la coherenc ia c lel comportamiento de l animaly' la suposición de qu e esté hecho de la misma materia catrsal, sLlponemos
qu e el animal debe tener estados mentales que motiven su comportarnientoy qu e estos estados mentales deben se r producto cle mecanismos hechosde esta materia qu e es como la nLlestra. No cabe cluda de qu e haríamossuposiciones similares acerca de l robot, a menos de clue uviér-amos algunarazón para no hacerlo, pero tan pronto como supiéramos que su compor-tamiento fu e el resultado de Lln programa formal y qu e las propie<1adescausales reales de la sustancia física eran in-elevantes, abandonaríamos lasuposición de intencionalidad (r,éansevar-ios atrtores, 1978).
Existen otras dos respuestas a m i ejemplo que surgen a menudo (y po rello vale la pena considerarlas), pero qu e en realidacl no comprenclen elsentido de mi argumento.
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 8/12
NIENTES, CEREBROSY PROCRAMAS
5. LA RÉPLICA DE LA S OTRASMENTES (YALE)
¿Cómo puecle saberce que otla persona entiende chino u otra cosa? Sólo porsu com-
pá""-i""a. Ahora bien, .o-o l. computadora puede aprobar (en principio)
i... p*.bu, de conducta tan bien como cualquiera; por tanto' si se ha de atribuir
cognición a otras personas, también debeatr ibuírse ie a la s computadoras'
EstaobjeciónenrealidadsólomereceLlnaréplicabrel 'e.Eiproblemaen este caso no consisteen cómo sé qu e otras personu5dsnen estados
.ognlri.,or, sino más bien en qué es o que lesatribul''o cuando les atribuyo
"uiudo,cognitivos. La ftrerzadel argumento esqlle no podría tl'atarsepre-
cisamenteáeprocesos ecómputo y de su s esultados'porque os procesos
cl ecómputo y su s resultados ueden existir si n el estadocognitivo. No es
lespuestaa este argumento fingir anesiesia'En la s "cienciascognitivas"
.""fr"r.,po.t" lu ."Ilid^.I y la cágnoscibilidadde lo mental de la misma
,rr^r-r".. q.,""r-,
as cienciai físicas se iene que presuponer la realidad'
la
cognoscibilidacl e os objetos ísicos'
6. LA RÉPLICA DE LAS MANSIONES N,IÚLTIPI-ES BERKELEY)
.Iodocuantoustedargumentapresuponequelat¡sí l lo t ie t lequer 'erconconlpu '
tadoras analógicas u?igi,ul"..pero resulia que éste es precisar-nente el estado
actual cle a tecnología. Cualesquiera que sean los procesos causale-s que usted
afinr ra qu e so n esencia les para que exista in tencional idad (suponiendo que tenga
usted razón) , a la - arga seremos capaces de constru ir d isposi t ivos qu e cuenten
co n estos procesos.ír . .1", y"s o
será inte i ígencia a l t i f ic ia l . De modo que sus
arsumentos de ningún modo se refieren a a capacidad de la in te l igencia ar t i f ic ia l
paia producir y explicar la cognición'
Enrealidadnotengoobjeciónaestaréplicasalr,odecirqueenrealidad'uelve
trivial"l
p.ov"lto de la t¡ fuerte al redefinirla conro cualquier cosa
q.," p."J"r.u y"*piiqrl"
artificialmente la cognición EI interés de la pro-
;;d" originai . fá,ro. de la inteiigencia artificial estriba en que se rataba
d" ,rrru tesis precisa y bien ciefinida: los procesos mentales son procesos
."-fr,u.i"'ales cle álementos definidos folTnalmente.Me interesa desa-
fiar esa tesis. Pero si el argumento se replantea de modo que ya no srga
siendo esa esis,mi s obiecionesya no vienen al caso,porqlle ya no habrá
un a hipótesisclemostrable la que se puedan aplicar'
R"g.es"mos ahora a la pregunta que prometí que trataía de responder:
pu"rio q.r" en mi ejemplo áriglnal yolntiendo ingléspero nochino y puesto
que a máquina no"nti".td""ni
inglesni chino' aú n debehaber algo en mí
MENTES, EREBROS ROURAI\Í¡\S 9Z
qLle pro\¡oca qu e vo entienda inglés, as í co'ro debe faltar algo cor.r.espon-diente en mí que me impide entender chino. I 'ues bien, ¿pár qu e no po_dríamos proporcionar a un a máquina esas dos., ,r.r, ,"ui ' lo qu e fueren?
No'eo,
en principio, nirrgr:na razón po . la ctral no ptrdiera dotarse aun a máquina co n la capacidad par.a entencler inglés o cll in, l , v¿ iqu e en unsentido impoftante nuestros cuerpos co n s' s cer-ebr-osr' t r.". iru-"art"máquinas de esta naturaleza. pero
sí veo ar.qumerrtos nruy sólidos paradecir que no podríamos proporcionarle ta l cosa a una máq.ina, cuando raoperación de Ia máquina se define exclusivarrente en tél.rninos de pr.ocesoscomputacionales de elernentos definidos lbrmalmc-nte; es clecir, ctrando laoperación de ia máquina se define conro el ejemplo co'cr.eto cl e un pro-gr?ma de cómp'to. Yo entiendo inglés y poseo otr-as ormas cl e ntencio-nalidad, no porque so v el ejemplo concreto de un progr.ama de cómputo(soy, supongo, la ejempiif icación conc¡.etu d" , ' , r. tos progr-amas decómputo), sino po.que, hasta donde sabemos, so,v
'ncierto t ip,r de orga_
nismo co n un a ciefta estructura biológica (es decir, cier-ta estructura quí-mica y física), la cual, en ciertas condiciones, es causarnrente capaz deproducir percepción, acción, comprensión, aprendizaje y crtr-osenómenosintencionales. Y par-te de-la cuest ión de l presente argrmento es qu e
sóloalgo que tu' iera estos poderes causales pódtiu tener intenci 'naliclad. eui-zá s existen otros procesos químicos y físicos que podrían procl.cir exac-tanlente estos efectos; quizás, po r ejemplo, lo s marcianos también tensanintencionalidad aunque su s cerebros estén hechos de cl ist i . ta nrater-ia.Éstaes , sin embargo, una pre€runtaempírica, mu y similar a a cre i ra rbtosíntesispodría se r realizada po r algo co n una química dist inta a la cl e a clorof i la.
Empero, la cuest ión principal del presente argumento es ql¡e ningúnmodelo puramente tormal será jan'rás suf iciente po r sí mismo para la in -tencionalidad, porque las propiedades forrnares no so n ellas mism¿rscons-t itut ivas de la intencionalidad v porque carecen po r sí mismas de podercausat salvo el poder de producir ' , ctrando se ejemplif ican concretamente,la s iguiente etapa de l formal ismo cuando la rnáqt r ina está f .nc ionando.
Y cualesquiera otras propiedades causales qu e tengan las realizacionesparliculares de l modelo formal son irrelevantes para el nroclelo forrnal,porque siempre podemos poner el misrno modelo [orrnal en una r-ealizacióndiferente en Ia que esas propiedades causales estén obviamente ausentes.Au n cuando, po r algún milagro, lo s hablantes de l chino pudieran ejecutarexactamente el programa de Schank, podemos ponereste mismo programaen hablantes de l inglés, pipas de agua o computadoras, . , ing'no de lo scuales entendería chino a pesar de l programa.
Lo qu e cuenta en la s operaciones de l cerebro no es la sombra formalpro-vectada po r la secuencia de sinapsis, sino má s bien las propiedacles.eales de la s secuencias. Todos lo s argumentos que he visto á tavor de la
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 9/12
98 N,IENTES, EREBROS PROGRANIAS
versión fuer1e de la intel igencia art if ic ial insisten en dibujar un contornoalrededor de la sombra proyectada por la cognición v luego af inr-rar qu elas sombras so n reales.
A manera de conclusión me gustaría intentar establecer algunos de losplrntos f i losóf icos generales implícitos en el argumento. En aras de la cla-l idad intentaré hacerlo en forrna de preguntas y respuestas, v comenzaré
con la pregunta ya gastada de :"¿Puede pensar una máquina?"La respuesta es obviamente sí. Nosotros somos precisarnente esas má-
qulnas."Sí, pero, ¿podría pensar un ar tefacto, una máquina hecha po r el
l lon-rbre?"
Si suponenros qlle puede producirse ar-t i f ic ialmente una máquina qu e
I)osea Ll n sistema ner -vroso, neuronas con axones v dendritas, r, todo loclernás, o suf icientemente seme.jantesa los nuestros, otra ., 'ez a respuestaa l a pregunta parece ser obviamente sí. Si se pueden duplicar exactamentela s causas, podrían duplicarse los efectos. Y de hecho sería posible producir
conciencia, intencionalidad, v todo lo demás ut i l izando algunos otros t ipos
cl eprir-rcipios quírnicos que no sean los qu e uti l izan ios seres humanos. Setrata, como dije, de rrna cuest ión empírica.
"Está bien. No obstante, ¿podría pensar Llna computadora digitai?"
Si po r "computadora digital" nos referimos a cualquier cosa qu e tenga
un nivel de descripción mediante el cual pueda describirse correctamente
como la ejemplif icación concreta de un programa de computadora, enton-
Lres tr a vez la respuesta es, po r sllpuesto, sí, )' a qu e nosotros somos la s
ejempli[ icaciones concretas de cualquier número de programas de cómpu-to y podemos pensar.
"Sin embargo, ¿podría algo pensar, comprender, etc.,exclt tsivanletúe en
virtud de se r una computadora con el t ipo colrecto de programa? ¿Podríala ejemplif icación concreta de un programa (del programa correcto, po r
supuesto) ser po r sí misma condición suf iciente para la comprensión?"
Segúrnyo , ésta es precisamente la pregunta que hay qlle contestar, au ncuando suela confundirse con una o más de las preguntas anteriores, y la
Lespuesta es no."¿Por qu é no?"Porque la s manipr-rlaciones de símbolos forrnales po r sí mismas carecen
de intencionalidad; son bastante carentes de sentido; ni siquiera son ma -
nipulaciones de síntbolos, ya qLle os símbolos no simbolizan nada. En la
ierga lingüíst ica, sólo t ienen sintaxis pero no semántica. La intencionalidad
clue parecen tener las computadoras sólo está en las mentes de quienes la s
programan y de quienes las usan: los qu e envían la inforrnación de entrada
v lo s qu e interpretan la információn de salida.
MENTES, EREBROS,PROCRAN{AS99
El pr-opósito de l ejemplo cr e a habitación china f. e intentar.crenrostrar.st o al mosrrar qu e ta n pr.onro .on. 'o i, . t ,o. lrrcimos ;l; ; ; ; . ; i l ,*ema qu eealmente t iene intencionalidad (u n hontbre) y lo pt.ograntantos co n el::?,::HXfffil, ¡: t d:',..,..,""t ,',,g.ou,n.,,,,,oll,o".,,u,,r",.,.io_paraentend"..hi.,jo
añade ada, or e.ic'mplo,r.."p".i.r.Ji"t l-ro-u."
Es a característ, ica de la l¡ _l a dist inció:ió1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:ilñ.a afirmación de qu e lu .i' ..,Iu.' iá; il;:; se r duplicación. La ciisrinciónntreel programa v su.re,alizació'";;i;;;,'crtvare pareceser. ar-arera raistinción entre el nir,'el e l" r"p"t".1.r.,", n-,"nroi"s'c,l .i 'ei ci e as ope-acionescerebrales. si podíam"r ¿"r.]:iui. er nivercr e ¡rer.acio'esnren_alesconro un progra.ma ormal,
";;;;;;Ir"clíamos clescr_ibir.,l parecer,o esencial cerca e a menle.in in.,; ; ; i ; .neurofisotocí";i;.,."b,.-.T;ffi",',:l.J::::i:ffl:fi Hl:';:.::el cerebro o qu e el-programa es .especto creltartrtvare,,rara n variosuntos,ent¡.e os cuale_se encltentt.an'lossigtrienlesres:r imero, a dist inc.
illf c"";i;l'd:J{l;:?:Xll:llilffiT,,:i;:::ff:,?;:"..j'ffurdas in forma alsunade ntencion^i i l ; . Wiez_enbaur(1976,c:rpítu loi):^l.rt^";"-0,,:,
ha f,orm"norizado cómo cons .r i .una com ¡rr tad..a uti_lzandoun rollo de papelhigiénicoy un montón cre iedr.ecita.s.e nlaneraimilar' el p'ograma para entenderr-elatosen chino ptredeprogranrar-senna secuenciade pipas. e agua,"r-,
,rrror-r¡.rnto e rnáq'inas cl e'iento
o:1,:n:'::1,i1,""'onotingtiLe';;i"&, ;,,1r.,,.,,,e os ,,o1",-'"gu.i,
::*:H*l::"".:I':ilüüql*ll'o!'l'Jly::"':,üJ::causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:Éru:,ruildelinglésosea r ieo,1;i1¡:nrila".""i""o"* ra ntencionaricracr,¡ruedeerse ácilmentequ e no adquiere ntencionalidad
adicional al menr.r-izarl programa,puesel hecho;"-".,.' ;;i;ui ""
," enseñachino.
-^,t^:t-*o"'"elprograma es puramente formal, per-o os estados ntencio-ares o so n ormalesde esemodo. Sedefinenen érminosde st rcontenido,ode su forma' La creenciade qu e
".ta'or¡".rao,po r e empro,no se crefineomo igura fbrmar, sino como .i".ro .o.rr"nido mental co n conclicionesesatisfacción' on sentido d"
"d";;;.i;"i"5u.g Searre, r979a)vsirnira-es 'De hecho' a creenciacomo ta l no tiene srq.lera un a ligura for.marenst e entidosintácticopuestoqu e un a rolu y iu _ir-".r i"". ,""0""a".recibirun número indefinido d;".;;;i";s
sinrácricas i[erentesen lo sistintossistemas ingüísticos.rercero, como va mencioné antes, os estadosy sucesosmentalesso n
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 10/12
100 MENTES. EREBROSPROGRAIV{AS
iiteralmente un producto de la operación del cerebro, pero el programa no
L's,en ese sentido, un producto de la computadora."Bueno, si lo s programas no son de ntodo alguno constitut i l¡os de los
procesos mentales, ¿por qu é tanta gente cree lo contrario? Eso amerita po r
lo menos alguna explicación."En realidad ignoro la respuesta a esa pregunta. La idea de que las simu-
laciones en computadorapudieran se r algo real tu\¡o qt le haber parecido
sospechosa desde un principio, porque la computadora de ninguna nlanera
se l imita a simular operaciones mentales. Nadie supone que las simulacio-
ne s por computadora de un incendio de cinco alarmas podrían incendiar
un vecindario o qu e la simtrlación po r computadora de una tormenta no s
¡ruede empapar. ¿Por qu é habría de suponer alguien entonces que una
simulación po r comput.adora de la compr-ensión realmente entiende algo?
E,n ocasiones se dice qu e sería ter-riblemente dif íci l lograr qu e las compu-
ladoras sint ieran dolor o se enamoraran, pero el amor y el dolor no son ni
lnás ni menos dif íci les qu e la cognición o cualquier otra cosa. Para simular,
todo lo qLle se necesita es un f lujo correcto de entrada y salida de infoma-
ción y un programa de po r medio qu e transforme la primera en la segunda.
Eso es od o lo qu e la computadora t iene qu e hacer. confundir la simulación
con Ia duplicación es el mismo et.ror, va se a qu e se trate de dolor, amor,cognición, incendio o tolTnentas.
Si n en-rbargo, existen varias razones po r la s que se pensó -r' quizá,
mucha gente todavía lo piense- que de alguna manera la u, reproduce, y
po r consiguiente explica, fenómenos mentales, ) 'creo qu e no lograremos
erradicar estas lusiones hasta haber expuesto cabalmente los motivos qu e
l¿rs uscitaron.En pr imer lugar, v quizá lo más importante, es t tna conl t ls ión acel ca de
la noción de "procesamiento de inforrnación". En las ciencias cognit ivas,
r-nuchagente considera que el cerebro humano, con su mente, realiza algo
qu e recibe el nombre de "procesamiento de inforrnación", v análogamente
la computadora, con su programa, efectúa un "procesamiento de informa-
ción"; pero, por otra parte, incendios v tormentas no llevan a cabo ningúnprocesantiento de inforrnación. En consecuencia, aunque la computadora
puede simular las característ icas forrnales de cualquier proceso, se a ei qu e
fuere, mantiene una relación especial co n la mente v el cerebro, porque
cuando la computadora se encuentra adecuadamente programada, ideal-
mente con el mismo programa qu e el cerebro, el procesamiento de infor-
n-ración es idéntico en ambos casos, y este procesamiento de información
const ituye realmente la esencia de lo mental. Empero, el problema de este
argumento es qu e se apoya en la ambigüedad de la noción de "información".
La computadora no realiza "p¡ocesamiento de inforrnación" en ei sentido
en que las personas "procesan infor-rnación" cuando reflexionan, po r ejem-
N,IENTES,EREBROSPROCÍiAN4AS 1I)Iplo,en problemas de aritmética o cuando leen ,,responden r.eguntas ntorno a un relato. Má s bien, lo qtre hace la computador-aes n-ia.ipularsímbolos ormales.El hecho de q.,e el programador
-ver 'térprete de ro s
fj*:*: 9: ]?.o-o"tadora r-rtiticeni-iolo, para reernpazar. bJeros
:::::ii?.:salgo que esrápo r compieto trerade l alcanceci e1. . on,puta_qora.Keprto, a computadora tienesintaxispero no semántica.En co.se_
cuencia, i 'sted tecleaen ra computacrora 2 má s 2 es gual a?",escribirá"4".Pero a computadorano tieneni ideacre tre 4" significa4 o ctrarquierotracosa'Y la cuestiónno esqu ecarezca le rgr-rnanfo"rmació.desegr_rncroordenacercade la interpretación cr e 's síriboros cr epri'.rer:o,.t"r-,, r.roqu esu ssímbolosde primer orden no tienen ningrrna nterpr.etación n loqu ea la computadora se refiere. Todo ro q,e tLne ra co'rptrradora so nmá ssímbolos.La introducción cle a noción cl e procesamiántode inror-ma_ción"ausa,po r consiguiente, n clilema: bien const.limos la noció.de procesamientode infármación" cl e al ,-,.,un"rotr e rnpliqtre ntencio-nalidadcomo parte de l procesoo no lo hacemos.En er primer. caso, acomputadora rogramadano procesa n[or.mació.;sólo maniptrlasír.bo_lo s ormale^s. n el segundo u.rt,,, ntonces,pesea qr-rea comprrtadora
procesanformación, únicamente o rrace ne l sentic lo"r q,," io hacenIa ssumadoras, as máquinas cl e escribir, lo s estómzrgos,os ter-mosta-tos, as ormentasv los huraca.r".; u ,ub"., c.entan co n un niver cr edes-:^nl_t^t_u1""
l qu e podemosdecirq'e aceptan nfolrnación portrn extremo,ta ranslorrnanv producen inforntación de salida. Si n entLrar_g(),n eslecaso ependede lo s obsenadoresexternos nterpretar a entracla s:rridacomo nfornación en el senticloorcrinario. no.sc
"rt.r-,r".rirriiit.,¿ ul -guna ntre a computadoray el cerebroen térnrinosde cualqrrier.sinlilitr¡cl
de lprocesamiento e información.
.En.segundougar, en gran pade de la la ha v nn concluctisnro ()per_a-
cionalismoesidual.puestoqu e ascomputacloias clecunclamenter( gr.a-madas uedenexhibir patronesde entiada v salicla imilares a los cr,,,osseres umanos,podríanros
caere. la tentacióncre osttrlarqlre osestadosmentales e a compritadoraso n similaresa los estados nentales le lhom_Dre. .mpero, un a ve z qu e \¡emosqu e es posible tanto conceptual contoempíricamente ue r-rn istemacontengacapacidaclesrtrma'^s en arsúr^campo in que de ningún modo posea ntencionaliclacl, oclrem".
";;.-;;st empulso.Mi sumadorade escritorio ienecapacicracrle alcrrlar., er ocarece e intencionalidad,y en esteartícuro he intentaclocren.rostrar¡u eun sistemapodúa tener capacidades e entracla salida cl e rformaciólrqu eduplicara' la s de un hablante nativo clelchino y seguir si n errtenclerchino, in impoftar cómo estuvieraprogramada.Laprüba de Turing e. stípica e a tradición en el sentidodeq.rJ es cles'ergonzaclamenteonduc-tista operacionalista consideroqu e si losestudiosos le a ln repudiaran
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 11/12
102 lv'fENTES' EREBROS PROGRAI\IAS
po r completo de l conductismo y el operacionalismo' se eliminaría gran
;; ; ;" i" confusión entre simulación y duplicación'
En ter:cer lugar, éste operacionalismo re. i iduai se aúna a la fon¡a re -
siclual cl e dualismo; ¿"1"!f t" la ln ftrerte sólo cobra sentido dada la supo-
sición dualista de que, en lo qu e a la mente se ref iere' el cerebro no imporla'
Il n la r¡ ,fuerte (asi. ; ; ;J,-t
"l
r. t , -t . lonalismo), lo q. e impoña so n io s
programas, y éstos. ot ' i"a"p"tt<l ientes cl esu realización en máquinas; de
'echo,
en io qu e"
l. , ; ;"; ;ñere, el mismo programa podría se r realiz.ado
ir"."" " -aq"ina
electrónica' un a sustancia mental car-tesianao un espíritu
clei mundo hegeliano. EI desc.brimiento má s sorprendente clue he hecho
al analizar estas cuest iott" '"t
qtt" muchosde lo s estudiosos de la IA están
lrastante molestos .on.-mi t¿"u cl e qu e lo s fenómenos mentales humanos
puedan clepender a" i 'opi"aucles f isicoquímicas reales de lo s cerebros hu -
manos verdaderos. No obstante, si se piensa un minuto acerca de esto,
puede verse qlle no debería haberme sorprendido' l' a qu e el prol 'ecto de a
tA fl lerte no tiene posibil idacl alguna' a menos que se acepte'alguna forma
cl e dualismo. EI provecto col-lsisteen reproducir v explicar 1o mental me -
ciiante el cl iseño de programas' pero a menos qu e la me-nte no sólo se a
conceptual ,i.to tut'tüi¿t'empíricamente inclePend':1':i::::t;t"T;.",ono.::
¿r' iu tüuu.r" a cabo el pt 'ovecto' porque el programa"t
t"l i l1"
; ; ; ; , ; c1 e ualquier realización' A menos qtle se crea qlre la mente es
separable d" l ."."briá- *, o .on."ptual como empíricamente -r'ersión
[uerte <] edttai ismo- no se pttecleesperar reproclucii 1o mental e.scribiendo
r, con-iendo ot 'or.utt t ' , ,á 1" " ett"t deben se r ir-idependientes de lo s cere'
br.osde cualesquier-a ot.us for-us part icurares de ejempli[ icación concreta'
Si la s operaciones mentales consisten"'-t
op"tut iones de cómprrto sobre
sír-nbolos ol-males, se decltrceentonces qlle carecen de conexiones lntere'
Santesconelcer-ebro.Laí ln icaconex iónseríaqueelcerebror .esu]taraserp; ' ; ; ; ; ; ; un o de lo s muchísimos tipos de máquinas capaces de eiem-
plif icar concretamente el programa Esta forma de dr-ral ismo no es ia va -
r-iante carlesi^. ,", .^Ji. i . rnur ñ" " postula qu e ha v do stipos de s¡¿slt¿rrclas'
pcro es cartesiana"'"t "l ' "t ' t iáo
d" qt '" insiste en qu e 1o específ icamente
mental cl e a mente ,-,o t 'utdu t"lación intrín'"tu to'-t ut propiedades reales
clel cerebro. Este dualismo implícito se oculta de nosotros po r el hecho de
qt rela] i terat r - r raacercadelal ¡ar l .emeteconf recuenc iacontrael . .dual is -i 'J ' t 0". . lo qu e lo s autores parecen pasar po r alto es qlle sl r postura
presupone un a versión fuerte de dualismo
"¿Podría pensar un a máquina?" Mi^propio
punto de vista es qu e sólo
,"rna"máquina poclría pensar^y que' en efecto' sÓlo algunos tipos mu1'espe'
ciales de máquinas' u'ub"t, ' t "t"bros
1'máquinas q" " t :"g^11 lo s mismos
pocleres causales qu e el cerebro' Y és a es la razón por la qu e ia IA fuerte
i i ; ;"-p"." q.t" , l". i*os acerca de l pensamiento' Ya qu e nada tiene qu e
N,IENTES,EREBROSPIIO(IÍIAJIIAS IO3
decirlos acerca de las máquinas. Por su propizr def inición, se octrpa deprogramas y los programas no son ntáquinas. No obslante, cualqtriera quesea a intencionalidad, es un fenómeno biológico, \. es nrLrvpr obable qr-re e-penda causalmente de la bioquínrica especíl ica cle sus orígenes como lalactancia, la fotosíntesis o cualquier otro fenírnreno biológico. Narl ie slr-pondría qu e se podría producir leche o azúrcar-echandoa ¿rnclalun pr.ogra-
ma de simulación en computadora cle as secuencias f 'olmales cle a lactan-ci a y de la fotosíntesis; sin embargo, en lo qtre a la nrentc se ref iere, nr-rchaspersonas se encuentran dispuestas a creel 'en trn milagr-o cle esta ínclole acausa de un dualismo profundo y constante: l¿ rmente qu e sup()nen es Llnacuest ión de procesos torrnales, independiente de catrsas nrater-iales bas-tante específ icas en el sentido en qu e no lo son la leche v el ¿rzricar' .
En defensa de este dualismo a menudo se explesa la esperanza cl e qu eel cerebro sea una compu tadora digital (las printeras cornptrtador'¿rs,po rcierto, a menudo recibían el nombre de "cerebros electr 'ónicos"). Mas denada sin 'e. E l cerebro es, por supuesto, una compulador¿r c l is i ta l . Prrestoqu e od o es Llna computadora digital, el cel 'ebro tantbién lo es. -a cuest iónes qu e la capac idad causal del cerebro para produc i r interrc ional ic lad nopuedeconsist ir en su ejenrplif icación concreta dc trn progranra cl ecómpu-to , ya que para el programa qu e trsted gllste es posible que zrlgo e. lcnr¡rl i-f ique concretamente es e progranta l ,s iga s in tencr cs tados rr rentales.Se alo qu e fuere lo qu e el cerebro haga para prodtrcir intencionaliclacl, el lo nopuede cons is t i r en ejempi i f icar concretar l tente rr n plograma, va c¡rrenin-gún programa po r sí mismo es sufic iente par-a ogral l¿r n(enc ional ic lad. {
BreLrocnAr͡
Fodor, J. A. (1980) , "Methodokrg ica l Sol ipsism Consiclcrcd ¿isa Rerscalch Str¿r tcgyin Cognit ive Psvchologv", Behat, i r ¡ ra l a ttd Bra i t t S¿' i¿,r l r -¿.s,, pp . 6- l , l10.
McCar lhy, J. (1979) , "Ascr ib ing Mental Qual i t ies to M¿rcfr ines",c- nM. I l ing l . . (ed.) ,
Phi losopl ica l Perspecives n Ar t i f ic ia l l r t te l l iger tce,Atlant ic I l igh land, N. . I . , Htr -manit ies Press, pp . l6l-195.
Nervel l ,A. (1979) , "Physicia l Svmbol Svstenrs", Pone-nciaprcscrr tada cn l¿rCir f ' r 'cn-ci a sobre Ciencia Cognit iva en La Jol la , publ icaclo poste l iormentc en ( . ' r , , , l r ¡ i ¡ i'¿ ,Sciettce,4, 1980, pp . 135-183.
Nervel l , A. r 'Simon H. A. (1963) , "GPS - A Pxrgr ' :rm that Sirnu l¿r tcs [{ r rma.nThor- rght",en E. A. Feigcnbaum v J. A. Feldnran (cds.) , Cor tt¡ tu ters ar tt l 7 ' l tctt tg t l t ,Nueva York, McGrarv-Hi l l , pp.279-296.
aEstot 'en eudaco n as muchísimaspersonas ue anal iz-aron stas uestioncs uglaclezcr .rla paciencia ue mostraron para superarmi ignoranciaen torno a la in tcl ig t:nciaa l t i l ic ia l -Me gustaña en paflicular dar las gracias a Ned Block, Hubert Drevfrrs, John Harrgcl and,RogerSchank, Robeñ Wilensky )'Tery Winograd.
8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas
http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 12/12
IO 4 MENTES,CEREBROSYPROCRAMAS
Pr, lvshyn, . w. (1980), computat ion and cognit ion: Issues n the Foundation of
Ccrgnit ive cience",Behavioraland Brait t Scietrces,3, p. 1 l-132.
Sclrank, R C.-v Abelson, R. P. (1977), Scripts,Plans,Gc¡als, tt d Urtderstandhtg,
Hil lsdale. N. J., Erlbaum.Searle, .R. ( 1979a), Intent ionalitv an d the Useof Language", n A l\{argolit ed'),
Meaning an d IJse,Dordrecht, Reidel.(1979b), What is an Intenl ional State?", I ind,88, pp.74'92
V¿¡riosautores (1978), "Cognit ion and consciousness n Non-Human Species",Behavioralan d Brain Scietrces,, 'ol 1 núm' 4, número completo'
Weizenbaum, J. (19ó5), "ELIZA-A Con.rputerProgram for the Study of Natural
Language Communicat ion Betrveen Ma n an d Machine", Cottt t t t t t t t .ACll , 9,
pp . 36-45.(1976),Co,l l l)uterPox'erattd Hunnnt Reason,Sa n Francisco,W. H Free-
man.Winograd, T. (1973),"A Procedural Model of LanguageUnderstanding",en R' C'
Schank y K. M. Colby (eds.),CotnputerModelsof Thought an d lnnguage, Sa n
Franc isco,W. H. Freeman,pp . 152-18ó.
IV. ESCAPEDE LA HABITACIÓN CHINA*
MARGARETA, BODEN
Er usu anrÍculo "Mentes, cerebros y programas" ( 1980), John Searle alegaqu e las teorías de computación en psicología son esencialmente rnút i les.Hace al respecto dos af irmaciones importantes: la s teorías de computa-ción, de naturaleza puramente formal, no pueclen ayuclarnos en modoalguno a comprender lo s procesos mentales; y el har t lware de lacomputadora, a diferencia de la neuroproteína, cal-eceobviamente de lospoderes causaies adecuados para generar procesos mentales. Denrostraréaquí que ambas afirrnaciones están equivocadas.
La primera afirmación de Searle da por sentada la strposición (forma-l ista), ampliamente aceptada de qu e lo s "cómputos' qlte se esttrdian en laciencia de la computación so n pllramente sintáct icos y que ptreden defi-nirse (e n térrninos igualmente adecnados para la lógica sirnbólica) comoel nrartejo fonnal de síntbolos abstractos tnediattte la aplicación de reglaslónnales. Según este autor, de ahí se deduce que la s explic:rcione-s orma-listas, aunque adecr-radas ara explicar el procesarniento cl e inforrnación"si n sentido o ei manejo de "símbolos" en las computadoras, son incapacesde explicar cómo ut i l izan las mentes humanas lainfónnac: ir in o los símbo-1os,propiamente así l lamados. El signif icado o la intencionalidad n() pue-de n explicarse en términos computacionales.
Searle no quiere decir co n es o qu e ninguna máquina pueda pensar. Lo sseres humanos pueden pensar y éstos, concede, son máquinas; inclr_rsoadopta el credo material ista de qu e sólo las máquinas pueden pensar. Tarn-poco dice qu e io s seres humanos v lo s programas sean totalmente incon-
mensurables. Acepta que, en cierto nivel sLlmamente abstracto de descrip-ción, la s personas (como todo lo demás) son ejemplif icaciones concretasde computadoras digitales. Má s bien argtrmenta qu e nada puede pensar,signif icar o comprender exclusivanlente en virtud de su ejemplif icaciónconcreta de un programa de compntadora.
Para convencernos de esto, Searle recurre a un ingenioso exper-imentode pensamiento. Se magina a sí rnismo encerrado en una habitar: ión dondeha¡r un a serie de fajos de papeles qu e contienen garabatos; Lrna ventana a
* N{argaret .Boden, Escaping rom he Chinese oom", omaclo elcapítulo8cleCon¿-puter "Iodeb f +,|útd1988).Reproducido on pennisode CambridgeUnivcrsity ress.
10 5
top related