ludus vitalis 2012b

7/22/2019 Ludus Vitalis 2012b

1/29

LA CONVIVENCIA CON LOSCYBORGSY LOS ROBOTS:

CONSIDERACIONES FILOSFICAS,TICO-MORALES Y SOCIOPOLTICAS

JOSEP VIVES-REGOFRANCESC MESTRES NAVAL

ABSTRACT. In this work, we present the cultural evolution that has allowed toovercome many problems derived from the limitations of the human body.These limitations have been solved by a cyborization process that began since

early anthropogenesis. Originally, it was envisioned to deal with some dis-eases, accidents or body malfunctions. Nowadays, augmentations improvecommon human capabilities; one of the most notable is the increase of brainefficiency by using connections with a computer. A basic social question alsoaddressed is which people will and should have access to these augmentations.Advanced humanoid robots (with human external aspect, artificial intelligenceand even emotions) already exist and consequently a number of questionsarise. For instance, will robots be considered living organisms? Could they beconsidered as persons? Will we confer the human status to robots? Thesequestions are discussed. Our conclusions are that the advanced humanoidrobots display some actions that may be considered as life-like, yet different tothe life associated with living organisms, also, to some extend they could beconsidered as persons-like, but not humans.

KEY WORDS.Cyborg, augmentation, robot, artificial intelligence, posthuman-ism, ethics.

La banalidad repetida sin fin, la de que la Edad Moderna introduce la pregunta cmo? enlugar de la pregunta por qu?, tiene en todo caso una justificacin si comprendemos queaqu no emerge un nuevo concepto de verdad, sino un (nuevo?) desinters por la verdad,que puede formularse as: no quiero saber por qu algo es, y tampoco cmo se produce, sinocmo puedo hacer algo?

Ludz and Nordmann 2006: 530 [62].

1. INTRODUCCINEn dos trabajos previos (Mestres y Vives-Rego 2011; Mestres y Vives Rego2012) hemos descrito y analizado qu aspectos de la biotecnologa y labinica se estn aplicando en el cuerpo humano, cul es la previsin deeste tipo de modificaciones y ante qu perspectivas nos encontramos como

Catedrtico Emrito de Microbiologa, Departament de Microbiologia, Facultat de Biologia,Universitat de Barcelona, Av. Diagonal 643, E-08028 Barcelona, Espaa. / [email protected] Titular de Gentica, Departament de Gentica, Facultat de Biologia, Universitat deBarcelona, Av. Diagonal 643, E-08028 Barcelona, Espaa. / [email protected]

Ludus Vitalis, vol. XX, num. 38, 2012, pp. 215-243.


2/29

consecuencia de esos cambios y modificaciones. En este trabajo reflexio-namos sobre aspectos tales como qu personas pueden tener derecho a lasaumentaciones; sus costes y significado social; el papel de los robots ennuestra sociedad; el estatus que los humanos adjudicaremos a los robots,y otros temas relacionados.

Los humanos construyen su propio cerebro aunque no sean conscientesde ello y, de hecho, en la gran mayora de los casos no lo son. El humanoes a la vez el sujeto, el autor y el resultado de la permanente construccinbiolgica de su cerebro y de sus consiguientes procesos mentales. Estaconstruccin se hace a partir de la estructura anatmica, que a su vez hasido codificada por los genes heredados. Despus, desde el momento delnacimiento hasta la muerte, hay una permanente construccin basada enlos estmulos medioambientales que afectan al individuo a lo largo de suvida. En este continuo proceso de construccin, un elemento de variabili-dad asentado en el individuo lo constituyen los no siempre evidentes actosde libertad que dependen de su libre albedro. De este modo, el cerebro esel producto emergente de la historia del individuo, aunque es difcil preversu devenir debido a tres factores: i) la propia plasticidad del cerebro; ii) laimprevisibilidad de los elementos medioambientales que afectan al serhumano, y iii) la estocasticidad intrnseca (aleatoriedad natural) del propioproceso biolgico, es decir, mutaciones, adaptaciones, interacciones, y dems 1.Pongamos el ejemplo de los grandes msicos. Un da, en la tempranainfancia, tras unas primeras y seminales experiencias de audicin, y posi-blemente tambin de ejecucin musical, un individuo es consciente de lomucho que le gusta y atrae la msica. A partir de ese momento, decide

dedicarse a la msica y a tocar el piano. Al cabo de unas dcadas, se haconvertido en un reconocido pianista. A partir de esa decisin en suinfancia, todas las actuaciones y vivencias (basadas en la voluntad, perse-verancia y trabajo constante) de esa persona empiezan a transformar sucerebro hasta convertirlo en el de un gran pianista. Sin lugar a dudas, esun cerebro sustancialmente diferente del que pudiera haber sido si en vezde haber estado atrado por la msica lo hubiese sido por el atletismo o laingeniera. Obviamente, el cuerpo del supuesto pianista o deportistatambin sera substancialmente diferente. Sin embargo, el pianista enningn momento de su vida ha tomado la decisin de cambiar su cerebroy transformarlo en el de un pianista. Han sido todas las cosas que decidehacer para llegar a ser un pianista (entre otras muchas) las que hancambiado su rgano cerebral.

El ser humano es el todo de sus mutaciones en el ms amplio sentidode la palabra, es decir, de las mutaciones que biolgicamente le hanacontecido en su permanente proceso de hominizacin (que nunca dejade evolucionar), y tambin, y no en menor medida, de las mutaciones dela conciencia, desde la estructura arcaica (la original), la mgica, la mtica,

216 / LUDUS VITALIS / vol. XX / num. 38 / 2012


3/29

la mental y finalmente la integral, que es la que apunta al futuro. Estasmutaciones reflejan la constante evolucin y transicin de la percepcin yla conciencia del ser humano. Este concepto gebseriano 2de la mutacinde la conciencia no queda reducido al aspecto biolgico, sino que adoptaun sentido cultural en la medida que es el acontecimiento que constituyeuna evolucin progresiva de la historia del humano. Este ser humano,complejo desde su origen hasta su presente y su futuro, slo podr viviruna vida completa en tanto que sea capaz de vivir esa integridad demutaciones de su cuerpo y su conciencia.

El conjunto de estas factualidades en el contexto del pensamientocontemporneo replantea a la filosofa las tres preguntas clsicas y funda-mentales, ahora especficamente dirigidas al mundo tecnocientfico en elque estamos inmersos: qu podemos saber?, qu debemos hacer? y qupodemos esperar? En el mbito filosfico, estas formas del preguntarhumano exigen respuestas compatibles con el mundo cognitivo y, sobretodo, los humanos deberamos esclarecer lo que buscamos, anhelamos yesperamos de esos procesos. Son preguntas sencillas, aunque vitales, yante las que nos enfrentamos de manera cada vez ms imperiosa y tras-cendente, dados los impactantes avances tecnocientficos. A pesar de susencillez, dichas cuestiones van a tener con toda seguridad respuestasdifciles y complejas, que arrancarn al individuo de la habitual semicon-ciencia por la que slo ocupa su atencin en temas menores, por ejemplo,preguntndose cmo podemos hacer esto u lo otro, o ms simplemente,qu podemos hacer con los nuevos avances tecnocientficos. En definitiva,esas preguntas nos sitan o tendran que situarnos en un estado ineludible

de inmensa responsabilidad, en el que la pregunta fundamental es por quhacemos o queremos hacer cambios profundos en nuestro cuerpo y ennuestra manera de actuar.

En los humanos, la libertad se expresa como la capacidad de pensar ensus propios fines para posteriormente intentar o no hacerlos realidad.Dado que los fines son de suma importancia (aunque no necesariamentesignifica que tengan que ver con la satisfaccin de las necesidades bsicas),las conductas constantemente se modifican en aras de conseguir esos fines.Entendemos que los fines son sustancialmente diferentes a las motivacio-nes, aunque vinculados ineludiblemente entre s. Los fines son elementosms reflexivos y las motivaciones son estmulos de naturaleza ms biol-gica-psicolgica. Estas posibilidades permiten plantearnos objetivos quepueden ir contra el ser humano o incluso contra la naturaleza, y realizar

actos considerados como inmorales e inhumanos como son las guerras,genocidios, esclavitud, torturas y crueldades que los humanos han prac-ticado con sus congneres y el resto de animales, y tambin el suicidioecolgico al que nos estamos asomando 3. Paradjicamente, ese ir contrala propia naturalezapuede provocar el espejismo de que el hombre es

VIVES-REGO; MESTRES / CONVIVENCIA / 217


4/29

independiente de los otros hombres y de la naturaleza, cuando en realidadsucede todo lo contrario: el hombre depende absolutamente de la huma-nidad y de la naturaleza para sobrevivir y progresar. En otras palabras, elser humano puede permitirse pensar en sus propios fines, al margen delo que pueda ser positivo o negativo para el planeta y para l mismo. Lamanera de hacer realidad los fines pensados por los humanos y hacer ollegar a ser lo que quiere ser, es a travs de la reflexin y la tecnociencia.

2. LA OBSOLESCENCIA DEL CUERPO HUMANOLa proclama visual de la obsolescencia del cuerpo humano se inicia en elmundo del arte contemporneo y fueron sus pioneros Stelarc 4y Orlan 5. Sinembargo, la incapacidad estructural y funcional del cuerpo humano ya seapunta con Paul Alsberg 6en su libro El enigma de la humanidad,y poste-riormente por George Bataille en su obra El ojo pineal, de 1930, con el mritoaadido de que la visin que se tena de la glndula pineal desde Descartesera que conectaba el cuerpo con el alma (Bataille 1997). Slo posteriormen-te, a partir de los aos 1950, la epfisis (como tambin se la denomina hoyda a la glndula pineal) fue objeto de estudios biomdicos y se elucid sufuncin como parte de las vas visuales, que transforma la informacinlumnica en secreciones hormonales. La obsolescencia del cuerpo puedefundamentarse en los criterios que comentaremos a continuacin. Elcuerpo humano, al inicio del siglo XXI,ciertamente no puede dar cuenta,incorporar y entender toda la cantidad, calidad y complejidad del conoci-miento actual. Por otro lado, ese cuerpo ni es durable ni eficiente y estmuy limitado por la edad y la cultura. Sus parmetros de supervivencia

son muy estrechos. Slo puede sobrevivir unos pocos minutos sin oxgeno,unos pocos das sin agua, pocas semanas sin alimento y no resiste tempe-raturas por debajo de 15oCelsius ni por encima de 45oCelsius, sin recurrira la tecnociencia y a las aumentaciones 7. Sus rganos no pueden rempla-zarse fcilmente debido a las dificultades para obtenerlos y a los fenme-nos de rechazo inmunolgico. No gira el cuello 360ocomo el bho, ni vuelacomo las aves, ni su capacidad olfativa es como la de la mayor parte de losmamferos, ni nada como los peces, ni corre como los herbvoros o carn-voros. El humano actual considera a su anatoma como una crcel y en lostiempos presentes se est haciendo imperativo el trascenderla. A partir delsigloXXIes cada vez ms frecuente percibir al cuerpo como una estructuraimperfecta cuando se le compara con las mquinas avanzadas. Comoacertadamente analiza T. Aguilar Garca 8(2008), la percepcin del cuerpo

humano en el siglo XXIes un reconocimiento de su estructura biolgica(eso s, imperfecta) frente a las concepciones mecanicistas cartesianas yhobbesianas que lo comparan a una mquina cuyas partes funcionan demodo perfecto y armnico. Hasta hace poco, la inferioridad que los humanosconstataban al comparar sus capacidades fsicas con las de los animales 9



5/29

se consideraban compensadas, cuando no superadas, al tener en cuentael raciocinio, la capacidad de pensar y la inteligencia que situaban alhombre claramente por encima del animal. Sin lugar a dudas, estas carac-tersticas han sido claves en la evolucin de los humanos.

Aun as, ese triunfo de la razn del hombre sobre la anatoma y fisiologade los animales deja de serlo cuando se compara con las facultades de lasmquinas binicas, los ordenadores y los robots que ya estn entre noso-tros. A pesar de ello, lo que tampoco es objeto de duda es que el sistemade reproduccin de los seres vivos es ms eficiente y fcil, adems de sermenos costoso energticamente, que la reproduccin de las mquinas.Como actualmente ya no podemos argir que nuestra inteligencia essuperior a las de las mquinas, y aunque nuestras capacidades operativasy sensoriales actuales son suficientes para un vivir actual, el hombre quiereconvertirse en el cyborg que ane todas las propiedades de las mquinas,de las que por otro lado ha sido su creador.

Las acciones de los humanos, sus ideas y su filosofa, estn determina-das por nuestra fisiologa. Es sta la que establece los lmites al lenguaje yal pensamiento, y por tanto la filosofa surge de la fisiologa, se enraza enella y en ella estn sus lmites. No debe, pues, sorprendernos propuestasdel estilo de la de George Northoff 10, que combina conceptos filosficoscomo conciencia y libre albedro con datos empricos de la neurociencia yla praxis psiquitrica. Con estos nuevos planteamientos podemos analizarde manera diferente y novedosa las vivencias, el proceso de reflexin y laevolucin del pensamiento. Una vez que el humano es consciente de suobsolescencia o limitacin biolgica, su mente se lanza a analizar y consi-

derar su propia necesidad de mejorar, de imaginar y de redisear sulimitada o deficiente anatoma para proponerse ajustarla o ampliarla conel objetivo de adaptarse (biolgica y culturalmente) a su conocimientoprogresivo del mundo.

Daniel Lpez Salort en su artculo Cyberontologa, posthumanismociberntico y constitucin del ltimo hombre 11, denomina Homo cyberne-ticusa lo que nosotros denominamos cyborgu hombre aumentado. En suanlisis de esta diferente manera de ser de los humanos dice:

La vida del Homo cyberneticusse despliega en un doble espacio: por un lado larealidad fsica de siempre por el otro la realidad digital (la que abarca la realidadvirtual y va incluso ms all de esta). Este habitar en dos direcciones segmentay disecciona al Homocyberneticus: la ciudad moderna de la sociedad industrialcoexiste con la ciudad virtual sociedad postindustrial y ciberntica.

Este vivir como cyborghace que el individuo pertenezca cada vez ms aesa comunidad ciberntica y, por tanto, lo desindividualiza y lo aleja desu comunidad original progresivamente. Esta permanente autoconstruc-cin o aumentacin nos confiere un doble estatus o ciudadana al mismo



6/29

tiempo: la moderna y la ciberntica. Como acertadamente reflexionaTeresa Aguilar Garca 12:

la consideracin del cuerpo como un objeto, al contrario que suponer unadegradacin en su estatus, al analizar el cuerpo desde un punto de vistacientfico, constituye una mejora y aceleracin de su estado de evolucin a lacual debe tenderse por imperativo evolutivo. En este sentido, el cuerpo huma-no es una obra inacabada desde el punto de vista evolutivo, y la propiaactividad de la evolucin se sobre impone al individuo como forma de mejoracontinua, un proceso inevitable que dicta sus propias normas.

Ciertamente, la gentica evolutiva demuestra continuamente que la evo-lucin es un proceso continuo y al mismo tiempo inacabado. Ms adelante13

la pensadora seala: La limitacin de los lmites es lo que se pone enjuego una vez que se ha cuestionado la capacidad del cuerpo como entemquina o como estructura funcional.

Desde nuestra perspectiva, las limitaciones a los lmites pueden ser dedos tipos que actan ineludiblemente interrelacionados: los tecnocientfi-cos y la propia capacidad de pensar en nuestros fines. Es precisamente enesa capacidad para pensar en nuestros fines donde los humanos tendrnsiempre su bastin inamovible de humanidad ante la tecnociencia.

Ya en el ao 1956, la aportacin filosfica de Gnther Anders con sulibro La obsolescencia del ser humano(Anders 2011), obra que no slo no estanticuada sino que es ms actual y pertinente que cuando se escribi, dicepoco en favor de la calidad de la situacin del mundo y del hombre objetode sus anlisis. De hecho, tras la lectura de su obra nos encontramos ante

un pronstico construido desde el pasado, que se convierte en un diag-nstico de la situacin presente. Los dos volmenes que componen Laobsolescencia constituyen, segn palabras de su autor,

una antropologa filosfica en la poca de la tecnocracia, entendida sta comoel hecho de que el mundo, en que hoy vivimos y que se encuentra por encimade nosotros, es un mundo tcnico, hasta el punto de que ya no nos estpermitido decir que, en nuestra situacin histrica, se da entre otras cosastambin la tcnica, sino que ms bien tenemos que decir que, ahora, la historiase juega en la situacin del mundo denominada tcnica y, por tanto, la tcnicase ha convertido en la actualidad en el sujeto de la historia, con la que nosotrosslo somos an cohistricos.

El libro trata de las transformaciones que han sufrido y siguen sufriendolos hombres en cuanto individuos y como humanidad. Estas transforma-ciones afectan nuestras actividades y pasividades, al trabajo y al tiempolibre, a nuestras relaciones intersubjetivas y a nuestras categoras sociales.



7/29

Hoy, quien todava proclame la transformabilidad del hombre es unafigura del ayer, pues ya estamos transformados. Gnther Anders dice:

Se ha dicho de mi descripcin del hombre contemporneo que es unilateral,pues se limita a situaciones y actos de consumo, especialmente a la situacinde la radio y la televisin. Este reproche pasa por alto lo principal de mi teora,porque mi tesis se refiere a que casi todas las ocupaciones del hombre se hanhecho dependientes de las ocupaciones de consumo o se han transformado entales. Hoy ya no vale que el consumo irrumpa de vez en cuando nuestraexistencia de no consumo, sino al contrario, que raras veces emerjan actos deno consumo dentro de nuestro continuum consumista 14.

El ser humano no puede evitar que su muerte biolgica implique el renacer

de su materia constituyente. Inexorablemente, todos sus componentesbiolgicos acaban por perder su correcta funcionalidad para finalmentemorir y degradarse, y pasar a formar parte del mundo no vivo. Sin embargo,su materia no desaparece con la muerte biolgica, sino que se perpeta enlos ciclos de la naturaleza para volver a formar parte de otros seres vivosy con ello volver a constituir materia viva15. Pero estos nuevos elementosreciclados de manera natural no constituir otra vez el yo particularhumano que haba existido. Quizs en un futuro hipottico se podratrasladar nuestra mente desde nuestro soporte neuronal (con fecha decaducidad) a uno ciberntico. Nuestro yo, siendo nosotros mismos (contodas nuestras capacidades intelectuales intactas), sera capaz de sobrevi-vir en un soporte no biolgico. Nuestra personalidad particular podraperpetuarse de este modo y utilizar los perifricos del ordenador en su

sentido ms amplio para expresarnos (voz, imagen, etc.), desplazarnos(pseudocuerpo antropomorfo), y dems. Sera el grado mximo de cybo-rizacin: el ltimo elemento humano no es el cerebro, sino nuestro inte-lecto singular. Sera una prolongacin de nuestra existencia ms all de lacaducidad de nuestro cuerpo. A veces se ha comentado que al escribir unlibro uno se inmortaliza y que el libro, cuando es ledo, hace revivir a suautor. Aunque al escribir un libro no me inmortalizo (ni mi yo ni mimanera de pensar), s que me inmortalizo en cierta manera si mi manerade ser y pensar puede sobrevivir al transferirse del soporte neuronal a unociberntico. De todas maneras es una inmortalidad ilusoria, pues unaavera, un accidente, o algo as, acabaran con esta extensin de la vida.

3. POSTHUMANISMO Y TRANSHUMANISMO (O HUMANIDAD +)Desde la filosofa contempornea, hay pensadores que ven en la tecnolo-ga el medio para mejorar al ser humano y consideran que dicha mejoraconstituye un derecho. Los defensores de estos planteamientos estn



8/29

formalmente representados por el movimiento transhumanista 16, organi-zados a nivel global en la Asociacin Transhumanista Mundial 17, fundadapor los filsofos Nick Bostrom y David Pearce. Desde este grupo se postulael derecho de los individuos a desarrollar y lograr que estn disponibleslas tecnologas que permitan aumentar las capacidades fsicas, intelectua-les y psicolgicas de los seres humanos. Tambin existe Humanidad + quees una organizacin internacional sin nimo de lucro que defiende el usotico de la tecnologa para expandir las capacidades humanas. Apoyan eldesarrollo y acceso a las nuevas tecnologas que capaciten a los humanosa disfrutar de una vida mejor a travs de su intelecto y su cuerpo.

Pablo Stafforini 18, de la Universidad de Oxford, que se autoidentificacon el transhumanismo democrtico, argumenta que la naturaleza delhombre va a cambiar gracias al desarrollo tecnolgico, siendo el objetivola evolucin hacia el hombre posthumano. Aunque ha sido atacado, tantopor utpico como por sus principios ticos, debe decirse que muchascrticas le llegan de los llamados bioconservadores, que bsicamenteconsideran a las capacidades humanas como una especie de don y queen tal caso los humanos no deberan recurrir a la tecnologa para modifi-carlas. Por nuestra parte y ante el estado de las cosas, consideramosirrelevante la discusin entre lo que es natural o artificial (o construido porel ser humano), puesto que se hace difcil contemplar como artificial todolo que hace el ser humano, que a priories un ser natural, al menos en susestadios previos a las posibles aumentaciones.

Estos planteamientos se sitan en la lnea de lo que ha sido denominadola inteligencia humanista aumentada, inicialmente propuesta por Steve

Mann19

y que se define como la que surge del ser humano cuando seintegra en un proceso computacional a travs de un ordenador al que estinextricablemente conectado. Es decir, se supera la habitual concepcin deque el humano y el ordenador son entidades completamente separadas.En contraposicin, la teora de la inteligencia humanstica supone que elordenador conectado al ser humano actuara 20 como un segundo cerebrocon todas sus capacidades sensoriales, que se fusionara al humano. Elordenador utilizara la mente, e incluso el cuerpo humano, como uno desus perifricos, y del mismo modo el humano usara el ordenador comoun perifrico propio. En este sentido, la expresin inteligencia humanis-ta podra tambin haberse denominado inteligencia ampliada o aumen-tada. De hecho, la aumentacin de la inteligencia a travs de sistemascomputacionales que hasta la fecha son externos a la anatoma humana,

tendra el mismo valor filosfico que el que en su momento tuvieron lalectoescritura y los sistemas de clculo manuales, y que no dejan de sermeras extensiones del yo.



9/29

4. EL DILEMA DE CURAR VERSUSMEJORARLo que por nuestra parte s que creemos absolutamente relevante esdebatir si la medicina, la biotecnologa y la binica deben restringirse aofrecer tratamiento (o cura) a la enfermedad y a las patologas o si, por elcontrario, es lcito (y posiblemente un derecho) que se utilicen para mejo-rar y optimizar la funcionalidad y capacidades de los humanos en el msamplio sentido de la palabra. Nuestra posicin es la de apoyar la aumen-tacin, puesto que ha sido y es un proceso caracterstico del hombre desdelos inicios de su antropognesis.

En el anlisis filosfico y en el debate social relativo a los procesos deaumentacin y cyborizacin (ver nota 7), una cuestin no menor es si esoscambios del cuerpo responden a una necesidad teraputica-clnica; esdecir, si lo que se hace es curar una lesin (o disminucin) o, por el

contrario, es una mejora del cuerpo que funciona de modo normal. Esteproblema, que se ha planteado desde diversos sectores (desde el mdicohasta el poltico y filosfico), presenta dificultades sustanciales cuandointentamos hacer una distincin entre cura y mejora (o aumentacin)desde el punto de vista de la medicina actual. Vemos difcil que en todoslos casos pueda establecerse una diferencia fundamental con respecto aqu se considera normal 21, por contraposicin a lo patolgico o enfermizoy, sobre todo, a nivel prctico no vemos cmo se podran establecercriterios claros y aplicables. En cualquier caso, parece que si la tecnologapermite incrementar el bienestar a las personas ms all de la simple cura,no tendra que haber lmites para que la ciudadana pudiese acceder amayores cotas de legtima felicidad. El dilema tico surgira cuando esaprestacin redujese el bienestar de otras personas o, simplemente, que laspersonas que no pudiesen acceder a esas mejoras o bienestar se sintiesenafectadas o conculcadas en sus derechos.

Daniela Cerqui 22adopta una mirada ms crtica sobre el transhumanis-mo y resalta la necesidad de:

pensar colectivamente qu queremos para nuestro futuro, porque actualmentehay slo una cuestin de grados entre nuestra medicina actual y el transhuma-nismo. Eso significa que necesitamos plantearnos lmites, pero el problema esque no hay consecuencias negativas en todo esto para quienes consideran alcuerpo slo como un recipiente.

Es decir, debemos recalcar y denunciar la banalidad tica de aquellos quehan abandonado el preguntarse y preguntar el por qu?, para plantearse

solamente el cmo? y el qu? Desde nuestra perspectiva, estamos con-vencidos de que la mayora de los humanos responderan que s a lapregunta: quisieran vivir cinco aos ms y de manera ms saludable?, locual es totalmente lgico y comprensible. Otra cosa muy diferente es elpreguntarse: por qu la gente quiere perfeccionar su cuerpo? Posible-



10/29

mente la respuesta ms simple y cierta es que quienes quieren perfeccionarsu cuerpo es porque no son felices con l o simplemente porque todosaspiramos a ms y a mejorar nuestra vida, sus condiciones materiales ycolmar nuestros deseos. Dicho de otro modo, ya sea por infelicidad osencillamente por insatisfaccin, el ser humano continuamente aspira ams y mejor. Esto es, la evolucin cultural del hombre se apoyara en latecnologa para conseguir sus aspiraciones de ser ms. Sin lugar a dudas,el mantener las condiciones fsicas y potenciar la capacidad mental sepresentan como deseos cruciales de los humanos desde tiempos inmemo-riales (Mestres 2011; Mestres y Vives-Rego 2012).

Debemos tener en cuenta que estamos hablando de un fenmeno y deunas opciones bastante nuevas, y en gran parte desconocidas en cuanto alas consecuencias y subconsecuencias (efectos directos o indirectos) quede ello pudiesen derivarse. Es as pues hasta hace poco no haba laposibilidad de plantearse objetivos de ese tipo, ms all de que desdemuchos mbitos se consideraba que el cuerpo estaba hecho a semejanzade Dios y por tanto no era mejorable. La valoracin tica de estas posibi-lidades slo puede hacerse cuando se conocen con un cierto detalle lasconsecuencias de esas mejoras o aumentaciones y los riesgos que puedanimplicar. Por el momento, sabemos que el deseo de aumentar nuestrascapacidades existe, pero todava es pronto para conocer todas las conse-cuencias y sus riesgos desde el punto de vista cientfico, lo que obviamentedificulta una valoracin tica responsable y consecuente.

Paula Sibilia 23en su libro El hombre postorgnico(2005), hace un repasode cmo fue cambiando la percepcin del cuerpo en la cultura occidental:

Si en la Edad Media la naturaleza era enigmtica y misteriosa, porque corres-ponda a un universo sacralizado y era compatible con un tipo de hombrecreado a imagen divina, a partir de los siglos XVI y XVII esa naturaleza tuvoque reconfigurarse y, respondiendo a los nuevos ritmos y exigencias de la eraindustrial, la naturaleza fue gradualmente desencantada y mecanizada. Perohaba una creencia en algo que se consideraba la naturaleza humana, ms allde cuyos lmites la tecnociencia no poda hacer demasiado. Pensemos en losmitos, desde Ddalo y Prometeo hasta Frankenstein, en todos esos casos lamoraleja estaba muy clara: las fuerzas humanas no eran todopoderosas, loshombres no podan inmiscuirse en todos los mbitos.

La evolucin del hombre creemos que se encaminar hacia un proceso decyborizacin por unin ms o menos ntima con un ordenador (Mestres

2011; Mestres y Vives-Rego 2012). Estas conexiones cerebro-ordenador nose pueden transmitir a la descendencia pues no tienen base gentica, loque implica que en cada generacin se debern realizar los implantes (oconexiones) con los ordenadores. Se tratara, por tanto, de una evolucincultural y no biolgica. Finalmente, podramos hipotetizar que el ltimo



11/29

nivel terico de esta evolucin, y que ya hemos comentado, sera quenuestro pensamiento migrase desde su soporte biolgico (neuronal) a unociberntico.

5. EL IGUALITARISMO SOCIAL ANTE LA CYBORIZACINAnte los planteamientos anteriores, surge inmediatamente la pregunta desi debera garantizarse que esas prestaciones fuesen accesibles a todos,sobre la base de la igualdad, como es el caso de las prestaciones sanitariasen pases altamente socializados. Este logro implicara que las sociedadesque diesen soporte a estos servicios tendran que destinar a ese objetivouna proporcin muy importante de sus recursos, lo que automticamenteimplicara o bien que esas prestaciones fuesen prohibitivas, o que para

prestarlas se desatendiesen otros derechos fundamentales, como la edu-cacin, alimentacin, infraestructuras, etc. Ms all de los escndalos,corruptelas, malversaciones y latrocinios financieros que hemos vivido enlos ltimos aos, parece fuera de dudas que las sociedades ricas y avanza-das deben reconocer lmites al desarrollo econmico y al nivel de lasprestaciones pblicas que puede disfrutar toda la ciudadana. Sin embar-go, de no aplicarse el igualitarismo y la universalidad de prestaciones dela tecnologa aplicada al mejoramiento humano, sucedera que slo lo serapara los ricos, con lo que automticamente se introducira un factor dedesigualdad social y entraramos en una nueva era caracterizada pornuevas clases sociales. Ello conllevara el riesgo de una nueva lucha entreesas nuevas clases sociales, que estarandelimitadas por las aumentacio-nes con el agravante de que seran infranqueables entre s.

El debate se hace ms complejo si se contempla el derecho a la excelenciade Hayek (1979), por el que se considera moralmente reprobable (ademsde poco inteligente e ineficaz socialmente) invertir los recursos educativospor igual entre todos los ciudadanos, dado que la naturaleza nos haceinteligentes de manera no homognea. Segn este principio, los msdotados tendran ms derecho a percibir los beneficios de la enseanzagratuita y de calidad, ya que de este modo los podran aprovechar mejory en consecuencia la sociedad saldra tambin ms beneficiada. En cambio,el destinar recursos a los menos dotados, implicara estar dilapidando esosrecursos y, en consecuencia, la sociedad o no avanzara o no podracompetir con las que practicasen el principio de la eficacia. Entendemosque el derecho a la excelencia de Hayek no es aplicable a los procesos de

cyborizacin por dos motivos bsicos. El primero es que la aumentacinde las capacidades fsicas e intelectuales de los individuos decididas conlibertad puede llegar a constituir un derecho del mismo rango que el dela enseanza y la sanidad. El segundo motivo es que una mejora de losindividuos ha de repercutir razonablemente en una mejora de la sociedad.



12/29

Aun as, estos dos argumentos no invalidan el hecho de que ni es inteli-gente socialmente, ni eficaz desde el punto de vista biolgico, destinar losrecursos disponibles sin tener en cuenta los beneficios que pueden alcan-zar los individuos y el conjunto de la sociedad, as como sus consecuenciasfuturas. A nuestro entender, este tipo de situaciones constituyen dilemasmorales de espinosa resolucin.

Hasta ahora la filosofa se consideraba que estaba producida y dependaexclusivamente de la mente, donde el cuerpo poco tena que ver con lareflexin, salvo en los casos de demencia o discapacitacin profunda. Encambio, ahora que podemos potenciar nuestro cuerpo y pensar ms ymejor a la carta, no ser el momento de empezar a proclamar que lafilosofa es un producto de nuestro cuerpo y que, en la medida quemodificamos (aumentamos) nuestro cuerpo-cerebro, la filosofa es cadavez ms dependiente del cuerpo y sus aumentaciones?

6. LA INTELIGENCIA ARTIFICIAL Y LOS ROBOTS AVANZADOSEn el verano de 1956, el concepto de inteligencia artificial adquiri formadurante la Conferencia de Dartmouth, celebrada en las instalaciones delDartmouth College en Hanover, New Hampshire. Su organizador fue elmatemtico e informtico John McCarthy. Reuni a un grupo del queformaban parte Marvin L. Minsky (Harvard University), Nathaniel Ro-chester (IBMCorporation) y Claude E. Shannon (Bell Telephone Labora-tories). A lo largo de dos meses, Dartmouth acogi a un selecto grupo deinvestigadores que defini las directrices y lneas de actuacin futuras enel mbito de la inteligencia artificial, tomando como hiptesis de trabajola siguiente proposicin: Todo aspecto de aprendizaje o cualquier otracaracterstica de inteligencia puede ser definido de forma tan precisa quepuede construirse una mquina para simularlo. Esta hiptesis sera pos-teriormente conocida como hiptesis del sistema de smbolos fsicos. Enla Conferencia de Dartmouth tambin se sentaron las bases de una apro-ximacin al ser humano que, a diferencia de la psicologa y de la filosofa,centra su estudio en la inteligencia pura. Segn John McCarthy, la inteli-gencia es la capacidad que tiene el ser humano de adaptarse eficazmenteal cambio de circunstancias mediante el uso de informacin sobre esoscambios. A partir de esta premisa, se han desarrollado diferentes proyec-tos como: i) la creacin de mquinas con capacidad de realizar funcionesque realizadas por personas requieren inteligencia; ii) el estudio de cmo

lograr que las computadoras realicen tareas que, por el momento, loshumanos hacen mejor; iii) la automatizacin de la conducta inteligente;iv) la explicacin y emulacin de la conducta inteligente en funcin deprocesos computacionales.



13/29

Ahora bien, antes de la Conferencia de Dartmouth, la literatura, el cinede ciencia ficcin y el teatro ya haban esbozado gran parte de estosconceptos terico-prcticos. La figura del robot, ms all de su antropo-morfismo y de su condicin de siervo o esclavo del hombre, se caracterizapor su progresiva transformacin en un ente inteligente y capaz de desa-rrollar sentimientos humanos complejos. Desde hace aos, la competen-cia, las luchas y las relaciones emocionales entre humanos y robotsinteligentes han sido objeto de numerosos filmes y obras de teatro. Deentre los filmes ms recientes hay que destacar dos. Eva, de Kike Maillo(2011), en el que aparecen un gato robot-libre, un criado con nivelesemocionales muy altos y nios robot. En la segunda, AI: Artificial Intelli-gence,de Steven Spilberg (2011), se desarrolla una historia futurista entorno a un nio robot dispuesto a romper el mito de que las mquinas notienen sentimientos 24. Estas obras nos llevan a plantearnos una pregunta,que ya se formul hace dcadas, que de ningn modo se puede considerartrivial ni social ni filosficamente hablando: Qu responsabilidad tieneun ser humano frente a un robot que expresa emociones como las nuestrasy est lealmente dedicado a nuestro servicio? Al intentar dar respuesta aesa pregunta, nos encontramos con la necesidad de plantear y analizarnuestras carencias emocionales, los significados filosficos de la robotiza-cin de la sociedad, la decadencia de los valores familiares y, desde luego,la conversin del individuo en producto comercial. An ms, el film deSpielberg profundiza en temas ms novedosos, como son el uso de lainteligencia emocional como forma de interactuar con el mundo que tienemuy en cuenta los sentimientos y engloba capacidades tales como el

control de los impulsos, la autoconciencia, la motivacin, el entusiasmo, laperseverancia, la empata, la agilidad mental, sin dejar de lado aspectosdel carcter, como la autodisciplina, la compasin o el altruismo. Encualquier caso, Raymond Kurzweil 25predice que un ordenador pasar eltestde Turing 26hacia el 2029, es decir, que demostrar tener una inteli-gencia, conciencia de s mismo y riqueza emocional difcilmente distingui-ble de la de un ser humano.

Por ltimo, destaquemos que el teatro, y de manera muy especial elteatro japons reciente, ha llevado al pblico con xito numerosas obrasen las que el robot es uno de los protagonistas. Inicialmente, el robot erainterpretado por un actor humano que se disfrazaba de robot, pero lti-mamente, dicho personaje lo escenifica un robot autntico, que ademstiene la apariencia de un actor japons conocido por el gran pblico. El

teatro japons con robots como personajes centrales contribuye de estemodo a la reflexin y aceptabilidad de la robtica como un importanteelemento en la sociedad del futuro 27.



14/29

7. SE PUEDE CONSIDERAR PERSONAS A LOS ROBOTS?Peter Singer en su obra Practical Ethicshace un lcido anlisis sobre siconstituira una excentricidad llamar persona a un animal no humano 28.Dado que ya ha quedado fuera de toda duda la capacidad de comunicarsede los animales no humanos, Singer sita el debate en los atributos quenos inclinan a considerar a un determinado individuo como persona, quebsicamente son la racionalidad, la autoconciencia de considerarse unaentidad distinta a los dems individuos, y el saberse poseedor de unpasado y un futuro.

Si atendemos a las consideraciones previas de este artculo, dondedefinimos a los humanos, desde los inicios de los procesos de antropog-nesis, como cyborgs (en el sentido de humano mejorado o aumentado) novemos ningn argumento de tipo biolgico ni filosfico para dejar de

considerar a los cyborgspersonas humanas. Sin embargo, la pregunta quesurge es: a partir de qu momento un cyborgdejara de ser humano? Anuestro entender, el ltimo elemento en el que se puede basar la humani-dad del cyborges el sistema nervioso central y en particular el cerebro.Mientras el cerebro, y con ello la mente humana con todas sus capacidadescognitivas y de conducta, no fuese sustituida por entidades binicas orobotizadas, entendemos que el cyborg no dejara de ser una personahumana. Cuando ese individuo ya no estuviese constituido por ningnelemento vivo y orgnico de origen humano, constituira un objeto califi-cable de robot. Otro aspecto es el relativo a los cyborgs, cuyo sistemanervioso central se hubiese generado a travs de un proceso de cultivo desistemas nerviosos (originariamente humanos) en el laboratorio. En talcaso, tampoco encontramos argumentos que nos inclinen a pensar que esesistema nervioso fuese sustancialmente diferente al de un humano nacidode un proceso uterino. Con todo, el ente hipottico, descrito en seccionesprevias de este trabajo, constituido por el pensamiento de un humanotransportado desde el soporte neuronal al ciberntico formara una cate-gora difcil de definir y de clasificar.

El anlisis filosfico de si un robot humanoide avanzado puede consi-derarse o no una persona o un ser humano, creemos que va a ser objetode debate social y poltico. A tal efecto, definir el concepto de persona yser humano constituye un primer e imprescindible paso. Si el concepto depersona va indisolublemente ligado al de tener alma, el debate discurri-ra en el campo de la religin y la teologa, cosa que cae fuera de nuestroobjetivo. Por ello, entendemos que deberamos centrar la definicin de

persona usando trminos ms seculares, y como hemos dicho al principiodel prrafo, consideramos crucial el trmino conciencia como elementoespecfico de los animales humanos y que por definicin estara ausenteen las mquinas. El trmino persona adquiere sentido social en cuanto acomponente de una comunidad, es decir, el significado de persona como



15/29

atributo o asignacin dada a nuestros progenitores, familiares y a todoslos miembros de nuestra comunidad que tiene lugar tras el nacimiento.Un robot avanzado con inteligencia y capacidad de incorporar sentimien-tos y hacer valoraciones humanas podra ser considerado una persona,puesto que, en ese sentido, sera un componente de nuestra comunidadde humanos, tendra su aspecto, se comportara como tal y, con seguridadestableceramos relaciones de afectos y sentimientos como los que existendesde hace siglos entre los humanos y los animales, y de manera muyparticular con las mascotas que hemos adoptado. Otra cosa muy diferentesera considerarlos humanos, puesto que careceran de sus componentesen contraposicin a lo que sucede con los cyborgs. La principal diferenciaentre los humanos y estos robots radicara en su constitucin material, eindudablemente estn destinados a formar parte de nuestras comunida-des humanas en el prximo futuro, como ha sucedido con los utensiliossofisticados que hemos desarrollado (enseres, electrodomsticos, ordena-dores y vehculos de uso personal). Ser humano es una categora caracte-rizada biolgicamente por unos genes que obviamente no poseen losrobots. El material gentico es fundamental porque permite la adaptacinde las especies a su entorno. Adems, debemos reiterar otra vez que elproceso reproductivo es extremadamente ms eficiente en los seres vivosy, por tanto, en los humanos, respecto a los robots (Mestres y Vives-Rego2011).

El robot se ha diseado y producido dentro de una comunidad humanapara responder a necesidades humanas. El robot inteligente aprende dela comunidad humana del mismo modo que los humanos aprenden de

ella. Inevitablemente, a partir de la existencia de poblaciones mixtas dehumanos y robots, tanto los unos como los otros estarn aprendiendo yacomodndose entre s, a partir de las situaciones que se desarrollen comorealidades cotidianas en las comunidades. La historia nos ensea que loshumanos hemos asignado el atributo de persona a los miembros prxi-mos de nuestra comunidad, excluyendo a otros congneres, como sucedidurante la colonizacin americana de los espaoles que negaron el atribu-to de persona a los nativos indios, llegando a negar incluso que tuviesenalma. De hecho, el asignar el atributo de persona a nuestros congneresdepende en gran medida de compartir un mismo espacio, interaccionarmutuamente, crear relaciones y construir relatos entre nosotros. Sin duda,hoy da nadie se va a atrever a negar el ser persona a los humanos queviven a miles de kilmetros de distancia. Aun as, no es menos cierto que

esa distancia y esa falta de contacto conllevan automticamente quenuestros afectos y sentimientos hacia esos humanos distantes y descono-cidos sean sustancialmente menores, o al menos diferentes, de los quesentimos por el perro o gato que forma parte de nuestras vidas desde haceaos. Lo que nos hace humanos es que nuestro cuerpo y nuestra entidad



16/29

est socialmente conectada a otros seres humanos, y esa conexin impreg-na el mundo y la sociedad en que vivimos. En la medida en que el robotaumente su presencia en nuestra comunidad (es decir, nos aporte ayuday servicios cada vez ms valiosos para nosotros), nuestras interaccionessern ms frecuentes y necesarias, y el nmero de ciudadanos que losconsideren como personas ir seguramente en aumento. Por supuesto, unrobot nunca ser una persona humana, pero difcilmente podremos evitarque los humanos que convivan con ellas los traten como tratan a suscongneres humanos. Tambin parece obvio que los humanos que notraten con robots humanoides ni siquiera los consideren individuos conentidad propia, del mismo modo que los racistas no consideran ni igualesni a veces personas a los humanos de otras culturas o estratos sociales.

En tica, uno de los tres conceptos centrales es el de ser persona (juntocon los conceptos de deber y de valor). El hombre tiene una particularposicin de mediador entre los valores y la persona, y es el sujeto portadorde valores y disvalores morales asociados a sus actos, es decir, a suconducta. La persona no es algo que antecede o precede a sus actos, sinoque est contenida en ellos, siempre est contenida en sus actos y no puedeser separable de ellos. Por lo tanto, la persona se caracteriza por sus actosen tanto que fenmenos ticos. Es por ello que no podemos eludir losplanteamientos ticos cuando nos preguntamos sobre si los robots han deser considerados como personas o no, puesto que al hacerlo nos estamosinterrogando sobre si la conducta de los robots humanoides puede llegara ser o no tica. Precisamente es aqu donde surge el problema. Si laspersonas lo son en funcin de los actos que llevan a cabo, cuando un robot

humanoide ejecuta actos y se comporta como humano y discierne entrevalores y disvalores, por qu motivos no habramos de considerar ytratarlo como personas? Obviamente tambin surge la pregunta de sicomportarse como persona implica ser persona. En definitiva, todo elposible debate sobre si los robots pueden o no ser personas, y las conse-cuencias que de ello se derivasen podran ser indiferentes e intrascenden-tes para la tica si no se nutriera y basase en ella misma. Es decir, el nicoproblema en asumir que los robots son personas o sean consideradospersonas por los humanos es que automticamente se les asignarancapacidades ticas, y seran por tanto individuos con libertad y moral enel ms puro sentido kantiano.

Es a partir de John Locke que se intenta explicitar la identidad personalcon las preocupaciones ticas. En la actualidad, existen tres criterios para

determinar la personalidad: el psicolgico, el biolgico y la teora narrativaidentitaria. No es el propsito de este artculo ahondar en ellas, peroqueremos considerarlas en cuanto a su posible aplicabilidad en el debatede si los robots pueden o no llegar a considerarse personas. Dado que lateora psicolgica (posiblemente la ms popular) se fundamenta en la



17/29

memoria regular basada en la experiencia y considerando las capacidadesmemorsticas y de aprendizaje de la memoria artificial, con este criteriodifcilmente podramos excluir a los robots de seres con identidad perso-nal. El criterio biolgico ya ha sido comentado en lneas anteriores y atravs de l tendramos que excluir a los robots como seres con identidadpersonal. Finalmente, la teora de la identidad narrativa o, dicho de otramanera, una entidad capaz de autoexplicarse su propia historia comoelemento nacido de su experiencia, podra incluir o no a los robots dentrode los seres con identidad personal, en funcin de sus capacidades deaprendizaje y nivel deductivo.

Por otra parte, consideramos excesivamente simplista la actitud fcil ymayoritaria de negar que los robots sean (o pudiesen llegar a ser) personasy que careceran de capacidades para discernir valores y establecer unamoral propia. Nosotros proponemos una posicin intermedia postulandoque del mismo modo que los pueblos, el Estado e, in extremis,la humani-dad no son portadores de valores ticos en el sentido primario del hombre,aunque s que lo son secundariamente y slo a travs del hombre, losrobots deberan (y llegaran a ser) personas (no humanas) secundariamen-te y en esa medida estaran dotados de moral y valores propios 29. En cambio,otro tema distinto es el analizar si esos robots con aspecto y comportamien-to altamente humano puedan ser considerados seres vivos. Desde unaperspectiva filosfica, nos encontraramos ante el dilema de cmo clasifi-car a un robot que se comporta y tiene un aspecto externo que puede seridntico al humano, pero que a pesar de ello nos resistimos a reconocer suestatus de ser vivo. A nuestro entender, esa pregunta no es pertinente ya

que desde la perspectiva de la biologa obviamente no lo son por diferentesmotivos. Desde el punto de vista filogentico (reconstruccin de la historiaevolutiva de los organismos), los robots son hurfanos al carecer deantepasados, ya que son producto directo del hombre. Segn nuestravisin tradicional, no los consideraramos seres emparentados con noso-tros puesto que no son carne de mi carne, ni sangre de mi sangre. Loshabremos fabricado pero no los consideraremos de los nuestros, aunqueno es menos cierto que el artista y el creador de mquinas de reconocidoxito, consideran a sus creaciones como suyas, llegando a establecervnculos emocionales especiales.

Tambin podemos explorar si los robots cumplen una serie de caracte-rsticas propias de los seres vivos, las que podemos encontrar en los librosde biologa general de nivel universitario (Sadava, et al. 2008; Solomon, et

al. 2008). En general se acepta que un ser vivo cumple algunos de lossiguientes requisitos: estar formado por clulas; tener un desarrollo ycrecimiento continuos; controlar su medio interno mediante el metabo-lismo; responder a estmulos e interaccionar unos con otros; reproducirsey evolucionar en el sentido de que sus poblaciones pudiesen adaptarse a



18/29

los cambios del ambiente. Un robot humanoide avanzado cumple conalgunos de estos criterios. Por ejemplo, puede controlar su medio interno(circuitos integrados), responde a estmulos externos, se relaciona conotros individuos, e incluso podra reproducirse sin intervencin humana,del mismo modo que actualmente los robots trabajan en las cadenas demontaje de las factoras. Es evidente que no se tratara de un ser orgnico,que su reproduccin no sera tan eficiente como la de los seres vivos, y quecarecera de potencial adaptativo (y evolutivo) al carecer de genes. Aten-diendo a los criterios expuestos, un robot podra ser considerado comouna cierta forma de vida no orgnica. Nuestra intuicin nos lleva a consi-derarlos como entes con vida propia y a tratarlos como si fuesen seresvivos. Las distinciones que los humanos hacemos entre seres inanimadosy animados ya conlleva el reconocimiento de que unos tienen una almay otros no la tienen, con independencia del estatus biolgico que lesatribuyamos, aunque obviamente, no conferimos el estatus de humanos atodos los seres animados o vivos.

Desde una perspectiva estrictamente filosfica y liberndonos de losprejuicios biolgicos que puedan originarse, la pregunta clave es: Sernlos robots algn da tan complejos que los lleguemos a tratar como perso-nas, aunque estemos convencidos de que no lo sean? Y, en tal caso, enqu fundamentaremos nuestra adscripcin de persona? Llegar el mo-mento en que ya no seamos capaces ni siquiera de desconectarlos (equi-valente a matarlos) debido a los vnculos emocionales que hayamosestablecidos (ms all de lo imprescindible que nos sean o lleguen a ser),como sucede con nuestros animales domsticos o de compaa? Actual-

mente, el ciudadano de Japn ya puede ver con relativa frecuencia robotshumanoides que ayudan a personas de edad en su vida cotidiana, o endramatizaciones imitando a personas y, lo que es todava ms interesante,en representaciones donde los robots ya interpretan el papel de un roboten la sociedad venidera (ver nota 27). La proliferacin de robots humanoi-des en nuestra vida cotidiana, que mimetizaran los movimientos, expre-siones, emociones y reacciones de los humanos generar sin lugar a dudassorpresas, confusiones y reacciones emocionales difciles de prever. Suimpacto no ser menor ni trivial, por la simple razn de que tenemos unacapacidad innata de pensar que quien as se presenta, reacciona y hablaes poseedor de un cuerpo aparentemente como el nuestro (pero que no loes en cuanto a sus componentes internos) y tenderemos a tratarlo como aun ser humano, en tanto que el ser humano siempre ha tenido y tiene un

anclaje ms slido en el mundo fsico que en el abstracto.Sin embargo, es posible que a los robots los consideremos como inferio-res, pues provienen de una fabricacin humana. No pertenecen a unaespecie biolgica ni forman parte de la evolucin de los seres vivos. Sonseres transespecficos con un cuerpo inorgnico/orgnico que mimetiza



19/29

el nuestro, sin genes que permitan una evolucin biolgica, con unascapacidades mentales heredadas de los humanos, y que cibernticamentepueden crecer hasta lmites impensables. Quizs algn da querrn rom-per los vnculos con los humanos, pues se creern mejores que nosotros ycon posibilidades de vida independiente. En este punto, desobedecernconscientemente las leyes de la robtica 30y pelearn por exterminar a loshumanos? Esta situacin es una constante en el imaginario social y desdedcadas ha sido tratada en muchas obras literarias, y en producciones decine (por ejemplo, en 2001. A Space Odyssey,de S. Kubrick) y televisin(algunos episodios la serie Star Trektratan dicho tema). Aunque el robotnace para ser un sirviente y esclavo del humano, la enorme dependenciade los robots que desarrollarn los humanos nos pueden llevar a quedevengamos parsitos suyos, es decir, que nuestra vida, nuestro obrar ynuestra manera de ser en el mundo slo pueda darse en un entornoplagado de robots, sin los cuales nuestra vida desaparecer y no tendrsentido, de modo parecido a como en la actualidad el hombre depende ensu totalidad de la tecnociencia.

En los albores del siglo XXI, las siguientes preguntas parecen inevitables.Tiene sentido hablar de moral 31 y, luego, de la posibilidad de evolucinmoral en los robots? Y, en el caso de responder afirmativamente a esapregunta, evolucionara la moral de los robots de modo similar o diferen-te a como hemos observado que evoluciona la moral en los humanos?Obviamente, estas y otras preguntas similares carecen de respuesta factualen la actualidad, pero dada la rapidez de los avances de la robtica,consideramos pertinente desde el punto de vista filosfico dedicar tiempo

y esfuerzos a la reflexin de estos temas. De hecho, las tres leyes de larobtica de Asimov 30son principios morales especficos para los robots,comparables a los Diez Mandamientos de la Ley de Dios, honrars a tupadre y a tu madre, no matars, y los otros. Una diferencia sustancialsera que han sido pensados, diseados y llevados a la prctica por loshumanos, que de este modo asumiran el comportamiento de diosestodopoderosos (al menos respecto a los robots). Eso s, tales leyes moralesestaran disfrazados de instrucciones para un manual, aspecto ste no tandiferente a la Tabla que contena, segn las escrituras, el Declogo deMoiss. Lo que parece hoy por hoy evidente es que los robots no tendrnresponsabilidad moral y que sta recaer sobre los humanos que los handiseado, fabricado, programado y los utilizan, ya que, en cualquier caso,los grados de libertad del robot dependern de sus programadores y los

humanos que los utilicen. La consideracin del robot como esclavo conciertos grados de libertad, puede resultar contradictoria puesto que en esosgrados de libertad reside la calidad de la prestacin de servicios. Sin embargo,a mayor libertad menor esclavitud, y con ello ms probabilidades deconfrontacin tanto emocional como de intereses entre robots y humanos.



20/29

Las crticas contra la inteligencia artificial y los robots humanoides semanifiestan diciendo que carece de alma, cuando provienen del sectorreligiosos, y si provienen del sector secular que carecen de conciencia,lo que nos lleva a pensar que finalmente estos dos trminos (alma yconciencia) son el elemento comn y equivalente a los ojos de los crticosde ambos sectores. Para ellos, los humanos tienen algo especial, que esdistinto de las mquinas, y que ese algo es tambin diferente de losanimales. Ahora bien, en la Biblia hebraica, lo que ha sido traducido poralma es el trmino nefesh, que no es algo que tenemos sino ms bien algoen lo que participamos. Ms all de las disquisiciones semnticas referi-das a la Biblia (en las que ni queremos ni somos competentes para entrar),este significado del trmino hebraico nefeshpodra indicar no tanto tenerun alma, como participar en una comunidad. En este sentido, un robothumanoide y, de modo especial, el robot capaz de sentir y expresaremociones, podra ser considerado como una persona dado que participaen una comunidad humana e incluso tiene unas funciones humanas enesa comunidad. A nuestro entender, los robots no son humanos, puestoque son mquinas, aunque s que pueden considerarse personas ya queforman (o formarn) parte de nuestras comunidades y tendrn atribucio-nes humanas.

Aunque asumamos que todos los humanos son personas, cada uno denosotros considera especficamente personas nicamente a aquellas conlas que tenemos un trato emocional directo. Para cada uno de nosotros,definimos ser persona, emocionalmente hablando, como aquellos indi-viduos que comparten con nosotros un espacio fsico, interaccionamos con

ellos y creamos historicidades y vnculos emocionales conjuntos. Los quese niegan a dar el trato de personas a los robots, a menudo arguyen quelos humanos somos algo ms que mquinas. Sin embargo, esta declaracinno contempla que lo que nos hace verdaderamente humanos es queestamos conectados y embebidos en una comunidad social, cosa quetambin tenemos en comn con los robots. Un robot puede tener almao conciencia si definimos a esos trminos no como algo que nos haceespeciales y con una esencia nica, sino como en el sentido de las escriturashebraicas, por las que no se trata de elementos independientes del cuerpo,sino como algo que nace y emerge de nuestras interacciones con los dems.

8. REFLEXIONES Y PERSPECTIVAS DE FUTURO

Si la idea de partida es que a travs y en conjuncin con la tecnociencia esposible que construyamos la identidad, las capacidades, e incluso la sexua-lidad que a cada uno guste o desee, la pregunta relevante es: Por ququeremos esa construccin, esa nueva entidad? Si no nos planteamos esapregunta y simplemente nos cuestionamos: Qu podemos hacer? y, cmo



21/29

podemos hacerlo?, estamos incurriendo en una banalizacin cuando noen un atentado a la entidad humana. Del mismo modo que para Marx eltrabajo es la respuesta prctica del ser humano a sus dficits naturales, ymuy a pesar de que ese proceso sea interferido por los condicionantessociales, es decir, la alienacin, la tecnociencia en el siglo XXIes una opciny actuacin equivalente al trabajo. Los condicionantes sociales de ordentecnocientfico influyen en el cuerpo y en la manera de pensar del humanoy, a travs de esto, en el desarrollo de las instituciones y de la sociedad ensu conjunto. Siempre ha habido y hay grupos humanos antagonistas y eseha sido el origen de las clases sociales. Lo que ahora queremos plantear esen qu medida las opciones que ofrecen las aumentaciones tecnocientfi-cas al hombre pueden generar o no nuevas clases sociales. En cualquiercaso, la presencia cada vez ms amplia de procesos de aumentacin en loshumanos y la emergencia de robots humanoides va probablemente agenerar nuevas clases sociales y antagonismos nuevos.

Con las aumentaciones binicas o tecnocientficas nos convertimos enotro yo, diferente al que ramos, quizs ms prximo al que sobamosser, con posibilidades y opciones cada vez mayores que nos hacen percibiral hombre natural como algo obsoleto, algo que queremos dejar atrs. Deeste modo, la tecnociencia en el siglo XXI se convierte en una fuerza motrizcrucial en el proceso de antropognesis del hombre posmoderno. Antetales situaciones, la pregunta, cuando no la reflexin que se hace obligato-ria es: Por qu queremos ser otra cosa de lo que somos? Por ququeremos construir una individualidad diferente y aumentada? No seracaso porque estamos o nos sentirnos insatisfechos con nuestra individua-

lidad? O acaso el porqu se reduce a que aspiramos a aumentar nuestroyo para conseguir otros fines, o ponernos por encima de los dems osimplemente olvidar nuestra dimensin natural que ya consideramosobsoleta. Por qu estamos insatisfechos con nuestro cuerpo? Qu es loque nos arrastra irremisiblemente a la aumentacin? Qu es lo que hahecho desaparecer nuestra resignacin respecto a las limitaciones denuestro cuerpo? Ante esos interrogantes, la aumentacin debe considerar-se una confirmacin del permanente proceso de antropognesis humanaque a diferencia de los animales, a travs de la libertad, la reflexin y lainteligencia hacen a los humanos capaces de pensar y construir sus propiosfines. Visto as, la aumentacin confirma la esencia del humano en cuantoa su libertad y a sus fines propios. Si de acuerdo con Marx somos unresultado del entorno, es decir, de nuestras determinaciones (o dicho de

otro modo, de las circunstancias orteguianas), para modificar al hombredebemos modificar su entorno. Marx postula que ese cambio debe hacersea travs del trabajo y de la revolucin, que se cristalizan en la paleta dealternativas ofrecidas a travs de las aumentaciones que la tecnocienciaactual desarrolla. Desde esta perspectiva, la aumentacin representara un



22/29

elemento antialienante a costa de una cosificacin progresiva, en la medi-da que las aumentaciones implicasen una incorporacin de elementosmecnicos, qumicos y biolgicos no humanos.

Una pregunta axiolgica es si las aumentaciones constituyen un valorpara la vida humana y para el mundo en general. No podemos hablar desi es tico o no dar cabida a las aumentaciones en los humanos, si antes nosabemos si esas aportaciones son o no valiosas y en qu medida puedenserlo. Las aumentaciones slo pueden considerarse un fin del y para elhombre si se manifiestan como valiosas, o puesto de otra manera, si lasaumentaciones estn o se incorporan en su sistema de valores. Este plan-teamiento nos llevara a preguntas filosficamente ms profundas: Hayverdaderamente un sistema de valores en los fundamentos de la tica?Esos valores son comunes a todos los humanos? Tamaas preguntas nosenfrentan a una difcil tarea, para cuya solucin no nos consideramoscompetentes. A la espera de esas respuestas, slo nos queda defender laidea de que sobre el propio cuerpo son los individuos los que deben decidircuales son los valores que impulsan las morales individuales. Lo que no seacepta como valioso no se puede reconocer como un fin y mucho menoscomo un deber. Las consecuencias primarias del valor nos hacen vislum-brar que las aumentaciones ya constituyen por s mismas un valor, en lamedida de que nos permiten ser y actuar de manera ms patente e intensa,incluso en mbitos y modos inalcanzables sin las aumentaciones, dejandode lado la valoracin, en modo alguno trivial, de que nos permiten vivirdurante ms tiempo. De alguna manera, el valor tico que puede adscri-birse a las aumentaciones se origina ya en los albores de la humanidad,

cuando el hombre empieza a utilizar el fuego, la vestimenta, los utensilios,las armas y la vivienda. Es este valor apriorstico en el tiempo el que nosconfirma el valor a posteriori. El motivo bsico de toda determinacin de lavoluntad es en primer lugar la autoconservacin del yo (suum ese conser-vare), es decir, la tendencia a afirmarse a s mismo. Las aumentacionesconstituyen una tica egosta aunque tambin reflexiva para percibir elverdadero beneficio propio y construir nuestra personalidad. En definiti-va, la aumentacin es determinar lo que nos determina y, de este modo,nuestras circunstancias o determinaciones se proyectaran ms adelanteen el tiempo del yo. La limitacin ineludible hoy por hoy de las aumenta-ciones es que no pueden transmitirse a los descendientes y, entonces,requieren un esfuerzo de incorporacin de novoen cada individuo.

Los vnculos entre los humanos y sus mascotas o animales de compaa

muestran hasta qu punto las relaciones entre animales humanos y ani-males no humanos pueden llegar a tener niveles emocionales y plantea-mientos ticos, con frecuencia superiores a los que se establecen entre sereshumanos de diferentes credos, culturas o razas. A la luz de este tipo deexperiencias, no puede excluirse que las relaciones entre humanos y robots



23/29

humanoides se puedan cursar de modo emocional y tico muy intenso.Suceder as en tanto que los robots sern portadores de una imagen muyparecida (o incluso idntica) a la de los mismos humanos; habrn desarro-llado razonamientos y emociones aprendidas de los humanos, y suscriterios de decisin se habrn asimilado precisamente de los nuestros. Aligual que los nios aprenden de sus experiencias en el colegio, la familiay su inmediata sociedad, los robots aprendern del mismo modo y nuestraidentificacin con ellos ser, inevitablemente, importante. Como sucedeen los humanos, donde la proximidad entre individuos, familias y grupossociales establece vnculos de simpata y normas relacionales, las relacio-nes entre humanos y robots pueden llegar a ser difcilmente diferenciables.Apriorsticamente hablando, los humanos conocen la ley moral y la obe-decen si as deciden hacerlo. Con los robots, partimos de la base de quepretendemos que obedezcan siempre y ciegamente las leyes con las quehan sido programamos y, por supuesto, queremos que lo hagan al pie dela letra puesto que en caso contrario, su desobediencia podra ser terri-blemente peligrosa para los humanos, como Asimov intuy y tema.Incluso quizs debamos plantearnos si los robots se parecern a los huma-nos o acabarn siendo los humanos los que por mimetizacin se parecerna los robots, como de algn modo sucede o es previsible que suceda en elcaso de la cyborizacin o aumentacin humana.

Finalmente, cabe preguntarse hasta qu punto los debates, demandassociales y planteamientos polticos relativos a las aumentaciones humanas,la incorporacin de robots y la aparicin de clones, sern objeto de nor-mativizacin poltica dentro de los Estados-nacin tanto a nivel nacional

como internacional. O bien, por lo contrario, superarn las normativas delos Estados-nacin y se transnacionalizarn, es decir, se autorregularn atravs de las sociedades transfronterizas, al margen de la normativizacinde los estados 32. Como se ha podido observar hasta ahora, los procesos decyborizacin en los humanos y la incorporacin social de los robots estsiendo ms un proceso emanado de las culturas y las sociedades occiden-talizadas que de iniciativas y procesos polticos. Estos ltimos estn siendocompletamente superados por las prcticas reales de la tecnociencia y elarte en sus diversas expresiones. En cualquier caso, sern procesos que seincorporarn en la denominada gobernanza global en la que predomina-rn (adems de las normas polticas internas de los estados) acuerdosinformales entre sociedades transnacionales e instituciones sociales des-vinculadas del aparato poltico del estado-nacin. Como hemos visto hasta

la fecha, los avances e incorporacin social, tanto de los procesos decyborizacin, como la de los robots han tenido lugar predominantementeen las sociedades transnacionales. Con todo, el tema de la clonacinhumana, que no ha entrado ni en el debate sociopoltico ni en el pblico,estar previsiblemente mucho ms centrado en las normas polticas y



24/29

jurdicas de los Estados-nacin. Ello ocurrir as debido a sus connotacio-nes culturales y tico-morales, aunque es necesario advertir aqu quedifcilmente podrn sustraerse de una importante transnacionalizacin,como ya ha sucedido con problemas tales como la sostenibilidad, laeconoma y las finanzas, o el terrorismo.



25/29

NOTAS1 Esta plasticidad se expresa a nivel del desarrollo de la propia estructura cerebral

y de modo particular en la variabilidad de las conexiones neuronales a nivelsinptico de las dendritas y el cuerpo espinoso de la neurona, y tambin enel establecimiento y variacin de las redes neuronales y su modulacin a lolargo de la propia historia del cerebro, adems de los procesos de reparacin,regeneracin y degeneracin. Para ms detalles ver Malabou (2007).

2 Asumimos en este trabajo los cinco estados evolutivos de la historia de laconcienciacin y de la evolucin de la mentalidad humana desarrollados porJean Gebser en su obra Ursprung und Gegenwart, traducida en 2011 al castella-no como Origen y presentede Ediciones Atalanta, S. L., Gerona, Espaa.

3 La hiptesis de que la humanidad actual est asomndose a un suicidioecolgico se analiza y desarrolla desde una perspectiva ecolgica, econmicay sociopoltica en dos libros de Josep Vives-Rego (2010 y 2011).

4 Stelarc, Stelios Arkadiou, es un artista escnico chipiotra-australiano, cuyostrabajos se centran en aumentar las capacidades del cuerpo humano y la ideade que dicho cuerpo se ha hecho obsoleto. Ha sido profesor de arte en variasuniversidades inglesas. En su webpersonal (http://stelarc.org) se encuentra suproclama: La tecnologa pacifica el cuerpo y el mundo, y desconecta alcuerpo de muchas de sus funciones.

5 Mireille Suzanne Francette Porte, ms conocida como Orlan, es una artistafrancesa nacida en 1947, que vive y trabaja en Los Angeles, New York y Pars.Su webpersonal es: http://en.wikipedia.org/wiki/Orlan

6 Paul Abraham Alsberg (1883-1965) fue un mdico y antroplogo alemn,discpulo de Schopenhauer y autor de la obra El enigma de la humanidadaparecida en 1922. Se trata de un trabajo consagrado a la antropognesis, queestablece las bases de lo que ser la actual antropologa filosfica. Sus plan-teamientos biosociolgicos han tenido una influencia considerable en ciertossectores. El filsofo alemn Peter Sloterdijk retoma alguna de sus tesis en suensayo titulado La domesticacin del ser.

7 A lo largo de este trabajo se utilizarn los trminos cyborg, robot, cyborizaciones,aumentacin y hombre mejorado. Los significados de esos trminos han sidoobjeto de los dos artculos citados en el inicio de la introduccin del presentetrabajo (Mestres y Vives 2011 y 2012). Para facilitar la lectura del presenteartculo sin tener necesariamente que leer los dos referidos, adelantamos lassiguientes definiciones, en el bien entendido que una completa comprensiny valoracin de esos trminos slo puede hacerse tras haberlos ledo. Cyborges, en el sentido ms amplio de la palabra, el ser humano que ha incorporado(o internalizado) una serie de elementos tecnolgicos en su cuerpo y sumanera de vivir. Estos elementos se denominan aumentaciones y vandesde la omnipresente vestimenta, hasta las capacidades de lectoescritura,pasando por los implantes de todo tipo. Aumentacin:hace referencia a laincorporacin de los elementos tecnolgicos que los humanos han utilizadodesde sus orgenes para superar sus limitaciones corporales. Robot:es unamquina en su totalidad que acta con base en una programacin y que

puede incorporar inteligencia artificial e incluso emocional, que en estetrabajo se denominan robots humanoides.8 Teresa Aguilar Garca. 2008. Ontologa cyborg. Gedisa, S.A., Barcelona, pgina

130.9 No olvidemos que el culto a las deidades animales implica su superioridad en

cuanto a fuerza, potencia, letalidad o incluso longevidad respecto al hombre.



26/29

Ms recientemente el mito del salvaje europeo en parte humano y en parteanimal como una mezcla de naturaleza salvaje y cultura, no deja de simboli-zar ese poder animal que el hombre moderno ha perdido y ese debate entrela visin positiva y negativa de lo salvaje. Para ms detalles ver El salvatgeeuropeu, catlogo de la exposicin El salvatge europeo, 2004, Centro deCultura Contempornea de Barcelona y la Diputacin de Barcelona.

10 Ver la entrevista-artculo a Carsten Knneker, 2009, Kant en el laboratorio,Investigacin y Ciencia 35, 42-45.

11 Daniel Lpez Salort Cyberontologa, posthumanismo ciberntico y constitu-cin del ltimo hombre. Revista Observaciones Filosficas, n. 5, 2007, 2doprrafo. http://www.observacionesfilosoficas.net/cyberontologia.html

12 Teresa Aguilar Garca, 2008, pg. 136, 2do prrafo.13 Ibd. pag. 136, 3er prrafo.14 Para acceder a un resumen de esta obra de Gunter Anders sugerimos la web:

http://www.notbored.org/baudet-anders.html

15 Las molculas y sustancias que constituyen los seres vivos, cuando stosmueren, son degradadas a molculas tanto orgnicas como inorgnicas y seincorporan a los suelos y aguas. Posteriormente y gracias a la energa solar,estas sustancias se convierten en vegetales que son el sustento de los animalesherbvoros que los utilizan como alimento para su crecimiento y multiplica-cin. A su vez, los herbvoros sirven de alimento a los animales llamadospredadores y carnvoros. Hay animales como el hombre que son omn-voros, es decir, que se alimentan tanto de vegetales como de otros animales.Esta cadena de sucesos se denomina cadena trfica que adopta una estruc-tura piramidal. Este ciclo vital se reitera sin cesar desde que existe vida ennuestro planeta. Los tomos y molculas pasan indefinidamente e indiscri-minadamente del mundo inerte a las plantas y animales y viceversa.

16 El transhumanismo es una filosofa y un movimiento intelectual internacionalque apoya el empleo de las nuevas ciencias y tecnologas para mejorar lascapacidades mentales y fsicas del hombre con el objeto de corregir lo que seconsideraran aspectos indeseables e innecesarios de la condicin humana,como el sufrimiento, la enfermedad, el envejecimiento o incluso en ltimainstancia la mortalidad. Los pensadores transhumanistas estudian las posibi-lidades y consecuencias de desarrollar y usar la tecnologa con estos prop-sitos, preocupndose por estudiar tanto los peligros como los beneficios deestas manipulaciones. El trmino transhumanismo es usado como sinni-mo de humano mejorado. La primera vez que se us el trmino transhu-manismo fue en 1957, pero se desarroll en la dcada de 1980, cuando ungrupo de cientficos, artistas y futuristas establecidos en los Estados Unidosempez a organizar lo que desde entonces ha crecido hasta constituir elmovimiento transhumanista. Los pensadores transhumanistas proponenque los seres humanos se transformen en seres que expandan sus capacidadeshasta devenir en posthumanos. Como es esperable, las visiones transhuma-nistas de una humanidad futura profundamente mejorada y transformadacuenta con muchos partidarios y crticos de todo tipo.

17 http://www.transhumanismo.org/18 La webde Pablo Stafforini es http://oxford.academia.edu/PabloStafforini19 Para ms informacin sobre la inteligencia humanista sugerimos acceder a las

pginas webs del propio Steve Mann; http://glogger.mobi y tambinhttp://www.eyetap.org/about_us/index.html



27/29

20 Para ms detalles y las polmicas relativas a estas proposiciones ver: CarlElliott, (2003), Better Than Well, W.W. Norton, New York, London.21 Una dificultad aadida en este debate es si la definicin del trmino normal

debe hacerse desde el punto de vista estadstico, es decir, la situacin quecaracteriza a la mayora de la poblacin segn el criterio gaussiano. Desde elpunto de vista evolutivo se define como normal al carcter ms adaptativoen unas condiciones ambientales concretas. Otra definicin del trminonormal debera establecerse por contraposicin a los estados patolgicospreviamente establecidos por los expertos clnicos. Finalmente una definicinde normal diferente a las anteriores es la de todo aquello que se encuentraen su medio natural. En esta ltima definicin chocamos con la dificultadaadida de tener que definir lo que es natural.

22 Daniela Cerqui es antroploga de la Universidad de Laussane, Suiza. Haestudiado el trabajo de Kevin Warwick y se pregunta sobre las implicanciasy los lmites a la incorporacin de tecnologa al cuerpo humano. Suwebes:

http://people.unil.ch/danielacerqui23 Paula Sibilia es antroploga, nacida en Argentina y que vive en Brasil. Susconferencias y estudios pueden encontrarse en: http://www.youtube.com/watch?v=ecoWNeAJHyQ

24 Los datos flmicos de estas producciones as como los trailers de estas obraspueden accederse en la pgina webhttp://sitgesfilmfestival.com/cas/film/?id=10001921

25 Raymond Kurzweil es msico, empresario, escritor y cientfico especializadoen ciencias de la computacin e inteligencia artificial. Naci en Massachusettsen 1948.

26 El test o prueba de Turing evala la capacidad que tiene una mquina de serinteligente (Turing 1950). La prueba se lleva a cabo estableciendo una conver-sacin entre un humano y una mquina que imita la voz de un humano. Seconsidera que una mquina ha pasado la prueba cuando un juez humanoque escucha la conversacin no puede discernir quin es el humano y quines la mquina. A pesar de que la prueba tiene numerosos detractores, consti-tuye un concepto esencial en filosofa de la inteligencia artificial.

27 Para ms detalles y trailers sobre estas obras teatrales que incorporan robotshumanoides se sugieren las siguientes pginaswebs:http://www.ycam.jp/en/theater/2011/04/android-human-theater-sayonara.htmlhttp://www.dailymail.co.uk/sciencetech/article-1329208/Robot-actress-Geminoid-F-performs-alongside-human-Japanese-play.html#ixzz1KfHwa5Yuhttp://www.switched.com/2010/11/13/geminoid-f-robot-actress-japan/http://www.planettokyo.com/news/index.cfm/fuseaction/story/ID/46/http://celestialkitsune.wordpress.com/2008/11/27/japanese-robot-theater/http://festival-tokyo.jp/en/program/android/

28 Peter Singer (2011),Practical Ethics, third edition. Cambridge University Press.En particular en el captulo 5 Taking life, pgina 94 y siguientes.

29 Estas reflexiones se basan parcialmente en las reflexiones expresadas en elcaptulo 24, Metafsica de la persona (pginas 263-275) y el captulo 25, Elpersonalismo metafsico (pginas 276-286) de la obra ticade Nicolai Hart-mann. Ed. Encuentro, Madrid 2011. Ttulo original: Ethikeditado por Walterde Gruyter GmbH & Co., KG Berlin, 1962.

30 Las tres leyes de la robtica son una serie de reglas propuestas por el conocidoautor de ciencia ficcin Isaac Asimov que se formalizaron en 1942 en su cuentocorto titulado Runaround, aunque ya las haba esquematizado en cuentos



28/29

anteriores. Estas tres leyes son: 1. Un robot nunca debe poder daar a un serhumano, ni por omisin debe permitir que un ser humano sufra daos. 2. Unrobot debe obedecer las rdenes que le den los seres humanos, a excepcinde cuando esas rdenes entren en conflicto con la primera ley. 3. Un robotdebe proteger su propia existencia en tanto que esa proteccin no entre enconflicto con la primera y la segunda ley.

31 En este artculo aludimos a moral y tica como si se tratara de conceptosequivalente, debido a las dificultades que existen en diferenciarlos en elmbito de los animales no humanos. Esperamos que esa licencia no causeexcesivos problemas a los que (como nosotros en las reflexiones a nivel dehumanos) reservan el trmino moral para las normas y el de tica para lasdiscusiones filosficas de esas normas o moral.

32 Desde un punto de vista terminolgico y de acuerdo con las prcticasestablecidas en relaciones internacionales, consideramos aqu que las cuestio-nes internacionales son el resultado del juego de intereses entre estados y

por tanto sus normas emanan de las instituciones internacionales que hanestablecido y que actan bajo las directrices de los estados afectados. Nosreferiremos por actividades transnacionales a las que son autorreguladaspor las sociedades transfronterizas, ver Michael Zrn (2011), Sociedad delriesgo y democracia preventiva, pg.157, en La humanidad amenazada: gober-nar los riesgos globales (Daniel Innerarity y Javier Solana, editores), Paids,Barcelona.



29/29

BIBLIOGRAFAAguilar Garca, T. (2008), Ontologa cyborg. Barcelona: Gedisa.Anders, G. (2011), La obsolescencia del hombre (Vol. 1): sobre el alma en la poca de la

segunda revolucin industrial y(Vol. 2): sobre la destruccin de la vida en la pocade la tercera revolucin industrial. Valencia: Pretextos.

Bataille, G. (1997), El ojo pineal. Valencia: Pretextos.Elliott, C. (2003), Better Than Well. New York: W.W. Norton.Gebser, J. (1949-1953), Ursprung und Gegenwart. Munich:Deutsche Verlags-Ans-

talt Random House GmbH.Hayek, F. A. (1979), Law, Legislation and Liberty, III: The Political Order of a Free

People. London: Routledge and Kegan Paul.Ludz, U. and Nordmann, I. (eds.) (2006), Hannah Arendt. Diario filosfico 1950-

1973,vol. I. Barcelona: Ed. Herder,Malabou, C. (2007), Qu hacer con nuestro cerebro?Madrid: Libros Arena.Mestres F. (2011), Evolucin: de la especie humana al cyborg, Sociologa y

Tecnociencia 1: 37-46.Mestres F. y Vives-Rego, J. (2011), Precisiones interdisciplinares y conceptuales

de los trminos: cyborg, clon humano y robot, Ludus Vitalis 19: 235-238.Mestres F. y Vives-Rego, J. (2012), Reflexiones sobre los cyborgsy los robots:

evolucin humana y aumentacin, Ludus Vitalis 37: 225-252.Sadava, D., Heller, H. C., Orians, G. H., Purves, W. K. and Hillis, D. M. (2008),

Life. The Science of Biology. 8th Ed. Sunderland (MA): Freeman.Sibilia, P. (2005), El hombre postorgnico. Cuerpo, subjetividad y tecnologas digitales.

Buenos Aires: Fondo de Cultura Econmica.Solomon, E. P., Berg, L. R. and Martin, D. W. (2008), Biologa. 8th Ed. Mxico D.F.:

McGraw-Hill/Interamericana S.A.Turing, A. M. (1950), Computing machinery and intelligence,Mind 49: 433-460.Vives-Rego, J. (2010), Los dilemas medioambientales del siglo XXI ante la ecotica.

Madrid: Bubook Publishing.Vives-Rego, J. (2011), Suicidio poltico o suicidio ecolgico? Polticas medioambientales

para el siglo XXI. Madrid: Fundamentos.


ludus vitalis 2012b

Documents