28/2/2020 Empresas tecnológicas sellan junto al Papa Francisco un histórico llamado por una “inteligencia artificial humanística” - Infobae

https://www.infobae.com/sociedad/2020/02/28/empresas-tecnologicas-sellan-junto-al-papa-francisco-un-historico-llamado-por-una-inteligencia-art… 1/5

Empresas tecnológicas sellan junto al Papa Franciscoun histórico llamado por una “inteligencia artificial

humanística”Fishel Szlajen, rabino y doctor en filosofía, habló sobre los alcances del debate en el marco de la 26° Asamblea de la Pontificia

Academia para la Vida, en el Vaticano. Microsoft, IBM, la Unión Europea y dirigentes globales, entre los firmantes del

entendimiento

Fishel Szlajen, el especialista y director de AMIA Cultura, participó del cónclave cuyo tema fue la inteligencia artificial, ética, ley y

salud.

La 26° Asamblea de la Pontificia Academia para la Vida (PAV), encabezada por el Papa Francisco en la ciudad del Vaticano,finalizó con un histórico llamamiento y la firma de un compromiso ético para “humanizar la inteligencia artificial”. El acuerdofue sellado por el miembro titular de la academia global, el doctor en Filosofía Fishel Szlajen, junto al presidente de Microsof,Brad Smith, el vicepresidente de IBM, John Kelly III, el titular del Parlamento Europeo David Sassoli, el director de Oficina dela ONU para la Alimentación y Agricultura, Qu Dongyo y Monseñor Vincenzo Paglia.

Szlajen fue el primer rabino nombrado miembro titular de la PAV, que nuclea setenta de los más destacados académicosinterdisciplinarios en bioética de todo el mundo. El especialista y director de AMIA Cultura participó del mencionado cónclave,cuyo tema fue la inteligencia artificial, ética, ley y salud, y deslizó algunas claves sobre el alcance del histórico debateauspiciado por el Papa Francisco:

— ¿A qué se llama Inteligencia Artificial (IA)?

— Si bien no hay unanimidad en la definición conceptual de IA, existe una descriptiva basada en el uso de tecnologíaautomatizando labores que realizadas por humanos, requieren inteligencia. La diferencia con la mera automación es lafuncionalidad no necesariamente repetitiva de una misma tarea, sino incluyente de algoritmos pudiendo establecer patrones.Luego, si bien los automatismos no son un desarrollo tecnológico nuevo, si lo son las cuestiones éticas y dilemas ante laaplicación de los programas que constituyen la denominada IA.

28/2/2020 Empresas tecnológicas sellan junto al Papa Francisco un histórico llamado por una “inteligencia artificial humanística” - Infobae

https://www.infobae.com/sociedad/2020/02/28/empresas-tecnologicas-sellan-junto-al-papa-francisco-un-historico-llamado-por-una-inteligencia-art… 2/5

— Que disciplinas estuvieron representadas y cuáles son sus reflexiones sobre los tópicos más relevantes abordados?

— Participaron más 500 invitados internacionales en diversos workshops, cuya sesión final mencionada supra, fue presenciadapor más de 1300 académicos y profesionales de casi todas las disciplinas en las que la IA está incursionando. En este sentido,antropólogos, biólogos, fuerzas de seguridad, economistas, empresarios, filósofos, ingenieros, juristas, legisladores, médicos,políticos, sociólogos y tecnólogos, fueron los partícipes de esta asamblea, cuyas conclusiones sirven de guía hacia laconformación de políticas públicas. Sin entrar en tecnicismos, los tópicos más importantes estuvieron relacionados con elimpacto de la IA en lo socio-laboral, su influencia en las conductas, su aplicación en los ámbitos de la justicia y la medicina másotras áreas donde ya se visualiza que, la falta de su regulación provoca graves consecuencias en lugar de mejorar elcumplimiento de los valores rectores de cada una de las áreas en cuestión.

— ¿Puede resumir algunos de estos puntos?

Están los clásicos de fake news o la invasión a la privacidad usufructuandosin autorización datos personales recolectados desde internet. También elrastreo telefónico y reconocimiento facial y de voz, muy útil al perder eldispositivo o para activarlo de forma segura así como para la ubicación deprofugados, pero no para víctimas que buscan privacidad y menos cuandoes usado por gobiernos para localizar y controlar minorías.En relación a la seguridad laboral y social, la preocupación radica en elrápido reemplazo de mano de obra por algoritmos y robótica e inclusodesapareciendo oficios. Y aunque durante la 1° revolución industrial elprincipal problema no fue la reconversión laboral ni su costo, sino lainterrupción productiva en pos de capacitación, habrá que atenderprioritariamente a no aumentar el desempleo, la pobreza y exclusión en unaera de vertiginosos avances tecnológicos pero desprovista de la mismavelocidad para generar programas de reconversión laboral.Por otro lado y respecto de lo conductivo, existen apps de vínculosdiseñadas intencionalmente para causar conductas adictivas, tal comoalgunas redes sociales cuyos algoritmos promueven recompensas aleatoriasy coincidencias aun con baja compatibilidad para participar más tiempo enuna sesión.En otra dimensión, algunas compañías de recursos humanos hanencontrado problemas de sesgo debido a que sus programas de selección,deliberadamente o no, pero siempre en base a datos históricos, presentabancomo resultados, por ejemplo, mayoría de candidatos masculinos o dealguna etnia o grupo social particular.Importantes departamentos de policía, desde el 2106, usan softwaresbasados en prontuarios y experiencias de campo para encontrar patrones deconducta, cuyas variables peligrosamente incluyen género, etnia, religión y

28/2/2020 Empresas tecnológicas sellan junto al Papa Francisco un histórico llamado por una “inteligencia artificial humanística” - Infobae

https://www.infobae.com/sociedad/2020/02/28/empresas-tecnologicas-sellan-junto-al-papa-francisco-un-historico-llamado-por-una-inteligencia-art… 3/5

clase social, conectándolas con delitos similares, prediciendo probablescrímenes o violaciones de libertades condicionales.En el ámbito legal, la IA puede potenciar pero también socavar principiosfundamentales como la igualdad ante la ley y acceso a la justicia, fallosbasados en pruebas, capacidad de apelación, sujeción al debido proceso yeficiencia administrativa. La IA puede detectar y hacer visible ciertasarbitrariedades para disminuirlas o bien anular espacios para conductascorruptas, objetivar el análisis de pruebas y dar mayor celeridad procesal yacceso a la justicia. No obstante, también la IA constituye un factor parafundamentar predictivamente conductas criminales en ciertos grupossociales, étnicos, religiosos o clases económicas, impactando en el principiode igualdad ante la ley; o bien acorde a un pronóstico de riesgo,resocialización o reincidencia, incluyendo el patrón de actuación del defensoro fiscal en casos similares, sentenciar con una pena mayor dentro del rangoestablecido a discreción del juez, u otorgarle o cancelar la libertadcondicional. Los abogados fuera de toda deontología profesional, puedenelegir representar o no a determinado sujeto ante ciertas circunstancias,juzgados, jueces y/o jurados, en función de probabilidades de ganar un juicioen función del acceso a ciertos historiales y patrones de casos similares. LaIA puede elevar la eficiencia administrativa y la agilidad judicial pero tambiény para mostrar resultados políticos puede darse a expensas del debidoproceso, a modo de juicio electrónico. Todo ello altera la percepción de lajusticia, fundamental para legitimar un orden social y político.En la medicina la IA posee excelentes aplicaciones en detección ydiagnóstico, cálculo de riesgos, pronóstico y apoyo a la toma de decisionesclínicas, incluso aplicado a la medicina a distancia y de precisión, abaratandolos procedimientos y maximizando su alcance. Aquí se suman problemasbasados en la privacidad, la discriminación, el daño psicológico y la relaciónmédico-paciente. Y esto es porque el procesamiento de ingentes cantidadesde datos relacionados con la salud del individuo para discernir patrones,utilizados para predecir probabilidad de afecciones cardíacas, derramescerebrales, diabetes, deterioro cognitivo, futuro abuso de drogas y tendenciaal suicidio, provienen de historias clínicas digitalizadas, aseguradoras desalud o bienes, registros de compras en farmacias u otros comercios,antecedentes penales e incluso redes sociales mediante ciertas frases ofotos utilizadas, subidas o con las que se ha interactuado. Esto plantea unproblema de veracidad en los pronósticos, cuyos datos primarios no son

28/2/2020 Empresas tecnológicas sellan junto al Papa Francisco un histórico llamado por una “inteligencia artificial humanística” - Infobae

https://www.infobae.com/sociedad/2020/02/28/empresas-tecnologicas-sellan-junto-al-papa-francisco-un-historico-llamado-por-una-inteligencia-art… 4/5

metodológicamente confiables, siendo el resultado algorítmico incorrecto,padeciendo el sujeto todo tipo de injusticias, agravios y daños frente a quiendecida ante dicho pronóstico. Dicha información, aun siendoestadísticamente confiable, debiendo ser confidencial y para lo cual no hayuna regulación, puede incluso ser comercializada a empleadores,aseguradoras, bancos o todo tercero interesado, conduciendo nuevamente agraves consecuencias. Sólo imaginarse que ante un pronóstico de saludbasado en algoritmos vulnerables y con datos de fuentes no confiables, unapersona no sea admitida en un empleo, el seguro le eleve la cuota odirectamente no lo asegure así como un banco le niegue un préstamohipotecario. Ello sumado a los daños psicológicos de quienes por ejemplo seanotician de su alta tendencia a padecer demencia o cáncer, y que luegodicha información comercializada resulte en campañas para instarlo acomprar productos y servicios para mejorar su sobrevida. En este sentido,resulta necesario basar los estudios predictivos en información confiablepero además, regular legalmente su confidencialidad y tal como se hace antepruebas genéticas, aconsejar a los pacientes en el asesoramientoprofesional para comprender mejor los resultados brindados, su naturaleza yalcance. Pero en ello surge otra preocupación relacionada con la relaciónmédico-paciente, reduciendo al médico a instrumentador de instruccionesinformáticas.

28/2/2020 Empresas tecnológicas sellan junto al Papa Francisco un histórico llamado por una “inteligencia artificial humanística” - Infobae

https://www.infobae.com/sociedad/2020/02/28/empresas-tecnologicas-sellan-junto-al-papa-francisco-un-historico-llamado-por-una-inteligencia-art… 5/5

— ¿La carrera tecnológica le ganó a la ética y al orden legal?

— Actualmente sí, y de hecho se ha caído en un jacobinismo tecnológico. Es por ello que en la misma medida que la tecnologíacontinúa impulsando la transformación en la salud, cuyo potencial crece exponencialmente con la cantidad de datos recopiladosy procesados, deben considerarse las implicaciones éticas de los sistemas de IA para mejorar los resultados de los pacientes,beneficiando a los médicos y proporcionando al público una más amplia atención y de mayor calidad. Es decir, para que la IAsea realmente en beneficio de todos, no potenciando los actuales flagelos, debe ir acompañada de una deontología afín y unmarco regulatorio legal, sin transformar las diversas áreas de acción humana en cajas negras. No debe haber opacidad en lametodología de procesamiento de datos así como tampoco en la fuente de estos. Mucho menos tendiendo al reemplazo delhumano por algoritmos, como tomador de decisiones dado que aquel por definición es su usuario. Pero lo más importante, aunen el mejor de los casos con dichas variables aseguradas, nunca debe convertirse en un mágico e infalible oráculo deterministaobliterando el juicio y el libre albedrío como signo específico y diferencial de lo humano.

— ¿Cuál es el desafío?

— Ocuparse para que los sistemas de IA sean bien implementados y regulados. Dejar de invertir en mundanas mejorastecnológicas ignorando aquellas dolencias materiales de la humanidad pudiendo paliarse y hasta suprimirlas mediante una solaparte de dicha inversión, impactando sustancialmente en todos. Identificar la forma en que la IA pueda mejorar, abaratar yampliar la calidad y acceso a todos los servicios y derechos, compartiendo datos y resultados para el bien común peroresguardando la oportuna confidencialidad. Todo ello sin cambiar el principio de autoridad donde en lugar del hombre, gobierneny decidan los algoritmos, ni sacrificar los valores y principios fundacionales que dan sentido a cada una de las áreas donde la IAes aplicada.

Seguí leyendo:

El doctor Fishel Szlajen es el primer rabino en ser nombrado por el Papa Francisco miembro titular de la Pontificia Academiapara la Vida

El Senado distinguió al rabino Fishel Szlajen con la Mención de Honor "Domingo Faustino Sarmiento"

Rabino Fernando Szlajen: “La del aborto no es una cátedra, sino una instigación política”