inteligÊncia artificial: implicaÇÕes na seguranÇa …
TRANSCRIPT
Maj Inf RAJA ASAD ALI, Exército do Paquistão
Maj Inf RAJA ASAD ALI
INTELIGÊNCIA ARTIFICIAL: IMPLICAÇÕES NA SEGURANÇA NACIONAL E DESAFIOS JURÍDICOS
ESCOLA DE COMANDO E ESTADO MAIOR DO EXÉRCITO ESCOLA MARECHAL CASTELLO BRANCO
Maj Inf RAJA ASAD ALI, Exército do Paquistão
Rio de Janeiro 2020
Maj Inf RAJA ASAD ALI
INTELIGÊNCIA ARTIFICIAL: IMPLICAÇÕES NA SEGURANÇA NACIONAL E DESAFIOS JURÍDICOS
Trabalho de Conclusão de Curso apresentado à Escola de Comando e Estado-Maior do Exército, como requisito parcial para a obtenção do título de Especialista em Ciências Militares, com ênfase em Defesa.
Orientador: Ten Cel Inf Fábio Gomes Barbosa
Rio de Janeiro 2020
Maj Inf RAJA ASAD ALI, Exército do Paquistão
INTELIGÊNCIA ARTIFICIAL: IMPLICAÇÕES NA SEGURANÇA NACIONAL E DESAFIOS JURÍDICOS
Trabalho de Conclusão de Curso apresentado à Escola de Comando e Estado-Maior do Exército, como requisito parcial para a obtenção do título de Especialista em Ciências Militares.
Aprovado em ____de outubro de 2020.
COMISSÃO AVALIADORA
_________________________________________________ Fábio Gomes Barbosa – Ten Cel Inf - Presidente Escola de Comando e Estado-Maior do Exército
_________________________________________________ Orlando Mattos Sparta de Souza – Ten Cel Inf - Membro
Escola de Comando e Estado-Maior do Exército
_________________________________________________ Murilo da Silveira Guerra – Ten Cel Int - Membro Escola de Comando e Estado-Maior do Exército
R138H Asad Ali, Raja Inteligência artificial: implicações na segurança nacional e desafios jurídicos. / Raja Asad Ali. 一2020.
24 fl. : il ; 30 cm.
Orientação: Fabio Gomes Barbosa Trabalho de Conclusão de Curso (Especialização em Ciências Militares)一Escola de Comando e Estado-Maior do Exército, Rio de Janeiro, 2020. Bibliografia: fl 22 - 24.
1. EVOLUÇÃO DA TECNOLOGIA FUTURÍSTICA INTELIGENTE. 2. IMPLICAÇÕES PARA GUERRAS FUTURAS. 3. REGRA E ÉTICA QUE REGEM A TECNOLOGIA INTELIGENTE I. Título.
CDD 355.4
AGRADECIMENTOS
Ao Tenente-Coronel FÁBIO GOMES BARBOSA, não só pela orientação firme e segura,
como também, pelo incentivo e pela confiança evidenciada em várias oportunidades. Sua
dedicação se revestiu de capital importância para que eu pudesse realizar o trabalho com
tranquilidade e eficiência.
Meu padrinho Maj Infantaria VITOR GONÇALVES LOUREIRO pelo constante apoio e
motivação durante o curso, em todos os aspectos profissionais e não profissionais.
A minha mãe e pai, pelo empenho dedicado em minha formação e educação. Seus exemplos
e valores estão presentes em qualquer sucesso obtido.
Ao Exército do Paquistão pela confiança confiada a mim para fazer o Curso de Comando e
Estado-Maior no Brasil, na Escola de Comando e Estado-Maior de Exército, Escola Marechal
Castello Branco, Rio de Janeiro.
A Deus, pela proteção e orientação recebidas, principalmente nos momentos mais difíceis.
Pela força necessária que recebi para resolver os problemas apresentados.
“Com fé, disciplina e dedicação altruísta ao dever, não há nada que vale a pena que você não consiga alcançar.” (Muhammad Ali Jinnah, Fundador do Paquistão)
RESUMO
A Inteligência Artificial (IA) entrou na vida cotidiana. Hoje, vê-se de carros automatizados a suporte on-line por telefone e drones para muitos setores como saúde, educação, agricultura, comércio eletrônico, guerra, finanças etc. O mundo está fazendo uma transição do controle humano para um controle mais tecnológico e inteligente e qualquer nação que não se adaptar rapidamente perderá o “trem” do desenvolvimento. A inteligência artificial e a robótica têm enorme potencial positivo e estão sendo usadas para aumentar a produção. A inteligência artificial (IA) está afetando a vida em todos os setores, incluindo saúde, educação, agricultura, comércio eletrônico, finanças e guerra etc. No entanto, o funcionamento dos robôs cognitivos / inteligência artificial está causando novos problemas e desafios, mudanças sociais e criando desafios sem precedentes relacionados a todos os aspectos, incluindo segurança e privacidade, perda de empregos, etc. Um problema muito sério são as máquinas armadas, como os drones que matam seres humanos. Esse novo paradigma deu origem a novos desafios no mundo global. No momento, não existe nenhuma lei / convenção internacional para governar a Inteligência Artificial (IA) / Robótica e seus desafios éticos, regulatórios e legais. Alguns princípios éticos e desafios chave a serem considerados incluem; princípio de responsabilidade; dignidade humana; privacidade; autonomia; transparência; Princípio "não prejudique", justiça etc. As partes interessadas em todos os estratos da sociedade estão ponderando sobre a natureza e a extensão das estruturas legais e regulatórias. É de imensa importância que seja urgentemente estabelecido um novo regime jurídico internacional que garanta a soberania das Nações e a privacidade do público a todo custo. Este artigo avalia e analisa a situação atual em relação à Inteligência Artificial (IA) e seus desafios éticos e legais, especialmente no domínio tarifário das Nações Unidas. O documento também destaca algumas áreas-chave a serem abordadas no novo sistema ético e jurídico para regular esse setor mais importante, que fará parte do nosso dia a dia muito em breve.
Palavras-chave: Evolução da tecnologia futurística inteligente; Implicações para guerras
futuras; Regra e ética que regem a tecnologia inteligente.
ABSTRACT
Artificial Intelligence (AI) has become part of our everyday life. The world is making a transition from human control to more technological and intelligent control and any nation that does not adapt quickly will miss the “train” of development. Artificial intelligence and robotics have enormous positive potential and are being used to increase production. Artificial intelligence (AI) is affecting life in all sectors, including health, education, agriculture, e-commerce, finance and war etc. However, the functioning of cognitive / artificial intelligence robots is causing new problems and challenges, social changes and creating unprecedented challenges related various aspects, including security and privacy, job losses, etc. The most serious issue is concerning the armed machines that has the capability to kill. This new paradigm has given rise to new challenges in the global world. At the moment, there is no or vague international law / convention to govern Artificial Intelligence (AI) / Robotics and its ethical, regulatory and legal challenges. Some ethical principles and key challenges to be considered includes; principle of responsibility; human dignity; privacy; autonomy; transparency etc. Stakeholders in all strata of society are pondering the nature and extent of legal and regulatory structures. It is of immense importance that a new international legal regime is urgently established to guarantee the sovereignty of nations and the privacy of the public at all costs.This article assesses and analyzes the current situation in relation to Artificial Intelligence (AI) and its ethical and legal challenges, especially in the United Nations tariff domain. The document also highlights some key areas to be addressed in the new ethical and legal system to regulate this most important sector, which will be part of our daily lives very soon. Keywords: Evolution of smart futuristic technology; Implications for future wars; Rule and
ethics governing smart technology.
SUMÁRIO
1 INTRODUÇÃO ........................................................................................................ 9
1.1 PROBLEMA .......................................................................................................... 9
1.2 OBJETIVOS ....................................................................................................... 10
1.2.1 Objetivo Geral .................................................................................................. 10
1.3 DELIMITAÇÃO DO ESTUDO ............................................................................. 11
1.4 RELEVÂNCIA DO ESTUDO ............................................................................... 11
2 REFERENCIAL TEÓRICO .................................................................................... 11
2.1 O QUE É INTELIGÊNCIA ARTIFICIAL ............................................................... 12
2.2 EVOLUÇÃO DA INTELIGÊNCIA ARTIFICIAL AI ............................................... 12
2.3 INTELIGÊNCIA ARTIFICIAL - RAMOS PRINCIPAIS ......................................... 13
3 METODOLOGIA DE PESQUISA ........................................................................... 13
3.1 TIPO DE PESQUISA .......................................................................................... 13
3.2 UNIVERSO E AMOSTRA ................................................................................... 13
3.3 COLETA DE DADOS .......................................................................................... 14
3.4 TRATAMENTO DOS DADOS ............................................................................ 14
3.5 LIMITAÇÕES DO MÉTODO ............................................................................... 14
4 IMPLICAÇÕES SOBRE SEGURANÇA EM VÁRIOS DOMÍNIOS ......................... 14
4.1 IA NA CONSTRUÇÃO DA PAZ E SEGURANÇA ............................................... 15
4.2 EDUCAÇÃO ....................................................................................................... 16
5 REGULAMENTO JURÍDICO E ÉTICO .................................................................. 18
5.1 LEIS INTERNACIONAIS E DESENVOLVIMENTOS .......................................... 19
5.2 DESAFIOS ÉTICOS ........................................................................................... 19
6 CONCLUSÃO ...........................................................................................................20
REFERÊNCIA .................................................. ERRO! INDICADOR NÃO DEFINIDO.
9
1 INTRODUÇÃO
O mundo está fazendo uma transição monumental, pela primeira vez, da tecnologia
controlada pelo homem para uma mais inteligente e dotada da capacidade de
autoaprendizagem, no que veio a ser chamado de quarta Revolução Industria (SCHWAB,
2016).
A Inteligência Artificial (IA) entrou no cotidiano desde carros automatizados da Tesla,
assistentes on line no telefone até drones customizados para um grande número de setores,
tais como: saúde, educação, agricultura, e-commerce, finanças etc.
Qualquer nação que não se adaptar rapidamente, pagará caro pela falta do
conhecimento. A conta pode ser ainda maior que aquela paga pelos que perderam a primeira
revolução industrial.
A Inteligência Artificial e a robótica têm um enorme potencial positivo e, embora
estejam sendo usadas para aumentar a produção e para serviços sociais e domésticos, o
funcionamento dos robôs cognitivos / Inteligência Artificial está causando mudanças sociais
e criando desafios sem precedentes, relacionados a todos os aspectos, incluindo segurança
e privacidade.
Dentre estes aspectos, o número de humanos ficando desempregados e o emprego
de máquinas armadas, como os drones, matando seres humanos têm sido os mais
polêmicos. De fato, o mundo enfrenta uma situação de Catch-22 1sobre como salvaguardar
os valores humanos e abraçar esse avanço tecnológico útil e inevitável.
Este artigo avalia e analisa a situação atual em relação à Inteligência Artificial (IA) e
seus desafios legais e éticos, especialmente no domínio do direito das Nações Unidas.
Também dá uma breve visão geral dos recentes desenvolvimentos na governança da IA,
como está sendo definida a agenda para a definição da regulação da IA, os quadros éticos
e as abordagens técnicas, bem como algumas sugestões concretas para promover o debate
sobre a governança da IA.
1.1 PROBLEMA
As leis que regem a Inteligência Artificial ainda são aguardadas. O novo arcabouço
ético, regulatório e legal deve abordar muitas questões fundamentais, incluindo
1 Frase que foi idiomatizada como uma situação sem saída, uma armadilha, no livro de Joseph Heller na obra “Catch-22”, onde o autor relata o dilema enfrentado por pilotos de B-25 no final da Segunda Guerra Mundial.
10
responsabilidade primária e nível de tomada de decisão delegada às máquinas de IA etc.
Esta temática tem sido discutida na Comissão dos Assuntos Jurídicos do Parlamento
Europeu.
Esse novo paradigma deu origem a novos desafios, principalmente em um mundo
global. Atualmente, não existe Direito Internacional/convenção para governar a Inteligência
Artificial (IA)/Robótica. Alguns princípios éticos fundamentais e desafios a considerar
incluem: princípio de responsabilidade; dignidade humana; privacidade; autonomia;
transparência; Princípio de “não prejudicar”, justiça etc.
A maioria dos países não tem os quadros legais necessários para a IA em seu nível
nacional. Muitas das Corporações Multinacionais (MNCs) estão atualmente elaborando seus
próprios códigos para regular isso, por exemplo, robôs ou regras de carros sem motorista
em caso de acidentes. No entanto, as questões como licença não são decididas. As partes
interessadas em todos os estratos da sociedade estão ponderando sobre a natureza e a
extensão dos marcos legais e regulatórios.
Dado o exposto, este trabalho buscará responder o seguinte questionamento: Como
a comunidade global e as Nações Unidas estão lidando com a adequação do arcabouço
ético, legal e regulatório requerido pela Inteligência Artificial/robótica?
1.2 OBJETIVOS 1.2.1 Objetivo Geral
Este estudo tem como objetivo esclarecer pontos cruciais a sobre aspectos éticos da
Inteligência Artificial (IA), tais como: o mapeamento dos esforços globais; os aspectos éticos,
regulatórios e legais das tecnologias de IA.
1.2.2 Objetivos Específicos
a. Quais são os principais debates acadêmicos sobre ética da Inteligência Artificial
(IA)?
b. Quais são os diversos tipos e categorias de Inteligência Artificial (IA) e robótica
que precisam ter código ético?
c. Que esforços foram feitos para regular a IA até agora?
d. Quais devem ser os contornos do Direito Internacional para fornecer um código
de ética e regulação viável à Inteligência Artificial (IA)?
e. Qual é o potencial no Futuro para a Inteligência Artificial.
11
1.3 DELIMITAÇÃO DO ESTUDO
Os marcos teóricos utilizados são principalmente as leis e princípios internacionais de
direitos humanos, estudos de caso e modelos, que tratam dos princípios éticos globais
acordados, sociedade, direitos e responsabilidades, que tratam dos aspectos filosóficos que
afetam diretamente essa pesquisa.
1.4 RELEVÂNCIA DO ESTUDO
Este estudo tem muito significado porque a maioria das pesquisas anteriores acerca
do assunto teve foco estreito em aspectos técnicos da Inteligência Artificial, ou seus desafios,
deixando de lado aspectos éticos e jurídicos acerca desse novo desafio que se mostra uma
realidade para o futuro próximo.
Tais áreas são fundamentais para a compreensão e regulação desse novo sistema
ético e jurídico que fará parte do nosso cotidiano muito em breve, sendo de valor significativo
para os tomadores de decisão, formuladores de políticas, governos, acadêmicos e outras
partes interessadas para entender e abordar esse campo complexo e relativamente novo,
que não pode ser negligenciado.
Este estudo fornecerá novos insights através da investigação da literatura disponível
com esforços para destacar a complexidade das questões éticas que precisam ser
abordadas, e, uma vez que o Direito Internacional/convenção existe para governar a
Inteligência Artificial (IA)/Robótica, quais são os esforços que estão sendo feitos e que tipo
de mecanismo regulatório/marco legal os países têm que desenvolver.
2 REFERENCIAL TEÓRICO
Os referenciais teóricos utilizados são principalmente como leis e princípios
internacionais de direitos humanos, estudos de caso e modelos, que tratam dos princípios
éticos globais acordados, da sociedade, dos direitos e responsabilidades que tratam dos
aspectos filosóficos que estão diretamente relacionados a esta pesquisa. No campo da
ciência cptr, o int artificial (AI), às vezes chamado de inteligência de máquina, é demonstrado
por máquinas, em contraste com o int natural exibido por humanos e outros animais. A história da Artificial Int (AI) começou na antiguidade, com mitos, histórias e rumores
deseres artificiais dotados de int ou consciência por mestres artesãos. Homens mecânicos
12
e seres artificiais aparecem nos mitos gregos, como os robôs dourados de Hefesto e a
Galatéia de Pigmalião, até uma dica muito séria dada no Alcorão, “E quando chegar a hora
de executar o Nosso comando (de tormento) contra eles, traremos da terra para eles uma
besta que conversará com eles, porque as pessoas não têm certeza em Nossos sinais”
2.1 O QUE É INTELIGÊNCIA ARTIFICIAL
A inteligência artificial (IA) pode ser definida como uma área da ciência da
computação que lida com a criação de máquinas inteligentes, que funcionam e reagem como
seres humanos (WEST, 2018). Outra definição, mais comum, é a simulação de processos
de inteligência humana por máquinas, especialmente sistemas de computador. Esses
processos incluem aprendizado (aquisição de informações e regras para o uso das
informações), raciocínio (uso de regras para chegar a conclusões aproximadas ou definidas)
e autocorreção.
2.2 EVOLUÇÃO DA INTELIGÊNCIA ARTIFICIAL
Em 1950, o termo AI foi usado por Alan Turing, matemático do Reino Unido. Ele
publicou seu artigo intitulado "Computing Machinery & Intelligence", que é visto como um
estudo pioneiro nesse novo campo, chamado Inteligência Artificial (POLK, 2017).
Em 1952, Arthur Samuel desenvolveu o primeiro programa de computador capaz de
aprender por si próprio - programa de jogo de damas.
O termo "Inteligência Artificial" ganhou popularidade em 1956, quando John McCarthy
realizou um seminário. McCarthy desenvolveu a linguagem de programação LISP para criar
os programas de IA em 1958.
O primeiro robô industrial foi empregado pela General Motors, em 1961, para a linha
de montagem de veículos. A Universidade de Stanford, em 1972, desenvolveu um sistema
especialista para bactérias causadoras de infecções e seus antibióticos sugeridos. O
primeiro carro sem motorista apareceu em Munique em 1986, fabricado pela Mercedes Benz
(WIKIWAND, 2019).
Uma inovação eminente veio na forma do xadrez Deep Blue, um programa da IBM
que ficou famoso ao vencer o então campeão mundial de xadrez, Gary Kasparov, em 1997.
Com mais desenvolvimentos, a North-Western University EUA desenvolveu um programa
de IA capaz de escrever notícias esportivas, sem nenhum envolvimento humano. Em 2011,
13
um programa de IA venceu dois campeões do jogo Jeopardy (MARKOFF, 2011). Desde
então, a IA desenvolveu variedades e revolucionou quase todos os campos do mundo. 2.3 INTELIGÊNCIA ARTIFICIAL - RAMOS PRINCIPAIS
a. Aprendizado de Máquina
Refere-se à aprendizagem sem supervisão para a identificação de padrões nos fluxos
de dados, ou envolvendo classificação e regressões numéricas.
b. Engenharia do Conhecimento
O ramo da Engenharia do conhecimento refere-se às aplicações que envolvem
campos de bom senso, raciocínio lógico e poder de resolução de problemas.
c. Percepção da Máquina
Está relacionado à capacidade de usar as entradas sensoriais. Por exemplo, a visão
por computador pertence ao poder de analisar entradas visuais, incluindo facial,
objeto ou reconhecimento de gestos.
d. Robótica
A robótica lida com o manuseio de tarefas como manipulação e navegação de objetos
e sub-problemas de localização, planejamento de movimento, mapeamento e etc
(MORAVEC, 2009). 3 METODOLOGIA DE PESQUISA 3.1 TIPO DE PESQUISA
A metodologia de pesquisa qualitativa foi aplicada para encontrar respostas para as
perguntas da pesquisa. A pesquisa é de cunho bibliográfico, uma vez que será baseada em
artigos científicos disponibilizados na base de dados da CAPES.
3.2 UNIVERSO E AMOSTRA
O universo do presente estudo é a Inteligência Artificial (IA) / Robótica. A amostra se
concentrará no campo das leis e princípios internacionais de direitos humanos, nos estudos
de caso e modelos que lidam com princípios éticos, sociedade, direitos e responsabilidades
14
globais acordados, e aqueles que tratam dos aspectos filosóficos que têm relação direta com
esta pesquisa. 3.3 COLETA DE DADOS
A coleta de dados do presente trabalho de conclusão do curso será realizada através
da coleta na literatura especializada, realizando uma pesquisa bibliográfica no site da
CAPES, além de outras fontes bibliográficas de relevo encontradas nas referências dos
artigos selecionados.
3.4 TRATAMENTO DOS DADOS
De acordo com o Departamento de Pesquisa e Pós-Graduação, o método de
tratamento dos dados que foram utilizados no presente estudo se concentrou na análise de
conteúdo, onde foram realizados estudos do material coletado para obtenção da
fundamentação teórica, visando responder a questão apresentada (NETO et al., 2012).
Contempla as técnicas de análise de dados, incluindo importação, exploração,
visualização e aplicação de análise qualitativa para conduzir um estudo abrangente a fim de
tirar conclusões e recomendações.
Identificou e extrair as palavras e expressões mais relevantes em um texto.
Transforme dados não estruturados em percepções qualitativas acionáveis, para derivar
conclusões relativas.
3.5 LIMITAÇÕES DO MÉTODO
Devido à constatação de que existem pesquisas mínimas disponíveis sobre os
aspectos éticos e legais da Inteligência Artificial (IA) e ao tempo curto destinado a elaboração
da pesquisa, aproximadamente oito meses, os resultados refletirão a limitação dos dados
disponíveis. No entanto, por ser um período curto de pesquisa, a coleta de dados em
bibliografia secundária possibilita o ganho de uma visão mais ampla do problema.
4 IMPLICAÇÕES SOBRE SEGURANÇA EM VÁRIOS DOMÍNIOS
A inteligência artificial tem implicações públicas, nacionais e culturais consideráveis.
Pela sua versatilidade, a IA levanta questões de liberdade de expressão, privacidade e
15
vigilância, propriedade de dados, preconceito e discriminação, manipulação de informação
e confiança, relações de poder e impacto ambiental em relação ao seu consumo de energia.
Os sistemas de IA têm implicações para os humanos, pois algoritmos em mídias sociais ou
sites de notícias podem falsificar notícias e produzir desinformação, confundindo os limites
entre "fatos" e "verdade". A partir de agora, discorreremos sobre alguns domínios
importantes da IA.
4.1 IA NA CONSTRUÇÃO DA PAZ E SEGURANÇA
O aumento do armamento da IA para fins militares é uma causa de séria preocupação.
Os dados "físicos" (satélite / vigilância) e "digitais" incluem todos os outros dados
(documentos, mídias sociais, dados sociológicos) são utilizados, permitindo à IA categorizar
dados massivos para identificar ameaças externas e internas - descobrir as estratégias dos
atores , interprete os planos por trás das atividades e sugira ações corretivas, bem como
previsões futuras (CONGATEC, 2020). Tal ferramenta de conscientização situacional
poderia ser um instrumento poderoso para prevenção e resolução de conflitos (HCSS, 2017).
Poderia dar uma visão dos fatores que impulsionam o esforço humano e ajudar a
desradicalização. A "inteligência antecipatória" pode prever inquietação e instabilidade social
e sugerir mitigação. No nível social, a IA pode nos levar a uma sociedade mais resiliente e
nos ajudar a avançar em direção a um mundo mais pacífico e livre de conflitos (COMEST ,
2019).
Do lado negativo, a IA transformará a natureza e a prática do conflito, com um
conseqüente impacto na sociedade que vai muito além de questões estritamente militares
(VALLOR, 2016). Não apenas mudará como a força explosiva é usada aumentando a
eficácia da implantação de sistemas de armas, mas também a IA promete melhorar
drasticamente a velocidade e a precisão de tudo, desde logística militar, inteligência e
consciência situacional até planejamento e execução / operações no campo de batalha. A
velocidade com que tais ferramentas de planejamento poderiam operar aumentaria a
capacidade de agir em situações de mudanças rápidas. Mas exemplos anteriores de avisos
enganosos sobre máquinas na guerra fria foram rejeitados pelo comandante humano no
local, evitando a 3ª Guerra Mundial e o apocalipse nuclear.
Existe a possibilidade de que a máquina de tomada de decisões auxiliada por IA
implemente suas próprias decisões de ataque e morte sem intervenção humana - por
exemplo, uma arma totalmente autônoma. Enquanto a IA pode ser considerada uma
revolução nos assuntos militares que permite às forças armadas realizar tarefas delicadas e
16
difíceis com precisão e sem interferência humana. Seu verdadeiro "potencial revolucionário
é transformar o conceito de" forças armadas em aquelas cujas armas são mais sutis do que
explosivas. Já estamos vendo isso no recurso de ataque de contexto cibernético (BIRD,
2020).
4.2 EDUCAÇÃO
A Inteligência Artificial requer um repensar do papel social da educação. A educação
deve capacitar os cidadãos a desenvolver novas formas de pensamento crítico, incluindo
“consciência de algoritmo (HAMILTON, 2014) e impacto da IA na informação, conhecimento
e tomada de decisão. A velocidade de mudança que a IA está trazendo apresenta muitos
desafios sem precedentes. Será necessária uma reeducação sobre IA moderna, para evitar
o analfabetismo digital. A educação formal tradicional será inadequada, uma vez que se
concentrou em letramentos formais como leitura, escrita e matemática. Os recursos
educacionais abertos (REA) (HYLEN, 2015) são de grande valor para a aprendizagem. Mas
encontrar o material relevante a partir de dados massivos é um grande problema. A IA pode
ajudar os alunos iniciantes com um conteúdo adequado às necessidades do aluno a partir
de enormes recursos de REA.
4.2.1 Conhecimento Científico
A IA afeta nossa aplicação de conhecimento científico quando justaposta em
contextos sociais. AI está em uma posição estratégica com seu aprendizado profundo
desafiando com sucesso as práticas científicas contemporâneas. Isso obviamente afetará
pesquisas futuras.
4.2.2 Ciências da Vida e Saúde
Tecnologias de IA como cirurgia robótica, aplicativos de diagnóstico de autoajuda
como IBM Watson, chatbots que fornecem ajuda psicológica, robôs de saúde para idosos e
facilitam a entrada de dados são de imenso benefício para a humanidade - ajudando os
pacientes e reduzindo a carga sobre os médicos. No entanto, eles perdem elementos de
cuidado humano, causam isolamento social e têm problemas como privacidade de dados,
17
automedicação e afetam a relação médico-paciente. Levanta questões filosóficas como “O
que é humano”. Portanto, é necessária uma regulação equilibrada com autonomia.
4.2.3 Ciência Ambiental
AI tem grandes benefícios em meio ambiente, ciência agrícola e gerenciamento de
risco de desastres, por meio do processamento de dados e aplicação e interpretação. Pode
ajudar a melhorar a conservação, a reciclagem, o consumo eficiente de energia, a melhoria
da produção agrícola, o bem-estar do gado, a proteção contra inundações, etc.
4.2.4 Tomada de decisão baseada em IA
A tomada de decisão baseada em IA está sendo usada cada vez mais. Isso afeta
muitas áreas, como o sistema judicial. No entanto, a decisão baseada em IA pode nem
sempre ser justa ou apropriada. Portanto, recomenda-se cautela ao implementar o papel
humano embutido nele.
4.2.5 Língua
Em traduções baseadas em IA de idiomas formais, as palavras podem ter significados
alterados e contexto em vários idiomas. Portanto, existe o risco de mal-entendidos e perda
de qualidade. A tradução automática e o armazenamento de idiomas são a vantagem da IA.
Na Austrália, o Centro de Excelência para a Dinâmica da Linguagem ARC registrou 50.000
horas de palavra falada, o que levaria 2 milhões de horas manualmente (O’BRIEN, 2018).
4.2.6 Comunicação
O jornalismo baseado em algoritmo e automatizado, bem como as notícias de mídia
social, podem ter um viés inerente. Isso afeta o direito de acesso à informação gratuita. A IA
pode espalhar informações ou notícias falsas, como o escândalo Cambridge Analytica
(JAKE, 2019), em que conteúdo manipulador, politicamente tendencioso e fabricado foi
usado para atingir constituintes específicos. A presença de pontos de vista livres e diversos
é importante para qualquer sociedade aberta. Pode levar a grupos de opinião
18
homogeneizados, que são antagônicos a outros grupos de opinião. A filtragem ou censura
por meio de IA também é um problema sério.
4.2.7 Igualdade De Gênero
Os sistemas de IA são construídos usando conjuntos de dados que refletem o mundo
real - um mundo que pode ser falho, injusto e discriminatório (MCKINSEY GLOBAL
INSTITUTE, 2019). Isso pode afetar a igualdade de gênero. Uma ferramenta de contratação
usada pela Amazon foi considerada sexista, pois priorizou candidatos do sexo masculino
para empregos técnicos (DASTIN, 2018). A aplicação de dados desagregados por gênero
no algoritmo de IA é importante.
5 REGULAMENTO JURÍDICO E ÉTICO
A Inteligência Artificial apresenta desafios sem precedentes nos domínios judiciário e
ético. A Assembleia Parlamentar do Conselho da Europa (PACE) conduziu um importante
trabalho sobre 'Direitos humanos na era do robô', com foco em: segurança, liberdade de
expressão, respeito pela privacidade, propriedade, dignidade humana, responsabilidade,
acesso a um julgamento livre e justo. Alguns novos direitos humanos foram destacados com
foco especial na proteção de dados pessoais, preferências e atividades de rastreamento
(TURNER, 2018). É essencial que as tecnologias de IA sejam desenvolvidas com padrões
éticos claros para que respeitem a dignidade / direitos humanos. Não havia uma estrutura
ética internacional formal relacionada a todas as aplicações e inovações em IA. Regras e
padrões precisam ser simplificados, já que as tecnologias de IA não são neutras, mas
inerentemente tendenciosas devido aos dados nos quais são treinados e às escolhas feitas
durante o treinamento nos dados e, além disso, a tomada de decisão da máquina de IA é
imprevisível.
Isso desafia o desenvolvimento de tecnologias de IA relacionados aos preconceitos
embutidos em algoritmos, incluindo preconceitos de gênero, a proteção da privacidade das
pessoas e dados pessoais, os riscos de criar novas formas de exclusão e desigualdades, as
questões de distribuição justa de benefícios e riscos, responsabilização, responsabilidade,
19
impactos no emprego e no futuro do trabalho, dignidade e direitos humanos, segurança e
riscos da dupla utilização (UNESCO, 2019).
Por causa das implicações sociais, muitas instituições e governos estão preocupados
com as implicações éticas da IA. Há uma série de relatórios e diretrizes sobre IA e ética -
como os do Conselho da Europa, da Comissão Europeia, do Instituto de Engenheiros
Elétricos e Eletrônicos (IEEE), da Organização para Cooperação e Desenvolvimento
Econômico (OCDE), a União Internacional de Telecomunicações (UIT) e a Organização
Mundial da Saúde (OMS) - que identificaram princípios importantes para o desenvolvimento
e implantação da IA (AMENSETY INTERNATIONAL, 2018).
A Inteligência Artificial desempenha um papel cada vez mais importante no
processamento, estruturação e fornecimento de informações, e é necessária atenção para
novas divisões digitais entre países e dentro de diferentes grupos sociais. A IA deve
fortalecer a liberdade de expressão, o acesso universal à informação, a qualidade do
jornalismo e a mídia livre, independente e pluralista, evitando a difusão de desinformação.
5.1 LEIS INTERNACIONAIS E DESENVOLVIMENTOS
O novo instrumento de definição de leis/padrões internacionais deve fornecer um
mecanismo global para incorporar valores e direitos éticos humanos universais em sistemas
de IA, compatível e alinhado com a visão centrada no ser humano. O recente aumento nas
declarações de princípios éticos sobre IA é um bom desenvolvimento:
a) A Declaração de Toronto (EUROPEAN COMMISION, 2019): Protegendo o direito
à igualdade e à não discriminação em sistemas de aprendizado de máquina.
b) Diretrizes de ética para IA confiável do Grupo de especialistas de alto nível em IA
da Comissão Europeia (IEEE, 2019).
c) O IEEE (HERRLE, 2019) Ethically Aligned Design: uma visão para priorizar o bem-
estar humano com sistemas autônomos e inteligentes, com foco em engenheiros.
d) O movimento de regulamentação digital da União Europeia com o objetivo de
proteger os dados pessoais precisa ser aprimorado (AVWM, 2019).
5.2 DESAFIOS ÉTICOS
Com as experiências realistas de autonomia de IA e robôs, uma questão fundamental
surgiu a respeito da responsabilidade legal e ética pela conduta de máquinas de IA. Os
20
precedentes anteriores colocavam a responsabilidade do animal de estimação nos
proprietários (RODRIGUEZ, 2019). O mesmo princípio está em jogo aqui. ‘Ética da máquina’
é a disciplina emergente, com o objetivo de lidar com questões morais. Isso envolve a
instalação de máquinas de IA com dados para funcionar de acordo com os princípios éticos.
Outra questão no futuro será o status aprimorado e/ou respeito das máquinas/robôs de IA,
e eles poderiam ser tratados como indivíduos quando se desenvolvem no domínio cognitivo
e demonstram comportamento moral e ético.
Para sistemas determinísticos do tipo AI, o programa e o programador controlam suas
ações, com clara responsabilidade pelas ações (ROUSE, 2018). Em tais casos, os
instrumentos legais podem ser usados para regulá-los. Considerando que, para sistemas
cognitivos do tipo AI, as decisões e ações de uma máquina de AI são aleatórias e
imprevisíveis, com estimativa estatística parcial. Portanto, é um problema sério o como
atribuir responsabilidades. Portanto, códigos e diretrizes éticas são exigidos tanto para
fornecedores quanto para usuários finais, além das leis.
Áreas críticas quando as máquinas de IA são capazes de causar danos, por exemplo,
robôs ou armas de soldados, ou mesmo carros autônomos. Em tais casos, é importante que
o controle humano ainda esteja no papel principal, e a autonomia dada à IA deve ser limitada.
Portanto, o princípio abrangente deve ser a responsabilidade humana (DIGNUM, 2019).
6 CONCLUSÃO
As tecnologias de IA devem ser introduzidas cuidadosamente em um ambiente
controlado e em menor escala. A produção em massa e a exposição ao público em geral só
devem ser realizadas após a formalização do código de conduta e ética . Isso deve informar
o processo de formulação de políticas e códigos de ética da AI.
Códigos de ética da AI a devem ser incluídos no currículo de áreas profissionais como
engenharia, medicina, ciências físicas e outros ramos semelhantes, em coordenação com
Ministério da Ciência.
Os efeitos da IA em humanos devem ser analisados anualmente. Os efeitos podem incluir
perda de empregos, seu impacto social e questões de privacidade. Após o que as medidas
necessárias e a correção podem ser tomadas. Devem ser buscadas medidas atenuantes e
oportunidades de emprego alternativas. Além disso, se um determinado sistema de IA está
causando mais danos do que benefícios, ele deve ser retirado do mercado / uso público.
21
O controle humano sobre as armas autônomas não é negociável. As diretrizes do
CICV precisam ser seguidas.
Para veículos autônomos com direção autônoma, que operam com aprendizado de
máquina, a responsabilidade deve permanecer com um humano (motorista).
O Direito Internacional Humanitário precisa ser atualizado para lidar e controlar as
questões éticas relacionadas ao uso de robôs armados ou drones. O operador não deve ser
autorizado a utilizá-los sem um órgão superior para autorizar o seu uso em cada ocasião.
Não é apenas um princípio legal, mas também moral, quando a IA tira uma vida humana
preciosa.
As leis devem ser aprovadas contra todas as agências que coletam e compilam dados
pessoais dos usuários para fins comerciais, políticos ou outros fins nas redes sociais /
internet.
O Código de Ética para Inteligência Artificial deve ser desenvolvido pelas Nações
Unidas e, como um documento vivo, deve ser atualizado regularmente, visto que a tecnologia
está avançando muito rapidamente.
A IA potencialmente representa muitos riscos para os direitos humanos, como por
exemplo saúde, educação, agricultura, comércio eletrônico, finanças e guerra, etc. No
entanto, se gerida e controlada de forma adequada, pode beneficiar substancialmente os
humanos também. O funcionamento de robôs cognitivos / Inteligência Artificial está
causando novos problemas e desafios, mudanças sociais e criando questões sem
precedentes relacionadas a todos os aspectos, incluindo segurança e privacidade. É
importante que o regime jurídico internacional crie ferramentas e estrutura legal para verificar
e controlar as questões éticas e legais que a IA está causando e realizar correções a fim de
torná-la uma ferramenta mais útil para a humanidade.
REFERÊNCIA
22
Schwab, Klaus. The Fourth Industrial Revolution: what it means and how to respond. 2016. Disponível em: https://www.weforum.org/agenda/2016/01/the-fourth-industrial-revolution-what-it-means . Acessado em: 11 setembro 2020.
West, Darrell. How artificial intelligence is transforming the world. Disponível em: https://www.brookings.edu/research/how-artificial-intelligence-is-transforming-the-world/ Acessado em: 27 Outubro 2020.
Polk, Ryan. Artificial Intelligence & Machine Learning: Policy Paper | Internet Society. Disponível em: https://www.internetsociety.org/resources/doc/2017/artificial-intelligence-and-machine-learning-policy-paper/?gclid Acessado em: 26 out 2020.
Markoff, John. On ‘Jeopardy!’ Watson Win Is All but Trivial - The New York Times. Disponível em: <https://www.nytimes.com/2011/02/17/science/17jeopardy-watson.html>. Acessado em: 29 out 2020.
Moravec, Hans. Rise of the Robots--The Future of Artificial Intelligence - Scientific American. Disponível em: <https://www.scientificamerican.com/article/rise-of-the-robots/>. Acessado em: 27 out 2020.
CONGATEC. New state-of-the-art Computer-on-Modules - Military Embedded Systems. Disponível em: <https://militaryembedded.com/radar-ew/rugged-computing/new-state-of-the-art-computer-on-modules>. Acesso em: 27 Outubro 2020.
HCSS. Artificial Intelligence And The Future Of Defense Strategic Implications For Small-And Medium-Sized Force Providers. 2017. Disponível em: https://hcss.nl/sites/default/files/files/reports Acessado em: 20 setembro 2020.
COMEST. AI ethics. Disponível em: https://en.unesco.org/themes/ethics-science-and-technology/comest . Acessado em: 26 setembro 2020.
Vallor, Shannon. Technology and the Virtues: Oxford University Press, 2016. Disponível em: https://oxford.universitypressscholarship.com/view/10.1093/acprof:oso1. Acessado em: 27 setembro 2020.
Bird, Eleanor. The ethics of artificial intelligence: Issues and initiatives. 2020. Disponível em: http://www.europarl.europa.eu/thinktank . Acessado em: 28 setembro 2020.
Hamilton, Kevin. A Path to Understanding the Effects of Algorithm Awareness. 2014. Disponível em: http://dx.doi.org/10.1145/2559206.2578883 . Acessado em: 11 Outubro 2020.
Hylen, Jan. Opportunities and challenges Education Analytics in Stockholm. 2015. Disponível em: http://www.okfn.org Acessado em: 27 Outubro 2020.
23
O’Brien, Abbie. How AI is helping preserve Indigenous languages. Disponível em: https://www.sbs.com.au/news/how-ai-is-helping-preserve-indigenous-languages . Acessado em: 3 Outubro 2020.
Mckinsey Global Institute. Artificial Intelligence The Next Digital Frontier. 2017. Disponível em: https://www.mckinsey.com/~/media/mckinsey/industries/advanced%20electronic . Acessado em: 3 Outubro 2020.
Dastin, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women | Reuters. 2018 . Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G . Acessado em: 27 Outubro 2020.
Turner, Jacob. Robot rules: Regulating artificial intelligence. 2018. . Disponível em:
https://books.google.com.br/books?hl=pt BR&lr=&id=moB1DwAAQBAJ&oi, . Acessado em:
6 Outubro 2020.
UNESCO. Towards an Ethics of Artificial Intelligence . 2019. Disponível em: https://www.un.org/en/chronicle/article/towards-ethics-artificial-intelligence . Acessado em: 27 Outubro 2020. Amnesty International. The Toronto Declaration: Protecting the rights to equality and non-discrimination in machine learning systems. Disponível em: https://www.accessnow.org/the-toronto-declaration-protecting-the-rights-to-equality-and-non-discrimination-in-machine-learning-systems/ Acessado em: 7 Outubro 2020. European Commision. Ethics guidelines for trustworthy AI | Shaping Europe’s digital future. Disponível em: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai . Acessado em: 7 Outubro2020.
Herrle, Jeanette. The Peril and Potential of the GDPR | Centre for International Governance Innovation. 2019. Disponível em: https://www.cigionline.org/articles/peril-and-potential-gdpr . Acessado em: 27 Outubro 2020.
AVWM. Guidelines for Responsible Pet Ownership | American Veterinary Medical Association. 2019. Disponível em: <https://www.avma.org/resources-tools/avma-policies/guidelines-responsible-pet-ownership>. Acessado em: 7 Outubro 2020.
Rodriguez, Jesus. Seven Key Dimensions to Help You Understand Artificial Intelligence Environments. Disponível em: https://www.kdnuggets.com/2019/07/seven-key-dimensions-understand-artificial-intelligence-environments.html . Acessado em: 7 Outubro 2020.
24
ROUSE, Margaret. What is cognitive computing? - Definition from WhatIs.com. 2018. Disponível em: <https://searchenterpriseai.techtarget.com/definition/cognitive-computing>. Acessado em: 7 Outubro 2020.
Dignum, Virginia. Responsible Artificial Intelligence: Ethical Thinking by and about AI. 2019. Disponível em: https://books.google.com.br/books?hl=pt-BR&lr=&id=EEO8DwAAQBAJ&oi=fnd&pg=PR5&dq=Dignum,+Virginia.+Responsible+Artificial+Intelligence:+Ethical . Acessado em: 7 Outubro 2020.