Os desafios da regulamentação de IA

Por Rafael Pellon


Em tempos tão únicos como estes em meio a uma pandemia nossa vida digital se acelerou exponencialmente, com todos adotando ferramentas digitais como nunca antes, nos permitindo sobreviver, ainda que ausentes da vida em sociedade como a conhecíamos. Neste contexto as ferramentas de inteligência artificial que surgiram nos provaram seu valor e utilidade, ainda que estejamos com uma visão ainda turva sobre seu real impacto neste momento.

Diante deste contexto, diversas autoridades e países começam a se questionar sobre o melhor momento para iniciarmos análises para a regulação dos usos possíveis para a inteligência artificial. Acaso tenhamos que definir limites ou alguma regulação, como isto seria implementado?

É preciso reconhecer, antes de mais nada, que não há como criar uma única regulamentação para inteligência artificial, dada sua fluidez, já que aplicações utilizando IA podem ser criadas para os mais diversos fins. Se é necessária uma regulação de algum nível para aplicações de inteligência artificial, qual afinal seria a regulação correta, que não prejudique a sua evolução mas permita a proteção de direitos daqueles que a utilizem?

As discussões sobre o tema geralmente partem de iniciativas de mapeamento dos usos e aplicativos que se utilizam de inteligência artificial para então definir seus riscos e identificar os casos em que algo deu errado. Atualmente, a maior parte dos casos críticos se concentra no uso de ferramentas de reconhecimento facial e seus limites, a falta de regras mínimas para se experimentar novas aplicações que utilizem inteligência artificial e o fato de que, ao final do dia, todos somos cobaias nos mais diversos projetos, não importando muito se estamos em regiões mais ou menos desenvolvidas do planeta.

Neste cenário de desenvolvimento rápido e inovação, quais seriam os limites éticos que nós, como sociedade, deveríamos implementar para evitar a impressão de que um futuro distópico nos aguarda em breve, nos assustando a cada notícia sobre novas formas exóticas que demonstram o poder da inteligência artificial? A maior parte dos especialistas parece concordar atualmente que as aplicações militares, de saúde pública, finanças e de segurança pública deveriam ter limitações específicas para o emprego de inteligência artificial, dado seu enorme potencial de afetar milhões de pessoas substancialmente.

Isto significa que qualquer iniciativa regulatória deve tratar destas indústrias de forma vertical, definindo regras específicas para cada uma delas? Nem tanto. Está cada vez mais claro que algum nível de regulação vertical é de fato necessária, dadas as características únicas destas indústrias. Já é claro que algumas regras básicas como o o direito de transparência sobre decisões envolvendo regras de crédito financeiro, quando tomadas unicamente por um algoritmo, devem contar com a revisão humana quando necessário, assim como a proibição de miras automáticas por câmeras automatizadas em sistemas de armamentos, considerando os diversos erros que um cenário de conflito armado teria. É consenso entre especialistas que tais sistemas de armamentos não devem utilizar inteligência artificial por ora.

Já na indústria de saúde os maiores problemas decorrem da criticidade das informações coletadas por empresas privadas e como tais dados serão utilizados futuramente, um paradoxo frequentemente comentado por especialistas na regulação de privacidade já que o bom funcionamento das ferramentas de inteligência artificial necessita de grandes bancos de dados com uma miríade de informações sobre os seus usuários. Balancear comodidade com segurança e privacidade é um dos grandes desafios de qualquer empresa que deseje se destacar neste mercado, especialmente se considerarmos que os dados coletados, se bem armazenados, não irão decair ou perder sua validade tão cedo. Desta forma, com a coleta habitual e passiva de dados de saúde através de diversos serviços digitais, a melhor regulação para assegurar certos direitos aos usuários no momento parecem ser a GDPR europeia e, cá no nosso lado do Atlântico, a LGPD brasileira. Exemplarmente, o Professor Yuval Harari destacou os riscos e grau de criticidade destes dados de saúde nos dois primeiros minutos deste vídeo.

Por fim, diante de todo este cenário, merece destaque o fato de que diversos gigantes de tecnologia interromperam a comercialização de ferramentas de reconhecimento facial a forças de segurança pública, em razão dos recentes protestos contra o racismo estrutural nos Estados Unidos e no restante do planeta. De toda maneira, há diversas outras ferramentas que utilizam inteligência artificial de formas controversas, como esta matéria do New York Times bem demonstrou.

Ainda é cedo para termos uma visão pessimista sobre a tecnologia e seus usos, mas talvez já tenha chegado o momento de contarmos com uma regulamentação horizontal que proteja os cidadãos globais em uma era tão complexa e cada vez mais digital. O futuro do século XXI nos cobrará pelas decisões tomadas nos próximos anos.


69 visualizações
LINKS
CONTATO

contato@i2ai.com.br

Avenida Angélica, 2118. CJ 94
01228-200

São Paulo - SP 

SIGA A I2AI
  • Facebook ícone social
  • LinkedIn ícone social
  • YouTube

© 2020 - I2AI - International Association of Artificial Intelligence

contato@i2ai.com.br
Avenida Angélica, 2118. CJ 94. CEP 01228-200 - São Paulo - SP

CNPJ: 33.270.289/0001-18

Termos e Condições
A associação em todos os seus modelos é renovada a cada doze meses.  A pessoa física ou jurídica receberá a confirmação da sua associação em 24 horas úteis.

Política de Privacidade
Seus dados serão utilizados para o envio de comunicados e ofertas personalizadas da I2AI.

Política de Reembolso
Em caso de associação através da plataforma de pagamentos deste site, o Associado poderá desistir deste instrumento no prazo de 15 (quinze) dias a contar da data de adesão do Associado a I2AI Brasil. Caso esse direito de arrependimento seja exercido pelo Associado, os valores eventualmente pagos, a qualquer título, durante o prazo de reflexão, serão devolvidos integralmente em até 7 dias úteis da solicitação.​​

O pedido de reembolso pode ser feito diretamente ao e-mail contato@i2ai.com.br contendo os dados utilizados no momento da associação.