O Acordo sobre o AI Act
Qual o conteúdo da regulação europeia sobre Inteligência Artificial que deve estabelecer parâmetros importantes para o desenvolvimento e uso dessa tecnologia
Ontem a Europa deu um passo importante para que o tão esperado AI Act se torne uma realidade: negociadores do Parlamento e do Conselho europeus chegaram a um acordo provisório sobre o que deve constar no texto da regulação da inteligência artificial.
Foi divulgado um comunicado de imprensa sobre o acordo, contendo as linhas gerais do texto que ainda precisa ser votado pelo Parlamento europeu. Esses pontos são os seguintes.
Aplicações banidas
sistemas de categorização biométrica que utilizam características sensíveis (por exemplo, crenças políticas, religiosas, filosóficas, orientação sexual, raça);
scraping não direcionado de imagens faciais da Internet ou imagens de sistemas de vigilância por câmeras para criar bancos de dados de reconhecimento facial;
reconhecimento de emoções no local de trabalho e nas instituições de ensino;
score social baseado em comportamento ou características pessoais;
sistemas de IA que manipulam o comportamento humano para contornar o livre arbítrio das pessoas;
IA que explore as vulnerabilidades das pessoas (devido à sua idade, deficiência, situação social ou econômica).
Exceções para fins criminais
usar sistemas de IA para realizar identificação biométrica remota de pessoas fica sujeito a autorização judicial prévia e apenas para certos crimes que devem ser estritamente definidos;
esses sistemas também podem ser utilizados para busca de uma pessoa condenada ou suspeita de ter cometido um crime grave;
a identificação biométrica remota em tempo real deve ser por período e localização limitados e direcionada às seguintes situações: buscas de vítimas de sequestro, tráfico e exploração sexual, prevenção de ameaça terrorista específica e atual, localização ou identificação de uma pessoa suspeita de ter cometido um dos crimes específicos mencionados no AI act (por exemplo, terrorismo, tráfico, exploração sexual, homicídio, sequestro, estupro, assalto à mão armada, participação numa organização criminosa e crime ambiental).
Obrigações específicas para sistemas de IA de alto risco
são sistemas de alto risco aqueles que apresentam potencialidade de danos significativos para a saúde, a segurança, os direitos fundamentais, o meio ambiente, a democracia e o Estado de direito;
os setores bancário e de seguros são obrigados a realizar uma avaliação de impacto aos direitos fundamentais, em inglês fundamental rights impact assessment (FRIA);
são considerados de alto risco os sistemas de IA utilizados para influenciar o resultado das eleições e o comportamento dos eleitores;
os cidadãos terão o direito de apresentar reclamações e receber explicações sobre decisões baseadas que afetem os seus direitos.
Salvaguardas para sistemas de IA de propósito geral
sistemas desse tipo têm uma ampla gama de usos possíveis, tanto intencionais quanto não pretendidos pelos desenvolvedores. O ChatGPT e similares se enquadram aqui;
esses sistemas ficam obrigados a observar requisitos de transparência como a elaboração de documentação técnica, o cumprimento da legislação da UE em matéria de direitos de autor e a divulgação de resumos detalhados sobre o conteúdo utilizado no treinamento;
IA’s de propósito geral que sejam de alto impacto e apresentem risco sistêmico terão que avaliar e mitigar esse riscos, realizar testes adversariais, comunicar os incidentes graves, garantir a cibersegurança e informar sobre a sua eficiência energética.
até que sejam publicadas padronizações da UE, IA’s de propósito geral com risco sistémico podem basear-se em códigos de boas práticas para cumprir estar em acordo com a regulação.
Medidas para apoiar a inovação e as micro e pequenas empresas
para garantir que especialmente as micro e pequenas empresas possam desenvolver soluções de IA sem pressão indevida das gigantes da indústria que controlam a cadeia de valor, serão promovidos sandboxes e testes no mundo real (real-world-testing), para desenvolver e treinar aplicações inovadoras de IA antes de serem colocadas no mercado.
Sanções
O descumprimento das regras do AI Act pode levar a multas que variam entre 35 milhões de euros ou 7% do faturamento global e 7,5 milhões ou 1,5% do faturamento, dependendo da infração e da dimensão da empresa.
Observações
A Lei sobre Inteligência Artificial da União Europeia está baseada nos direitos fundamentais e em valores reconhecidos pelas Cartas de Direitos que a Europa endossa, como democracia, Estado de direito e sustentabilidade ambiental.
A partir desse fundamento não só a regulação é estabelecida, mas os princípios éticos são propostos e a estrutura de governança é montada. Assim, numa curiosa inversão da relação entre ética e direito tradicionalmente estabelecida, a concepção europeia de IA confiável tem seu fundamento nos direitos — a verdadeira base moral da proposta — ao passo que os princípios éticos e os requisitos que derivam deles são apresentados como ferramentas utilizadas para se concretizar os direitos fundamentais.
Na perspectiva europeia, o AI Act visa sobretudo a proteção contra a IA de alto risco, ao mesmo tempo em que estimula a inovação. As regras estabelecem obrigações para a IA de acordo com seus riscos potenciais e níveis de impacto.
Sobre os pontos do acordo listados no comunicado de imprensa, algumas questões importantes merecem reflexão. A utilização de sistemas de IA para fins de monitoramento em espaços públicos é uma questão delicada e o acordo apresenta uma lista de exceções à proibição geral. Cabe avaliar se essas exceções são pertinentes ou são amplas demais. Crimes ambientais e roubo a mão armada, por exemplo, são mencionados nessa lista. Deveriam estar nela?
A preocupação com a saúde da democracia e das eleições é algo também que se destaca. Isso ficou ainda mais relevante depois do boom da IA generativa, que permite que imagens, vídeos e áudios sejam facilmente produzidos e utilizados em campanhas eleitorais. Já escrevi sobre isso aqui.
Também por conta da IA generativa, houve a preocupação de o projeto do AI Act, que é de 2021, acrescentando nele salvaguardas direcionadas especificamente a sistemas desse tipo. Para isso, foram colocadas regras sobre os sistemas de IA de propósito geral.
O diabo está nos detalhes
Os políticos, é claro, celebraram o acordo.
Aqui vemos Roberta Metsola, Presidente do Parlamento europeu destacando a liderança da UE.
Colocando a retórica política de lado, a realidade é mais complexa: os líderes do desenvolvimento da tecnologia são EUA e China. A Europa não possui nenhuma das empresas que esses dois países possuem e que lideram o desenvolvimento da IA, como OpenAI, Google e Baidu e Tencent. Mas certamente a Europa encontra protagonismo na regulação. Nesse campo realmente ela lidera e influencia o resto do mundo.
Mas há que se ter cuidado sobre a avaliação do acordo divulgado ontem, pois o texto não foi divulgado. O que temos são apenas as linhas gerais colocadas no comunicado de imprensa. E se não temos o texto, não temos condição de avaliar os detalhes e julgar se, por exemplo, há alguma exceção que não deveria ser estabelecida.
Mas é certo que foi dado um passo muito importante e o AI Act está mais próximo de se transformar numa realidade. Embora a existência do acordo sugira a disposição do Parlamento em confirmar todos esses pontos, o texto ainda precisa ser efetivamente aprovado em votação. Um parlamento sempre pode trazer surpresas.
Se você está procurando uma formação completa em Inteligência Artificial, vale conhecer o meu Curso Preparatório para o EXIN BCS Artificial Intelligence Foundation. Ele tem todo o conteúdo o conteúdo cobrado no exame de certificação e outros conteúdos adicionais, que garantem um panorama do básico até o gerenciamento de projetos de IA, passando por ética e riscos jurídicos.
O Curso foi gravado para que você possa assistir as aulas no seu tempo e se preparar com toda a flexibilidade e comodidade do online. Ele é vendido separadamente do Exame. Assim, você pode adquirir o Exame após concluir o Curso e fazer o Simulado. Tenho certeza que até lá você já estará confiante para a sua Certificação!
Ainda que você não deseje fazer a Certificação, o Curso é bastante completo (afinal, cobre todo o conteúdo EXIN e mais) e garante uma formação básica multidisciplinar, robusta e de qualidade sobre Inteligência Artificial.
Saiba mais e se inscreva já neste link.
Espero que vocês gostem! 🙂