A lei como código: os impactos da IA sobre a legislação e seus desafios para o futuro
Uma análise crítica e as implicações éticas e jurídicas das projeções de Susskind sobre normas programadas em dispositivos
Richard Susskind, um dos autores mais relevantes quando o assunto é tecnologia e direito, autor de livros como The End of Lawyers?, The Future of the Professions (em coautoria com Daniel Susskind, seu filho), Tomorrow’s Lawyers e Online Courts and the Future of Justice, escreveu recentemente um breve mas interessante artigo sobre o futuro da legislação na era da inteligência artificial. O texto foi publicado no The Times, de Londres.
Susskind diz que o caso da lei elaborada pelo ChatGPT e aprovada pelos vereadores de Porto Alegre1 inspirou-o a realizar testes de redação legislativa com IA, usando o ChatGPT 3.5 para gerar várias leis sobre tributos e divórcio, assim como regulamentos locais sobre o uso de parques públicos. Ele afirma que “a redação pelo sistema foi impressionante, mas não isenta de erros”.
Considerando como essa tecnologia tem avançado, o Professor britânico, então, faz uma série de previsões sobre o papel da IA nas questões envolvendo a legislação.
“(…) Em menos de cinco anos os sistemas de IA serão capazes de elaborar primeiras versões de alta qualidade de projetos de leis e regulamentos complexos. Esses sistemas também serão capazes de simplificar, resumir e explicar a legislação, personalizando-a para diferentes categorias de leitores (…). Além disso, será possível traduzir leis de uma jurisdição para a forma e idioma de outras”.
Susskind também pediu ao ChatGPT que produzisse a legislação e os regulamentos em forma de código executável, ou seja, como programas de computador, usando a linguagem de programação Prolog. Segundo ele, os resultados foram notáveis e esse processo deve se tornar confiável em alguns anos.
Converter normas em código trará importantes consequências tanto para os legisladores quanto para aqueles que buscam compreender a legislação:
levará ao desenvolvimento de ferramentas poderosas de identificação e correção de problemas em textos legais, por exemplo, “realizando análises de cenários hipotéticos ou identificando inconsistências, ambiguidades sintáticas e lacunas nas regras”.
textos legais poderão ser transformados em sistemas simples de perguntas e respostas, “que ajudarão os usuários a entender seus direitos e deveres”.
A lei como código
Para mim, no entanto, a previsão mais impactante de Susskind é sobre como esses códigos gerados por IA serão implantados (embedding) em sistemas físicos como carros autônomos.
“Por exemplo, ao incorporar a legislação de trânsito diretamente nesses veículos autônomos, exceder limites de velocidade ou avançar semáforos vermelhos não será possível — exceto em casos de emergência, o software que controla o movimento dos carros implementará estritamente a lei relevante”.
Isso também será a realidade para quem estiver em aviões, trens e edifícios. A lei como código estará entranhada neles, sendo atualizada remotamente e muitas vezes automaticamente. Nesse cenário, “a opção pela não conformidade não será mais do que colocar um quatro vermelho sob um cinco vermelho ao jogar paciência em um celular”.
O compliance em bancos e empresas, que progressivamente dependem de “fluxos de trabalho eletrônicos cada vez mais complexos para negociação e transações”, passará por uma revolução. Isso porque na medida em que o compliance será assegurado não por ter mais humanos no processo, mas por embutir a legislação nesses processos operacionais, erros e fraudes devem ser amplamente eliminados.
O resultado disso tudo, afirma Susskind, é que o uso da inteligência artificial para redigir e implementar a legislação digitalmente deve se tornar uma exigência no Estado de Direito. O desfecho disso: o que a IA alcançar será também alcançado pela ordem jurídica, pelo governo das leis.
A liberdade e o direito
Embutir leis por meio de código em carros autônomos, trens e edifícios pode ser muito benéfico, aumentando a segurança e tornando a vida mais eficiente. Por isso, certamente é uma iniciativa interessante. Mas sabemos que, como tecnologia, a IA, ao ter seus resultados (outputs) colocados no lugar de tomadas de decisões humanas, acaba por restringir o espaço de autonomia humana. Seria esse o caso aqui?
Uma coisa é o indivíduo decidir cumprir ou não cumprir a lei e, neste caso, sofrer as consequências pela sua violação. Mas uma situação na qual nos é tirada essa escolha, parece-me estranhamente flertar com uma ofensa à dignidade humana, na medida em que retira das pessoas a liberdade. Digo que isso é estranho porque estaríamos diante de uma situação na qual o triunfo do direito resultaria no fim da liberdade. É como se o direito só pudesse favorecer a dignidade humana se ele deixasse aberta a via do seu descumprimento.
É claro que, em tese, as pessoas, por meio de seus representantes, fariam a escolha do conteúdo da legislação e, nesse sentido, a liberdade poderia estar garantida. Mas criar um ambiente em que a lei praticamente impossibilita seu descumprimento é — por seu ineditismo — uma situação verdadeiramente estranha.
Seguramente, poderíamos pensar em ambientes em que soluções como essas seriam possíveis. Mas incorporar a lei sob a forma de código em todo e qualquer sistema físico é algo que assusta.
Você gostaria de viver num mundo como esse? No extremo, isso tornaria a vida humana como a conhecemos hoje algo insuportável. Pense na quantidade de vezes em que, na sua vida cotidiana, você sabe que há regras mas as desconsidera, por razões diversas, por circunstâncias imprevisíveis. Imagine se essa possibilidade fosse sensivelmente reduzida ou, na situação mais radical, não fosse mais possível. Como você se sentiria?
Mudar o modo como os humanos lidam com os dispositivos e as estruturas concretas que fazem parte de seu cotidiano não é, portanto, algo trivial.
E se você, acostumado a estar no controle do seu automóvel ou outros dispositivos, agora tivesse que se contentar com dispositivos que lhe impossibilitasse de fazer isso? Como você se sentiria? Estenda isso para todas as outras situações da nossa vida diária e perceba o potencial opressivo da incorporação da lei como código em sistemas físicos.
Talvez por isso essa proposta seja inexequível se tentarmos adotá-la de maneira disseminada. Embora possa ser implementada com sucesso em ambientes específicos.
Por fim, é preciso notar que embora a incorporação de código possa ser eficaz em certas áreas do direito, como o direito tributário, em outras, parece inadequada, como no direito de família, devido à complexidade das relações humanas envolvidas.
Além disso, se permitíssemos, como vaticina Susskind, que sistemas como o ChatGPT atualizem automaticamente o código a ser aplicado nos diversos ambientes nos quais vivemos, estaríamos transformando-o no legislador de fato. As consequências problemáticas disso são evidentes no campo da ética, da política e da democracia.
Em Porto Alegre, um projeto de lei foi redigido pelo ChatGPT e aprovado pelos vereadores, sem saber que se tratava de um texto gerado por IA. Até onde tenho notícia, é a primeira lei escrita pelo ChatGPT no Brasil e talvez no mundo.
[NOVA TURMA] WORKSHOP FRAMEWORKS DE GOVERNANÇA DE IA
Dias 16 e 17/04/2024 (3ª e 4ª feira), das 19h30 às 21h30, André Gualtieri e Nuria López vão estar online e ao vivo em um workshop exclusivo que vai apresentar quatro dos principais Frameworks de IA do mercado (UE, ICO, NIST e OCDE).
Serão dois dias de muito conteúdo aprofundado e prático sobre como esses Frameworks podem ajudar você a construir a Governança de IA na sua empresa.
As vagas são limitadas, então clique aqui para se inscrever já.