A utilização do COMPAS como ferramenta de sentenciamento

         Sentenciar uma pessoa levando em consideração um crime que ainda não foi cometido, mas que potencialmente possa vir acontecer lhe parece justo? E se esse potencial fosse calculado por um programa que teoricamente fosse imparcial com base em estatística, mudaria sua opinião? A premissa pode lembrar o filme Minority Report (2002), porém, já é realidade em alguns tribunais norte-americanos, onde sentenças são atribuídas de acordo uma nota gerada por um programa chamado COMPAS, da empresa Equivant, que  avalia o risco de reincidência criminal de um réu.

 

                                                              Algoritmo ajuda a decidir sentenças em alguns estados americanos. Crédito: BBC News

Um caso emblemático envolvendo o COMPAS ocorreu, segundo um artigo da BBC[1], em 2013, quando um carro com dois ocupantes disparou tiros contra uma residência de uma pequena cidade do estado de Wisconsin, nos Estados Unidos. Um dos ocupantes do veículo, Eric L. Loomis, confessou que estava dirigindo o carro, mas negou que tivesse feito os disparos. Loomis foi sentenciado a 6 anos de prisão por ser categorizado como “indivíduo de alto risco” após análise do algoritmo. Loomis, tentou recorrer da decisão, mas em 2016 o tribunal declarou que o COMPAS, desde que utilizado de maneira imparcial, não pode ferir qualquer direito do réu e que a decisão sem a sua utilização teria sido a mesma.

 

O caso de Loomis levanta a discussão de quão ético é atribuir uma pena de acordo com a probabilidade de uma pessoa voltar a cometer um crime, uma vez que o novo crime ainda não ocorreu e que talvez nunca venha a ocorrer. A discussão toda fica ainda mais delicada se levarmos em conta o fato da Equivant não revelar quais critérios são utilizados para quantificar o “risco de reincidência” em uma nota que varia de 1 a 10. De acordo com um artigo de 2019 [2]:

 

“Não se sabe ao certo como é o funcionamento do algoritmo do COMPAS, pois a empresa se recusou a divulgá-lo. Isso faz com que o réu não consiga questionar o resultado, pois não se sabe como foi calculado o seu risco.”

 

Além disso, segundo o mesmo artigo, o próprio criador do algoritmo, Tim Brennan, já declarou que sua criação não tinha o objetivo de ser usada em sentenças judiciais.

 

Em 2016, o ProPublica, um jornal investigativo norte americano, publicou uma matéria [3] defendendo a tese de que o COMPAS poderia conter um viés discriminatório ao atribuir notas normalmente maiores para grupos étnicos minoritários. Ainda em 2016, a Equivant fez uma publicação[4] se defendendo das acusações do jornal e contestando alguns dados ao alegar que os mesmos possuíam erros de análise estatística.

 

Do ponto de vista ético, é possível que a Equivant esteja violando alguns códigos de ética da Association for Computing Machinery (ACM)[5], como:

 

1.3 Be honest and trustworthy (Seja honesto e confiável): Uma vez que a forma como o programa calcula as notas permanece um mistério.

1.4 Be fair and take action not to discriminate (Seja justo e tome medidas para não discriminar): Caso as alegações do jornal ProPublica provem-se verdadeiros.

Embora um algoritmo como o do COMPAS possa ser útil na agilização de sentenças, as implicações éticas devido à sua utilização não podem ser menosprezadas. Estamos vivendo uma crescente  adoção de ferramentas que também auxiliam a execução de outros tipos de tarefas, principalmente ligadas ao uso de inteligência artificial. É preciso que debates sobre seus impactos na ética e em outros aspectos sociais sejam levados a sério, pois a adoção dessas novas tecnologias em um ritmo acelerado e sem controle pode vir a causar danos irreparáveis no funcionamento das relações humanas no futuro.

 

Referências:

[1] BBC | Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA. Disponível em https://www.bbc.com/portuguese/brasil-37677421. Acesso em 16 de agosto de 2023.

 

[2] UNICAMP | A PROBLEMÁTICA DA INTELIGÊNCIA ARTIFICIAL E DOS VIESES ALGORÍTMICOS: CASO COMPAS. Disponível em https://lcv.fee.unicamp.br/images/BTSym-19/Papers/090.pdf. Acesso em 16 de agosto de 2023.

 

[3] ProPublica | How We Analyzed the COMPAS Recidivism Algorithm. Disponível em https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm. Acesso em 17 de agosto de 2023.

 

[4] Equivant | Response to ProPublica: Demonstrating accuracy equity and predictive parity. Disponível em https://www.equivant.com/response-to-propublica-demonstrating-accuracy-equity-and-predictive-parity/. Acesso em 17 de agosto de 2023.

 

[5] ACM | ACM Code of Ethics and Professional Conduct. Disponível em https://www.acm.org/code-of-ethics. Acesso em 17 de agosto de 2023.