O Desenvolvimento de algoritimos e inteligência artificial (IA) com base na proteção de direitos fundamentais

A moderação de conteúdos automatizada empregada pelas plataformas digitais tem gerado efeitos colaterais ou externalidades negativas já amplamente documentadas.

Os impactos do emprego de algoritmos na moderação de conteúdos são severos: passam por questões de racismo, discriminação, aumento da polarização, do discurso extremo, do discurso de ódio, “washing” racial, entre outros.

Nesse sentido, o desenvolvimento de algoritmos e da Inteligência Artificial precisa respeitar princípios e valores já consolidados na sociedade. Valores éticos por exemplo são fundamentais para poder se consolidar o que se denomina atualmente como “human rights by design” ou seja, que o desenho de tecnologias já considere o respeito aos direitos humanos e outros valores sociais que mitiguem ou minimizem os efeitos negativos do seu emprego.

Neste quesito, por exemplo, foi proposto que se repense o design de plataformas para diferenciar conteúdos orgânicos e patrocinados. É importante que a regulação se atente para mecanismos de desenvolvimento de IA permita, facilite ou favoreça mecanismos de controle social. Além disso, com o intuito de aprimorar a relação com a diferença, o algoritmo deve incentivar a exposição à diversidade de conteúdos, posições políticas, abordagens científicas.

Esse tema foi abordado no relatório da Oficina realizada pelo GT Regulação de Plataformas (cgi.br).

Por derradeiro, a questão em voga deve ser tratada com certa prudência no sentido da proteção dos direitos fundamentais, uma vez que, a tecnologia sem dúvida é uma ferramente de evolução, entretanto, não deve prevalecer sua premissa acima dos nossos direitos fundamentais.

Esta preocupação é de extrema valia, haja vista os direitos fundamentais ser base principiológica da nossa Carta Magna ( Constituição Federal), portanto, deve ser desprezada.

Além disso, é evidente que com o crescimento dos conteúdos automatizados nas plataformas digitais, aumentam a incidência de conteúdos ofensivos, sendo extremamente necessário a implementação de mecanismos de filtragem, e consequentemente mitigação de propagação dos mesmos.

Assim, o controle social, sob o contexto do relatório, está referenciado na compreensão da organização humana em grupos sociais, de uma forma ou outra, na relação de ordem ou de desordem, ou harmonia e conflitos gerados pelos algoritimos.

Em suma, entende-se que a evolução frenético da IA, deve ser pautada sob o viés da tecnologia em pró sociedade, com necessária regulação e controle das informações, evitando aumentar a incidência de desinformações, discriminações e discursos de ódio, que lamentavelmente vem crescendo alarmantemente.

Fonte: Relatório da Oficina GT (cgi.br)

Imagem Imagem de Gerd Altmann por Pixabay