Accountability dos algoritmos: desafios da inteligência artificial para o governo aberto

Sistemas de inteligência artificial começam a ser implementados pelos governos e já se discutem os riscos de que seus algoritmos possam reforçar discriminações – como socioeconômicas, raciais e de gênero. Algoritmos são as regras, ou o “passo-a-passo”, com as quais os sistemas tomam decisões programadas sobre serviços, direitos, cálculos de impostos, nos mais diversos domínios das políticas públicas. A depender de como são projetados ou de que bases de dados se alimentam, esses algoritmos podem reproduzir falhas e vieses implícitos. Transparência, responsabilização e avaliação de riscos sobre os algoritmos em sistemas públicos são alguns dos temas que devem estar na ordem do dia para o debate de governo aberto. Neste painel, serão abordados os principais desafios para garantir que esses algoritmos também sejam objeto de escrutínio público e controle social.