Ela usou MÁSCARA BRANCA pra IA ENXERGAR

Em 2015, uma pesquisadora negra do MIT precisou colocar uma máscara branca
na frente do próprio rosto para o computador finalmente "vê-la".

Joy Buolamwini não era só estudante. Ela estava prestes a desmontar a
maior indústria de IA do mundo com um dado simples: para mulheres negras,
o erro dos sistemas comerciais era de 34,7%. Para homens brancos? 0,8%.

O estudo Gender Shades obrigou IBM a aposentar seu sistema, Microsoft e
Amazon a suspender vendas pra polícia. Mas no Brasil, a história é outra:
90% dos presos por reconhecimento facial são negros. 376 projetos ativos.
83 milhões de pessoas vigiadas. 41% da população.

Em Salvador, um vigilante negro passou 26 dias preso por um crime de outra
pessoa, dez anos antes. 95% de "similaridade" parece muito. Num banco de
3 milhões de rostos, 5% de erro são 150 mil vidas em risco.

A pergunta da era dos dados não é se a IA funciona. É: ela funciona pra quem?

Fontes:
FONTES - ROTEIRO RECONHECIMENTO FACIAL
1. NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software
https://www.nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software

2. Gender Shades - Project Overview - MIT Media Lab
https://www.media.mit.edu/projects/gender-shades/overview/

3. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification - Buolamwini & Gebru
https://proceedings.mlr.press/v81/buolamwini18a.html

4. Study finds gender and skin-type bias in commercial artificial-intelligence systems - MIT News
https://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212

5. Joy Buolamwini - Wikipedia
https://en.wikipedia.org/wiki/Joy_Buolamwini

6. EUA: Polícia prende inocente a partir de sistema de reconhecimento facial - CNN Brasil
https://www.cnnbrasil.com.br/internacional/sistema-de-reconhecimento-facial-enviou-este-homem-inocente-para-a-prisao/

7. Homem processa polícia após ser preso por engano por falha em reconhecimento facial - Olhar Digital
https://olhardigital.com.br/2021/04/14/seguranca/homem-processa-policia-por-falha-em-reconhecimento-facial/

8. Reconhecimento facial está presente em todos os estados do Brasil - Agência Brasil
https://agenciabrasil.ebc.com.br/geral/noticia/2023-08/reconhecimento-facial-esta-presente-em-todos-os-estados-do-brasil

9. Erros em série expõem fragilidade do reconhecimento facial como ferramenta de combate ao crime - CartaCapital
https://www.cartacapital.com.br/tecnologia/erros-em-serie-expoem-fragilidade-do-reconhecimento-facial-como-ferramenta-de-combate-ao-crime/

10. Erros, abusos e injustiças da vigilância facial no Brasil - Combate Racismo Ambiental
https://racismoambiental.net.br/2025/05/29/erros-abusos-e-injusticas-da-vigilancia-facial-no-brasil/

11. Relatório da DPU e CESeC alerta para riscos do reconhecimento facial na segurança pública - DPU
https://direitoshumanos.dpu.def.br/relatorio-da-dpu-e-cesec-alerta-para-riscos-do-reconhecimento-facial-na-seguranca-publica/

12. Reconhecimento facial: tecnologia, racismo e construção de mundos possíveis - SciELO Brasil
https://www.scielo.br/j/psoc/a/wJFV8yjBBr7cYnm3q6SXDjF/

13. Reconhecimento facial aprofunda racismo estrutural, dizem pesquisadoras - CUT
https://www.cut.org.br/noticias/reconhecimento-facial-aprofunda-racismo-estrutural-dizem-pesquisadoras-2595

14. How NIST Tested Facial-Recognition Algorithms for Racial Bias - Scientific American
https://www.scientificamerican.com/article/how-nist-tested-facial-recognition-algorithms-for-racial-bias/

15. Beating the bias in facial recognition technology - PMC/NIH
https://pmc.ncbi.nlm.nih.gov/articles/PMC7575263/

🔔 Inscreva-se em @ABelezadosDados-k6p pra ver a beleza escondida nos
dados todos os dias.

#ReconhecimentoFacial #ViesAlgoritmico #InteligenciaArtificial #DadosNoBrasil #JoyBuolamwini

Видео Ela usou MÁSCARA BRANCA pra IA ENXERGAR канала A Beleza dos Dados