Se você não énegro, provavelmente não sabe disso, mas o reconhecimento facial falha especialmente ao reconhecer osafrodescendentes.Foipor isso que chamou minha atenção quando o Google publicou um vídeo para promover o Pixel 4, no qual uma mulher negra aparece em um quarto escuro. Ela aproxima o rosto do telefone e ele abre.
É claro que o mais impressionante não foi o desbloqueioem si, já que a tecnologia existe há anos. A novidade foi que ele fez isso com uma mulher negra. E o vídeo parece dizer que o Google resolveu o problema. Suponho que sejam boas notícias, mas também nos deixa algumas reflexões para o futuro, se decidirmos continuar usando essa tecnologia, o que não está muito claro no momento. Recentemente,Amazon, IBM e Microsoftdecidiram restringir ou interromper a venda da tecnologia de reconhecimento facial. Cidades comoSão FranciscoeCambridge, onde estão Harvard e MIT, consideradas o coração da tecnologia, também proibiram seu uso.
Algumas considerações:
- Na tecnologia, existemdistorções.Sea tecnologia atualnão consegue reconhecer os rostos das mulheres de ascendência africana, é porque elas não foram incluídas no banco de dados para treinar o algoritmo. Se elas não foram incluídas, é porque os engenheiros não pensaram nisso. E,se isso não lhes ocorreu, é porque eles não vivem em um "mundo" no qual os negros são representativos.
- Comovãocriar os bancos de dados agora?Vão sair eescanearrostos de pessoas de diversas populações? Soa estranho, não é?Meiodistópico...Não sou contraisso, pelo contrário, a tecnologia deve ser inclusiva, mas é necessário ser muito claroe transparenteao determinar: a)quais dadosestão coletando, b) de que maneira, c) com que consentimento d) a que preço.A metodologia seriasemelhante ao que é feito com pesquisaspara fins científicos.
- Aformaéimportante e a preocupação justificada.As populações étnicas foram violadas em muitas ocasiões. Escravidão, encarceramento em massa, as leis de Jim Crow, experimentos médicos, até os episódios que Vargas Llosa descreve Tempos Difíceis (tradução livre deTiemposRecios). Certamente,não seria a primeira vez que minoriasseriamusadas para aperfeiçoar novas técnicas ou tecnologias.
Temos falado há algunsanos sobre tecnologia ética ou justa. O reconhecimento facial é um bom exemploda necessidade de fazer isso. Para usar essa tecnologia, devemos fazê-lo de maneira ética. Duas semanas atrás, este blog teria terminado assim. Mas apenas alguns dias atrás,PratyushaKalluri, de Stanford, e fundadora da Radical AI Network, publicou uma coluna naNaturena qual pediu para pararmosde falar sobre tecnologia justa ou ética. Ela pede uma abordagem muito mais radical, cito:
“Não pergunte se a inteligência artificial é boa ou justa, pergunte como ela muda o poder.”PratyushaKalluri
Ela propõe que aqueles com maior probabilidade de serem prejudicados pelainteligência artificial; isto é, mulheres, pessoas de ascendência africana, povos indígenas, pessoas com deficiência e pessoas com renda mais baixa participem dosprojetos. Não se trata de tecnologia ética, mas deempoderare envolver aqueles que são mais afetados por sua implementação. Convido você aconhecer melhor essa abordagem e,se tiver ideias sobre como adotar essa abordagem em nossa região, escreva [email protected].