A Amazon foi alvo de acusações de sexismo depois que seu assistente de voz, a Alexa, não conseguiu responder a uma pergunta sobre o resultado da partida de futebol entre Inglaterra e Austrália pela Copa do Mundo Feminina da FIFA 2023, na qual as inglesas saíram vitoriosas. A resposta inicial da Alexa foi que não havia jogo, o que levantou preocupações sobre o sexismo embutido no sistema.
A professora sênior de Psiquiatria na Kent and Medway Medical School, Joanne Rodda, que tem interesse em inteligência artificial, alertou a BBC sobre o problema. Ela apontou que só conseguiu obter uma resposta adequada da Alexa quando especificamente mencionou “futebol feminino”.
A Amazon esclareceu a situação explicando que as respostas da Alexa são obtidas de várias fontes, incluindo informações da própria Amazon, provedores de conteúdo licenciado e sites. A empresa utiliza sistemas automatizados de IA para compreender o contexto e extrair informações relevantes, mas esses sistemas falharam neste caso específico.
“Muito triste que, depois de quase uma década de Alexa, só hoje o algoritmo de IA foi ‘consertado’ para que agora reconheça o futebol feminino da Copa do Mundo como futebol”, declarou a professora à BBC.
A empresa afirmou estar trabalhando para melhorar seus sistemas e evitar situações semelhantes no futuro. No entanto, a Dra. Rodda ainda questionou se o problema foi completamente resolvido, mencionando que encontrou questões semelhantes ao perguntar à assistente sobre a Superliga Feminina, que respondeu com informações sobre o futebol masculino e não foi capaz de dar uma resposta quando perguntada especificamente sobre os jogos femininos.
Esse incidente destaca o problema do viés incorporado em sistemas alimentados por IA. A tecnologia é treinada com grandes conjuntos de dados, e uma das responsabilidades dos desenvolvedores é garantir que esses dados sejam diversificados o suficiente para evitar preconceitos. A IA tem o potencial de influenciar decisões importantes em várias áreas da vida, tornando essencial abordar e corrigir o viés nos sistemas para garantir a equidade e a imparcialidade nos retornos oferecidos aos usuários.
* Com informações da BBC
Acompanhe a gente no Instagram, LinkedIn e Threads. Adnews, onde as transformações acontecem. ????
