IA da Apple enfrenta críticas por resumos incorretos de notícias

O grupo Repórteres Sem Fronteiras (RSF) está pedindo que a Apple remova sua nova funcionalidade de inteligência artificial, lançada recentemente para resumir notícias, após a criação de um título falso envolvendo uma reportagem da BBC. As informações são da CNN.

A controvérsia começou quando uma notificação push, gerada pela ferramenta Apple Intelligence e enviada a usuários na última semana, resumiu erroneamente uma matéria da BBC. O resumo falso indicava que Luigi Mangione, suspeito do assassinato do CEO da UnitedHealthcare, havia tirado a própria vida. A BBC confirmou ter contatado a Apple para relatar o problema e solicitar uma solução, mas não confirmou se a empresa respondeu à reclamação.

Na quarta-feira, Vincent Berthier, chefe de tecnologia e jornalismo da RSF, pediu que a Apple “assuma a responsabilidade e remova essa funcionalidade”. “Inteligências artificiais são máquinas probabilísticas, e fatos não podem ser decididos com base em probabilidades”, afirmou Berthier em comunicado. “A produção automatizada de informações falsas atribuídas a um veículo de mídia prejudica a credibilidade do veículo e coloca em risco o direito do público à informação confiável.”

O grupo também expressou preocupações mais amplas sobre os riscos que as ferramentas de IA representam para veículos de mídia, destacando que o incidente demonstra como a IA ainda está “imatura demais para produzir informações confiáveis ao público e não deveria ser permitida no mercado para esses usos”. A RSF acrescentou que “a forma probabilística com que sistemas de IA operam automaticamente os desqualifica como uma tecnologia confiável para o jornalismo”.

Em resposta, a BBC afirmou: “É essencial para nós que nosso público confie em qualquer informação ou jornalismo publicado em nosso nome, incluindo notificações”.

A Apple não respondeu aos pedidos de comentário.

Introduzida nos Estados Unidos em junho, a ferramenta de IA generativa da Apple foi apresentada como capaz de resumir conteúdos em parágrafos, listas de tópicos, tabelas ou outros formatos condensados. A funcionalidade permite aos usuários de iPhone, iPad e Mac agrupar notificações, gerando uma lista de notícias em um único alerta.

Desde o lançamento público da ferramenta em outubro, erros similares foram relatados. Usuários compartilharam um caso em que a Apple Intelligence resumiu erroneamente uma matéria do The New York Times, alegando que o primeiro-ministro israelense Benjamin Netanyahu havia sido preso. Na verdade, o Tribunal Penal Internacional havia emitido um mandado de prisão contra Netanyahu, mas leitores que viram apenas a notificação enxergaram o texto reduzido para “Netanyahu preso”.

O incidente com o Apple Intelligence reflete um problema mais amplo relacionado à falta de controle dos veículos sobre a ferramenta. Enquanto alguns editores optam por usar IA para redigir artigos, essa decisão cabe a eles. No entanto, os resumos gerados pela ferramenta da Apple, que são ativados pelos usuários, ainda são apresentados sob o banner do veículo. Isso não apenas aumenta o risco de disseminação de informações perigosamente falsas, mas também pode prejudicar a credibilidade das publicações.

Os desafios da Apple com sua IA são apenas mais um exemplo das dificuldades enfrentadas por veículos de notícias em um cenário de mudanças tecnológicas rápidas. Desde o lançamento do ChatGPT há pouco mais de dois anos, gigantes de tecnologia lançaram seus próprios modelos de linguagem, muitos dos quais foram acusados de treinar seus sistemas com conteúdo protegido por direitos autorais, incluindo reportagens. Enquanto alguns veículos, como o The New York Times, já processaram desenvolvedores por suposto uso indevido de conteúdo, outros — como o grupo Axel Springer, dono de marcas como Politico e Business Insider — firmaram acordos de licenciamento com os criadores da tecnologia.