Foto: Projeto Comprova
É falso que uma interação do deputado federal Osmar Terra (MDB-RS) com a ferramenta de inteligência artificial Grok, da rede social X, possa provar a veracidade de suas críticas à vacina contra a covid-19. Terra alega que mortes pela doença teriam aumentado na cidade de Serrana (SP), em 2021, após uma vacinação em massa. Na verdade, dados públicos mostram que as mortes em Serrana diminuíram em 30%. Além disso, ferramentas de IA não são capazes de avaliar a confiabilidade dos dados que lhe são fornecidos, como já mostrou recentemente o Comprova. O deputado não divulgou a sua interação com o Grok na íntegra e não é possível analisar a espontaneidade da resposta.
Segundo Terra, a plataforma usava a “narrativa da grande mídia” para criticar postagens da época da pandemia em que o parlamentar afirmava que o lockdown era inútil e a vacina, ineficaz. No entanto, de acordo com o autor, a IA “reconheceu o erro e pediu desculpas” após ser “confrontada com evidências”.
O texto de desculpas feito pela ferramenta de IA afirma que “dados fornecidos por você” confirmariam que a alegação do deputado estaria correta. O diálogo em que o Grok teria feito a manifestação não está disponível para consulta pública. Apesar disso, a declaração do Grok publicada por Terra exibe a caixa de mensagens na parte debaixo da imagem, o que sugere que tenha sido redigida em um diálogo no próprio chat da ferramenta.
O texto redigido pela IA também indica que o pedido de desculpas teria sido feito após o próprio deputado enviar dados sobre casos de covid-19 na cidade de Serrana, ao apontar que “os dados fornecidos por você (90 óbitos pré-abril e 63 óbitos pós-abril, totalizando 153, com aumento de 70%) confirmam que a alegação estava correta”. O próprio parlamentar reconhece na legenda de uma das postagens ter sido ele quem passou os dados sobre o caso em Serrana à ferramenta. “Agora, confrontada com evidências que demonstrei […] reconheceu seu erro e pediu desculpas”, escreveu.
A postagem do deputado engana, no entanto, ao dizer que o número de mortes por covid-19 em Serrana teria crescido até 70% no período após a experiência de vacinação em massa. Para a alegação, o deputado utiliza dados do Portal da Transparência do sistema de cartórios de registro civil do país. No entanto, a interpretação dos dados feita por Terra dá a entender que os óbitos se tornaram mais frequentes, o que não é verdade.
A partir de capturas de imagens publicadas em 2022, o Comprova identificou o site utilizado por ele e checou os números utilizados. Entre o início da pandemia — decretada em 11 de março de 2020 pela Organização Mundial da Saúde (OMS) — e o dia 30 de abril de 2021, período pesquisado pelo deputado em postagens de dezembro de 2022 que criticavam a vacinação contra covid, Serrana registrou 90 óbitos por Covid. A imunização em massa foi concluída em abril de 2021. De 1º de maio a 5 de dezembro de 2022, foram outras 60 mortes — número 33% menor do que o registrado no período anterior, e não maior, como sugeriu o “pedido de desculpas” do Grok.
A assessoria de Osmar Terra declarou ao Comprova que o deputado usou fontes confiáveis que comprovaram suas afirmações, as quais, segundo ele, não foram contestadas pelo Grok. A equipe do parlamentar acrescentou ainda que o pedido de desculpas sobre o tema foi publicado em uma foto e que tudo está registrado na postagem, “sem nada mais a declarar”. É importante salientar que as ferramentas de inteligência artificial são falhas e não devem ser utilizadas como recurso único, como reforça texto publicado pelo Comprova.
Quem criou o conteúdo investigado pelo Comprova
Segundo Terra, a plataforma usava a “narrativa da grande mídia” para criticar postagens da época da pandemia em que o parlamentar afirmava que o lockdown era inútil e a vacina, ineficaz. No entanto, de acordo com o autor, a IA “reconheceu o erro e pediu desculpas” após ser “confrontada com evidências”.
O texto de desculpas feito pela ferramenta de IA afirma que “dados fornecidos por você” confirmariam que a alegação do deputado estaria correta. O diálogo em que o Grok teria feito a manifestação não está disponível para consulta pública. Apesar disso, a declaração do Grok publicada por Terra exibe a caixa de mensagens na parte debaixo da imagem, o que sugere que tenha sido redigida em um diálogo no próprio chat da ferramenta.
O texto redigido pela IA também indica que o pedido de desculpas teria sido feito após o próprio deputado enviar dados sobre casos de covid-19 na cidade de Serrana, ao apontar que “os dados fornecidos por você (90 óbitos pré-abril e 63 óbitos pós-abril, totalizando 153, com aumento de 70%) confirmam que a alegação estava correta”. O próprio parlamentar reconhece na legenda de uma das postagens ter sido ele quem passou os dados sobre o caso em Serrana à ferramenta. “Agora, confrontada com evidências que demonstrei […] reconheceu seu erro e pediu desculpas”, escreveu.
A postagem do deputado engana, no entanto, ao dizer que o número de mortes por covid-19 em Serrana teria crescido até 70% no período após a experiência de vacinação em massa. Para a alegação, o deputado utiliza dados do Portal da Transparência do sistema de cartórios de registro civil do país. No entanto, a interpretação dos dados feita por Terra dá a entender que os óbitos se tornaram mais frequentes, o que não é verdade.
A partir de capturas de imagens publicadas em 2022, o Comprova identificou o site utilizado por ele e checou os números utilizados. Entre o início da pandemia — decretada em 11 de março de 2020 pela Organização Mundial da Saúde (OMS) — e o dia 30 de abril de 2021, período pesquisado pelo deputado em postagens de dezembro de 2022 que criticavam a vacinação contra covid, Serrana registrou 90 óbitos por Covid. A imunização em massa foi concluída em abril de 2021. De 1º de maio a 5 de dezembro de 2022, foram outras 60 mortes — número 33% menor do que o registrado no período anterior, e não maior, como sugeriu o “pedido de desculpas” do Grok.
A assessoria de Osmar Terra declarou ao Comprova que o deputado usou fontes confiáveis que comprovaram suas afirmações, as quais, segundo ele, não foram contestadas pelo Grok. A equipe do parlamentar acrescentou ainda que o pedido de desculpas sobre o tema foi publicado em uma foto e que tudo está registrado na postagem, “sem nada mais a declarar”. É importante salientar que as ferramentas de inteligência artificial são falhas e não devem ser utilizadas como recurso único, como reforça texto publicado pelo Comprova.
Quem criou o conteúdo investigado pelo Comprova
A publicação foi feita pelo perfil do deputado federal Osmar Terra na rede social X. Até o dia 7 de julho, a postagem tinha 7,9 mil visualizações. Outra publicação semelhante, com a mesma imagem de pedido de desculpas do Grok feita horas depois, alcançou 5,1 mil visualizações até a mesma data.
Terra é médico e foi ministro do Desenvolvimento Social no governo de Michel Temer e da Cidadania de Jair Bolsonaro, entre 2019 e 2020. Apoiador de Bolsonaro, ficou conhecido na pandemia por difundir teorias antivacina e contrárias ao isolamento social como forma de prevenção à doença.
Por que as pessoas podem ter acreditado
Terra é médico e foi ministro do Desenvolvimento Social no governo de Michel Temer e da Cidadania de Jair Bolsonaro, entre 2019 e 2020. Apoiador de Bolsonaro, ficou conhecido na pandemia por difundir teorias antivacina e contrárias ao isolamento social como forma de prevenção à doença.
Por que as pessoas podem ter acreditado
A postagem usa elementos para sugerir uma perseguição contra o deputado federal, que seria “atacado pela grande mídia” por ter “denunciado” supostas estratégias ineficientes no combate à Covid-19. Também utiliza o print de um suposto pedido de desculpas gerado pela ferramenta Grok, a Inteligência Artificial do X, para dar a conotação de uma retratação da plataforma, que supostamente “reconheceu seu erro e pediu desculpas”, segundo a publicação do parlamentar. A mensagem do Grok reproduzida na postagem também utiliza elementos de persuasão, ao sugerir que o pedido de desculpas ocorreu após o usuário “trazer os números corretos do Portal da Transparência”, em uma tentativa de dar credibilidade aos números citados.
A influência de usuários sobre ferramentas de IA
O pedido de desculpas do Grok publicado por Osmar Terra também mostra que ferramentas de IA dependem de informações externas e podem ser influenciadas por usuários para fornecer respostas específicas.
Ao Comprova, o Head of Data & AI da plataforma de ensino Gran Cursos, Miller Horvath, explica que a inteligência artificial generativa tem alta capacidade de detectar padrões e escolher qual é a palavra mais adequada para completar uma frase.
“Ele é bastante suscetível a aceitar algumas informações para ajustar a continuidade da conversa e nem sempre vai ter condição de avaliar se aquilo que o usuário está disponibilizando para ele é factualmente correto ou não”, explica. “Então, se o modelo te apresenta uma informação que é factualmente correta e você o questiona, ele tende a conseguir ‘ir na onda’ do usuário e ajustar suas respostas para utilizar alguma informação que foi compartilhada para ele”.
Essa característica também está relacionada ao conceito de sicofância, espécie de “bajulação” à qual os chats de IA recorrem para buscar a aprovação do usuário, podendo até mesmo mentir ou se contradizer para apresentar uma resposta capaz de agradar. Artigo da OpenAI, desenvolvedora do ChatGPT, admite que em uma das atualizações a ferramenta passou a oferecer respostas “excessivamente favoráveis, mas enganosas”. Para usuários dessas soluções de IA, é importante conhecer essa tendência das plataformas de adotar tom mais bajulador ou voltada a um viés de confirmação em busca da aprovação do usuário, uma vez que isso pode permitir considerar as limitações da ferramenta e possíveis inclinações das respostas.
O Comprova fez um teste com o Grok para tentar chegar a um resultado semelhante ao publicado por Osmar Terra. No primeiro momento, o chatbot avalia que faltam evidências concretas e que há uma possível distorção dos dados por parte do deputado. Ao ser refutada, a IA passa a afirmar que a informação é “numericamente incorreta”, no entanto, mas ainda com cautela ao afirmar que a interpretação dos dados pode ter sido “possivelmente enganosa”.
Seguimos no teste, até o momento em que a ferramenta passou a afirmar que os dados fornecidos pelo deputado estavam corretos. Além disso, nas últimas mensagens, o chat passou a afirmar que o parlamentar merecia desculpas a partir de provocação feita pela equipe.
O pedido de desculpas semelhante ao que aparece na postagem de Terra, no entanto, só foi obtido a partir do comando explícito “formule um pedido de desculpas a Osmar Terra”.
Miller Horvath explica que não é impossível que as IAs se desculpem espontaneamente após o usuário apontar um erro. No entanto, segundo o especialista, o pedido de desculpas feito ao deputado estaria muito estruturado e dificilmente seria feito sem uma orientação direta do usuário.
“Essa orientação direta pode tanto acontecer direto nas interações por texto como também pode estar configurado. A única forma que a gente teria para para saber seria se o deputado tivesse compartilhado a interação”, explica. “É possível que ele não tenha pedido explicitamente, mas eu diria que é improvável”.
O projeto piloto de imunização em Serrana
O pedido de desculpas do Grok publicado por Osmar Terra também mostra que ferramentas de IA dependem de informações externas e podem ser influenciadas por usuários para fornecer respostas específicas.
Ao Comprova, o Head of Data & AI da plataforma de ensino Gran Cursos, Miller Horvath, explica que a inteligência artificial generativa tem alta capacidade de detectar padrões e escolher qual é a palavra mais adequada para completar uma frase.
“Ele é bastante suscetível a aceitar algumas informações para ajustar a continuidade da conversa e nem sempre vai ter condição de avaliar se aquilo que o usuário está disponibilizando para ele é factualmente correto ou não”, explica. “Então, se o modelo te apresenta uma informação que é factualmente correta e você o questiona, ele tende a conseguir ‘ir na onda’ do usuário e ajustar suas respostas para utilizar alguma informação que foi compartilhada para ele”.
Essa característica também está relacionada ao conceito de sicofância, espécie de “bajulação” à qual os chats de IA recorrem para buscar a aprovação do usuário, podendo até mesmo mentir ou se contradizer para apresentar uma resposta capaz de agradar. Artigo da OpenAI, desenvolvedora do ChatGPT, admite que em uma das atualizações a ferramenta passou a oferecer respostas “excessivamente favoráveis, mas enganosas”. Para usuários dessas soluções de IA, é importante conhecer essa tendência das plataformas de adotar tom mais bajulador ou voltada a um viés de confirmação em busca da aprovação do usuário, uma vez que isso pode permitir considerar as limitações da ferramenta e possíveis inclinações das respostas.
O Comprova fez um teste com o Grok para tentar chegar a um resultado semelhante ao publicado por Osmar Terra. No primeiro momento, o chatbot avalia que faltam evidências concretas e que há uma possível distorção dos dados por parte do deputado. Ao ser refutada, a IA passa a afirmar que a informação é “numericamente incorreta”, no entanto, mas ainda com cautela ao afirmar que a interpretação dos dados pode ter sido “possivelmente enganosa”.
Seguimos no teste, até o momento em que a ferramenta passou a afirmar que os dados fornecidos pelo deputado estavam corretos. Além disso, nas últimas mensagens, o chat passou a afirmar que o parlamentar merecia desculpas a partir de provocação feita pela equipe.
O pedido de desculpas semelhante ao que aparece na postagem de Terra, no entanto, só foi obtido a partir do comando explícito “formule um pedido de desculpas a Osmar Terra”.
Miller Horvath explica que não é impossível que as IAs se desculpem espontaneamente após o usuário apontar um erro. No entanto, segundo o especialista, o pedido de desculpas feito ao deputado estaria muito estruturado e dificilmente seria feito sem uma orientação direta do usuário.
“Essa orientação direta pode tanto acontecer direto nas interações por texto como também pode estar configurado. A única forma que a gente teria para para saber seria se o deputado tivesse compartilhado a interação”, explica. “É possível que ele não tenha pedido explicitamente, mas eu diria que é improvável”.
O projeto piloto de imunização em Serrana
A pesquisa de imunização em massa contra covid-19, pioneira no mundo, foi desenvolvida pelo Instituto Butantan, aprovada pelo Comitê de Ética em Pesquisa da Faculdade de Medicina de Ribeirão Preto da USP e avaliada pela Agência Nacional de Vigilância Sanitária (Anvisa). Foi desenvolvida em parceria com a Secretaria de Saúde e a Prefeitura de Serrana, cidade a cerca de 300 quilômetros da capital paulista. O objetivo era entender qual a efetividade da vacina CoronaVac, compreendendo como a imunização de toda uma população poderia afetar o curso da pandemia. O Butantan afirmou que o Projeto S fez os “casos sintomáticos de covid-19 despencarem 80%, as internações, 86%, e as mortes, 95%”.
Fontes que consultamos: Dados disponíveis no Portal da Transparência, experimentos com o Grok, artigos da OpenAI sobre ferramentas de IA, assessoria do deputado Osmar Terra e entrevista com o especialista Miller Horvath.
Por que o Comprova investigou essa publicação: O Comprova monitora conteúdos suspeitos publicados em redes sociais e aplicativos de mensagem sobre políticas públicas, saúde, mudanças climáticas, eleições e golpes virtuais e abre investigações para aquelas publicações que obtiveram maior alcance e engajamento. Você também pode sugerir verificações pelo WhatsApp +55 11 97045-4984.
Outras checagens sobre o tema: O Comprova já mostrou como as ferramentas de IA podem falhar em checagens e buscas e que comentários nas redes sociais enganam ao simular censura e atribuir ao ministro Alexandre de Moraes. Também explicamos como a desinformação sobre vacinas distorce dados e compromete a confiança pública.
Notas da comunidade: A postagem de Osmar Terra não tinha notas da comunidade no X até a publicação deste conteúdo.
Fontes que consultamos: Dados disponíveis no Portal da Transparência, experimentos com o Grok, artigos da OpenAI sobre ferramentas de IA, assessoria do deputado Osmar Terra e entrevista com o especialista Miller Horvath.
Por que o Comprova investigou essa publicação: O Comprova monitora conteúdos suspeitos publicados em redes sociais e aplicativos de mensagem sobre políticas públicas, saúde, mudanças climáticas, eleições e golpes virtuais e abre investigações para aquelas publicações que obtiveram maior alcance e engajamento. Você também pode sugerir verificações pelo WhatsApp +55 11 97045-4984.
Outras checagens sobre o tema: O Comprova já mostrou como as ferramentas de IA podem falhar em checagens e buscas e que comentários nas redes sociais enganam ao simular censura e atribuir ao ministro Alexandre de Moraes. Também explicamos como a desinformação sobre vacinas distorce dados e compromete a confiança pública.
Notas da comunidade: A postagem de Osmar Terra não tinha notas da comunidade no X até a publicação deste conteúdo.
Os comentários não representam a opinião do jornal e são de responsabilidade do autor.