Segundo Zuckerberg, dinâmica de mercado cria incentivo para que empresas tornem seus sistemas mais confiáveisAFP

E
Estadão Conteúdo
O CEO da Meta, Mark Zuckerberg, criticou apelos recentes para suspender ou desacelerar o desenvolvimento da inteligência artificial (IA), dizendo que cada laboratório tem a responsabilidade e o incentivo de avançar no ritmo necessário para treinar seus modelos com segurança. A declaração foi feita em uma publicação no X na noite desta terça-feira, após alertas de executivos de tecnologia sobre os riscos do avanço acelerado da IA e a necessidade de reforçar mecanismos de segurança.
Segundo Zuckerberg, a dinâmica de mercado cria um incentivo para que as empresas tornem seus sistemas mais confiáveis e alinhados às preferências dos usuários. "As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que elas pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados", escreveu.
Ele observou que há debate sobre desacelerar o progresso das capacidades até que o alinhamento acompanhe, mas afirmou que confiança e alinhamento rapidamente se tornam os fatores mais importantes para diferenciar agentes e modelos. "Qualquer laboratório que não foque em alinhamento ficará para trás", disse.
Zuckerberg também afirmou que os laboratórios enfrentam responsabilidade significativa caso seus modelos causem danos, o que, segundo ele, reforça o incentivo para prevenir problemas. Como exemplo, citou a decisão da Meta de adiar por vários meses o lançamento do sistema Muse para priorizar segurança e proteção
O executivo disse ainda que recorrer a avaliadores e consultores independentes é uma boa prática do setor e que a Meta Superintelligence Labs (MSL) já faz isso em várias áreas. Ele defendeu, de forma mais ampla, um ecossistema de avaliadores "maior e mais diverso".
Por fim, Zuckerberg defendeu que direcionar a grande maioria do poder computacional para servir as pessoas, em vez de "correr" para o autoaprimoramento recursivo, é uma das melhores formas de garantir um desenvolvimento seguro da tecnologia, acrescentando que a Meta assumiu esse compromisso e que outros laboratórios podem fazer o mesmo.