Conselho Nacional de Educação aprova proposta de uso IA nas escolas; saiba o que vai acontecer

O Conselho Nacional de Educação (CNE) aprovou nesta segunda-feira, 11, um parecer prévio que traz recomendações para o uso de Inteligência Artificial (IA) na educação básica e superior.

O documento propõe a inclusão de conteúdo sobre IA nos currículos de escolas e universidades, e estabelece níveis de risco de acordo com o tipo de ferramenta disponível para uso educacional.

Agora, o texto será submetido a uma consulta pública a partir da próxima segunda-feira, 18. Depois, haverá um seminário sobre o tema em julho e, por fim, o parecer será submetido à homologação do Ministério da Educação (MEC). O documento foi elaborado por conselheiros e teve participação da pasta.

"As recomendações do parecer são públicas e podem ser adotadas pelas instituições, que terão autonomia para decidir", explica o conselheiro Celso Niskier, um dos relatores da proposta.

As recomendações elaboradas pelo conselho indicam que conteúdos sobre IA devem ser integrados de forma planejada, articulada e progressiva nos currículos. No caso da Educação Básica, o parecer destaca que a utilização de IA deve ser articulada com o desenvolvimento integral do estudante, contribuindo para a formação de "sujeitos críticos, autônomos e preparados para a cidadania digital."

Segundo o CNE, a abordagem curricular deve ser feita de forma contextualizada e articular as diferentes áreas do conhecimento. Em relação ao ensino do tema, entre as principais diretrizes estão:

compreensão básica do funcionamento de sistemas computacionais e de aplicações de IA;

reconhecimento dos diferentes tipos de tecnologias e seus usos no cotidiano;

desenvolvimento do pensamento lógico, analítico e crítico;

reflexão sobre as implicações éticas, sociais e culturais do uso da tecnologia;

compreensão do papel dos dados e de sua utilização nos sistemas de IA;

identificação de limites, riscos e possíveis vieses presentes nas tecnologias;

desenvolvimento da capacidade de avaliar informações produzidas por sistemas automatizados;

estímulo à criatividade, à autonomia e à resolução de problemas;

compreensão das relações entre tecnologia, sociedade e desigualdades;

promoção de comportamentos responsáveis, éticos e seguros no ambiente digital;

desenvolvimento de capacidades metacognitivas relacionadas ao uso da Inteligência Artificial, estimulando os estudantes a refletirem criticamente sobre seus próprios processos de pensamento, aprendizagem, tomada de decisão e produção de conhecimento mediados por tecnologias digitais.

No caso do uso da IA em atividades pedagógicas, o CNE traça as seguintes orientações:

promoção do desenvolvimento integral dos estudantes, considerando dimensões cognitivas, sociais e emocionais;

preservação da autonomia intelectual e do bem-estar dos estudantes, evitando dependência excessiva de tecnologias;

integração do letramento em IA de forma articulada aos letramentos digital, midiático e computacional;

contextualização das aprendizagens, com base na realidade dos estudantes e nos desafios contemporâneos;

compromisso com a redução das desigualdades educacionais, promovendo inclusão e equidade;

desenvolvimento de práticas pedagógicas alinhadas à proteção de direitos e à cidadania digital;

fortalecimento da capacidade de mediação crítica e ética dos profissionais da educação;

prevenção de práticas de monitoramento inadequado, invasivo ou desproporcional dos estudantes.

No ensino superior, o texto destaca que a incorporação da IA pode ampliar a formação e atuação profissional. "A articulação entre conhecimento acadêmico, uso da tecnologia e reflexão sobre seus impactos é fundamental para a formação de profissionais capazes de atuar em contextos complexos e em constante transformação", diz o texto.

O conselho indica que os conhecimentos sobre IA e seu uso devem ser incorporados considerando a especificidade dos cursos. O texto destaca as principais competências a serem desenvolvidas:

capacidade de utilizar a IA como ferramenta de apoio à tomada de decisão em diferentes contextos profissionais;

desenvolvimento de habilidades para análise, interpretação e uso de dados;

compreensão das implicações éticas, jurídicas e sociais relacionadas ao uso da tecnologia;

avaliação crítica dos limites, riscos e potencialidades das aplicações de IA;

desenvolvimento da capacidade de reflexão crítica e metacognitiva sobre os processos de produção de conhecimento, aprendizagem e tomada de decisão mediados por Inteligência Artificial;

articulação entre conhecimento técnico e reflexão sobre os impactos econômicos, sociais e culturais da tecnologia;

utilização responsável da IA, respeitando princípios de integridade acadêmica e ética profissional.

O parecer orienta que as instituições de ensino superior definam diretrizes internas para orientar o uso da ferramenta, e implementem políticas institucionais para uso responsável da tecnologia.

Um dos pontos principais do parecer é a escala de risco elaborada pelo Conselho para orientar redes e universidades. O documento estabelece uma escala que classifica o tipo de uso da ferramenta entre: baixo risco, risco moderado, alto risco, e risco excessivo ou incompatível com finalidades educacionais.

As aplicações de baixo risco são aquelas utilizadas majoritariamente para organização, ou revisão sem o objetivo de avaliar o aluno. Por exemplo:

organização de materiais didáticos;

apoio à acessibilidade;

revisão textual não avaliativa;

ferramentas auxiliares de planejamento;

sistemas sem perfilização individual significativa.

Entre as ferramentas de risco moderado, estão aquelas que envolvem interação contínua com os estudantes, mas que não são usadas em nenhuma tomada de decisão. Como:

sistemas de tutoria;

ferramentas de feedback formativo;

assistentes institucionais;

apoio à produção textual;

mecanismos de recomendação acadêmica sem efeito decisório automático.

Para lidar com essas ferramentas, o parecer indica alguns protocolos, como revisão humana obrigatória, monitoramento periódico, entre outros.

Entre os usos classificados como alto risco, o CNE elenca aqueles que podem ter impactos relevantes na vida acadêmica e nos direitos dos estudantes. Destacam-se:

sistemas de correção automatizada de avaliações com repercussão acadêmica;

"proctoring biométrico", ou seja, ferramenta que utiliza a IA para verificar características físicas dos estudantes em tempo real;

perfilização acadêmica individualizada;

sistemas relacionados à seleção, certificação, concessão de benefícios ou análise disciplinar;

aplicações que envolvam tratamento de dados pessoais sensíveis ou inferências comportamentais relevantes.

Nesse sentido, a recomendação é que as redes e universidades façam uma avaliação prévia do impacto, pratiquem supervisão humana contínua, criem mecanismos de rastreabilidade, entre outras.

Por fim, o documento estabelece o uso considerado de risco excessivo ou incompatível com finalidades educacionais, que permitem a violação de direitos, discriminação, entre outras questões. São eles:

sistemas de pontuação social;

vigilância emocional;

exploração de vulnerabilidades de estudantes;

perfilização psicológica ou biométrica para fins classificatórios ou disciplinares;

decisões exclusivamente automatizadas com efeitos relevantes sobre promoção, retenção, certificação, permanência, concessão de benefícios ou desligamento.

Apesar do estabelecimento de níveis para orientar as redes e universidades, o parecer destaca a centralidade do professor no processo de aprendizagem.

"A mediação pedagógica, a intencionalidade didática e a capacidade de interpretação crítica das tecnologias constituem condições essenciais para que a Inteligência Artificial contribua efetivamente para a qualidade da educação. A preservação desse papel assegura que a tecnologia seja integrada aos processos formativos como recurso de apoio, e não como substituição da relação educativa", diz o texto.