O Conselho Nacional de Educação (CNE) aprovou nesta terça-feira (1º) diretrizes para o uso de inteligência artificial (IA) na educação. Entre outros pontos, as normas estabelecem níveis de risco para a utilização da tecnologia em diferentes atividades educacionais. Agora, o documento segue para homologação do Ministério da Educação (MEC).
O CNE elaborou uma escala de risco para orientar escolas e universidades no uso da inteligência artificial. Os níveis variam de “baixo risco” até “risco excessivo ou incompatível com as finalidades educacionais”, a depender da aplicação. As redes de ensino terão até 12 meses para se adequar às normas após a homologação do texto.
A intenção do conselho é orientar gestores e instituições para um uso responsável dessas ferramentas, sem prejuízos aos estudantes.
Veja abaixo as atividades vinculadas a cada nível de risco:
Os usos considerados de baixo risco são, em geral, aqueles relacionados ao planejamento e à organização, sem impacto direto em avaliações ou decisões acadêmicas. Entre eles:
- organização de materiais didáticos;
- apoio à acessibilidade;
- revisão textual sem finalidade avaliativa;
- ferramentas auxiliares de planejamento;
- sistemas sem perfilização individual significativa.
O CNE classificou como risco moderado os usos que promovem algum nível de interação com os estudantes. Nessa categoria estão mecanismos de apoio à aprendizagem, produção de conteúdo e fornecimento de feedback. Nesses casos, é obrigatória a revisão humana e o monitoramento frequente.
- sistemas de tutoria;
- ferramentas de feedback formativo;
- assistentes institucionais;
- apoio à produção textual;
- mecanismos de recomendação acadêmica sem efeito decisório automático.
Foram classificadas como atividades de alto risco aquelas que podem impactar a vida acadêmica dos estudantes ou restringir direitos, como processos de seleção automatizada. A resolução também inclui aplicações que envolvam tratamento de dados sensíveis.
- sistemas de correção automatizada de avaliações com repercussão acadêmica;
- “proctoring biométrico”, ferramenta que utiliza IA para verificar características físicas dos estudantes em tempo real;
- perfilização acadêmica individualizada;
- sistemas relacionados à seleção, certificação, concessão de benefícios ou análise disciplinar;
- aplicações que envolvam tratamento de dados pessoais sensíveis ou inferências comportamentais relevantes.
“O juízo avaliativo é do professor, ele não pode ser substituído pela IA. São decisões que afetam o futuro do estudante e tem que haver mediação humana”, afirmou o relator do texto, Celso Niskier.
O grau mais alto de alerta, definido pelo CNE como risco excessivo ou incompatível com as finalidades educacionais, inclui atividades que, segundo o colegiado, podem ser discriminatórias e resultar em violações de direitos dos estudantes.
Nessa categoria, o conselho inclui:
- sistemas de pontuação social;
- vigilância emocional;
- exploração de vulnerabilidades de estudantes;
- perfilização psicológica ou biométrica para fins classificatórios ou disciplinares;
- decisões exclusivamente automatizadas com efeitos relevantes sobre promoção, retenção, certificação, permanência, concessão de benefícios ou desligamento.
Para evitar esses riscos, o parecer destaca a importância da atuação dos professores em todo o processo de uso da inteligência artificial nas escolas e universidades. As diretrizes ressaltam a necessidade de protagonismo pedagógico dos docentes na adoção dessas ferramentas.
Após a aprovação, o presidente do CNE, Cesar Callegari, afirmou que a medida representa um marco para a educação e exigirá engajamento dos sistemas de ensino.
“É um material de grande importância pela complexidade do tema tratado, transformando um assunto de alta complexidade em algo bastante didático. É um avanço importante. Estamos em um momento em que nunca foi tão importante compreender o nosso próprio processo de pensamento. A interação com a máquina, com a ferramenta, exige um passo muito mais ousado”, disse.
