Ministério Público cobra explicações do governo de SP sobre uso do ChatGPT para produzir aulas

O Ministério Público de São Paulo questionou a Secretaria de Educação de São Paulo (Seduc) sobre o uso da ferramenta ChatGPT na produção de aulas digitais que serão distribuídas aos 3,5 milhões de alunos do ensino fundamental II e do ensino médio na rede estadual.

O órgão quer saber como e em quais materiais a tecnologia será empregada, detalhes de seu funcionamento e se alguma empresa foi contratada. O MPSP pede ainda pesquisas que sustentem a decisão.

A proposta anunciada pela gestão de Tarcísio Freitas (Republicanos) prevê que os professores curriculistas — que fazem o material pedagógico — vão dar os comandos à IA para a elaboração dos cursos. Segundo a Seduc, o papel da IA será aprimorar as aulas já produzidas por estes educadores "com a inserção de novas propostas de atividades", contudo, a pasta não detalhou quais seriam elas. O conteúdo gerado passaria pela avaliação e edição dos professores curriculistas.

Em documento protocolado nesta quinta-feira, 18, pelo promotor de Justiça Bruno Orsini Simonetti, ao qual o GLOBO teve acesso, é solicitado que o governo detalhe todas plataformas de IA compradas ou usadas gratuitamente para produzir os conteúdos escolares, bem como suas finalidades pedagógicas.

"Considerando a notícia sobre o uso de inteligência artificial, mais especificamente “ChatGPT”, na confecção do material didático a ser produzido, solicito descreva de que forma será empregada, seu funcionamento e a finalidade pedagógica que buscam satisfazer, indicando eventuais estudos ou pesquisas que suportam a opção pelo seu manejo", aponta o documento.

O MPSP solicitou ainda que seja informado o "número de computadores e tabletes disponíveis em cada unidade escolar da rede de ensino estadual, assim como a proporção de alunos por equipamento e por escola" e que a Seduc relate se foram editados atos administrativos com a finalidade de orientar o uso dessas tecnologias.

Procurada pelo GLOBO, a Secretaria não respondeu.

Falta de explicações

Uma reunião com os responsáveis pela Coordenadoria Pedagógica, área da secretaria que cuida da produção das aulas digitais, e da Coordenadoria de Informação, Tecnologia, Evidências e Matrícula foi agendada para maio, a fim de que o governo apresente "a rotina de produção do material didático atual e as modificações pelas quais passará a partir da introdução de inteligência artificial".

Desde setembro do ano passado o promotor tenta diálogo com o governo de São Paulo sobre o uso da IA nas escolas. Na época, a Justiça mandou na Seduc suspender a liberação do material didático digital após terem sido constatados graves erros no conteúdo. Um deles estava no conteúdo de história para estudantes do 9º ano do ensino fundamental, nos slides sobre o governo Jânio Quadros para o terceiro bimestre. O slide 19 da aula 8 afirmava que a cidade de São Paulo tem praias.

"A proibição do uso de biquínis foi adotada por Jânio Quadros em 1961, quando ele era prefeito de São Paulo. Ele emitiu um decreto vetando o uso de biquínis nas praias da cidade. A justificativa de Quadros era que o traje de banho seria uma afronta à moral e aos bons costumes. Esse impedimento também causou grande repercussão na época e gerou protestos de mulheres", diz o texto.

Jânio realmente proibiu o biquíni, mas a medida foi tomada quando ele era presidente, com foco nas praias do país, não da capital paulista.

Três ofícios já foram enviados à secretaria e não foram respondidos com todas as explicações solicitadas.