A hora e a vez da inteligência artificial na escola

Precisamos rapidamente compreender as contribuições efetivas que a Inteligência Artificial (IA) pode trazer para as práticas escolares. Com foco na autonomia docente e discente, e numa IA sempre explicável, podemos ajudar a indústria a desenvolver produtos realmente inteligentes.   

Texto: Moisés Zylbersztajn

Tecnologias têm apoiado o desenvolvimento do trabalho pedagógico desde o aparecimento da escola como instituição. Elas potencializam a capacidade didática e ampliam o repertório de professores e o desenvolvimento da capacidade de aprendizagem do aluno. Uma esferográfica ampliou o acesso das populações ao registro sistemático em sala de aula. A computação em nuvem permitiu o acesso ubíquo a produções individuais e coletivas. O livro didático organizou o conteúdo específico de uma disciplina para apoio ao estudo individual e coletivo. Softwares de simulação, no campo das ciências, ampliaram a compreensão de fenômenos naturais. Um aplicativo digital de apoio ao ensino de matemática, que reúne centenas de situações-problema com soluções e feedbacks programados, pode contribuir para o domínio conceitual e operativo do conteúdo. Um sistema de gestão de provas com questões objetivas, programado para oferecer correção imediata ao aluno e produzir painéis de análise para o professor, também contribui para o aprimoramento das práticas de ensino-aprendizagem.  

Todas essas soluções educacionais existem sem que seja necessário utilizar-se de inteligência artificial (IA) e são todas muito úteis às práticas pedagógicas. Por que então propor soluções baseadas em IA nessas práticas? O que tais soluções impregnadas de aprendizado de máquina trazem de benefício adicional às soluções digitais existentes? O que há de novo? Qual é o impacto da IA na educação formal? 

As aplicações, baseadas em IA, que se aproximarão cada vez mais das escolas devem impactar sobretudo na automação da avaliação e na personalização da aprendizagem (luckin, 2022). É importante que os educadores estejam atentos a essa automação e a essa personalização para evitar a mecanização do ensino e da aprendizagem. Será preciso reconhecer os recursos que permitirão a professores e alunos encontrar na IA um assistente relevante disponível para aprender conosco, mais do que um instrumento pronto para nos ensinar. Como tirar proveito dessa tecnologia sem sucumbir a sua lógica?  

Há pelo menos três razões para que os educadores se dediquem ao estudo e aos impactos da IA. Inicialmente, o papel da educação e da escola deve ser o de transformar a vida, em toda a sua complexidade, em objeto permanente de estudo. A escola permite esse recuo excepcional (maschelein, 2013) que retira a criança e o jovem do convívio familiar e laboral para fruir, decifrar e construir compreensão e possibilidade de transformação sobre a vida, o conhecimento e o mundo. Portanto, trazer a IA para a escola significa torná-la um conteúdo a ser estudado. É imperativo que possamos todos compreender sua formulação, seu desenvolvimento e seus possíveis impactos. Antes de usá-la, ou através de seu uso, é preciso desmistificá-la. Para evitar um uso instrumental das tecnologias digitais no ensino, entendendo-as como neutras e impedindo uma apropriação crítica, é preciso, sobretudo, aprender sobre elas (buckingham, 2022). A IA deve aparecer nos currículos escolares não como um modismo, mas como mais uma manifestação humana relevante e crítica. Deve também fazer parte da formação docente.  

Em seguida, a IA pode contribuir para um ensino voltado à autonomia do estudante, um ensino que privilegia a autorregulação da aprendizagem, que possibilita ao aluno reconhecer seu processo cognitivo, construir estratégias para avançar e consolidar esse caminho usando a metacognição como modo natural de aprendizagem ao longo da vida. Conhecimento robusto, que se transfere para novas situações, dura ao longo do tempo e pode facilitar o aprendizado futuro (aleven, 2013). Soluções baseadas em IA poderão ser assistentes capazes de acompanhar o raciocínio e a produção de alunos e professores e interagirem dinamicamente com esta produção, ampliando-a, revelando novas nuances, produzindo aproximações sucessivas ao conhecimento e sugerindo ideias. Mais do que soluções de IA preditiva, precisamos desenvolver uma inteligência artificial aprendiz, que aprende com seu interlocutor, ampliando seu repertório e sua autonomia cognitiva.  

E finalmente, o lançamento do ChatGPT. O chat-bot, do grupo dos grandes modelos de linguagem (LLM), usando técnicas de redes neurais profundas para encontrar padrões de grandes conjuntos de textos e relacionando-os com perguntas e diálogos interpretados, gerando respostas, foi desenvolvido pelo laboratório de pesquisa OpenAI e disponibilizado à experimentação pública em 30 de novembro de 2022. O advento do ChatGPT aproxima a IA do grande público ao permitir interação por meio de diálogo, ou seja, inova ao propor uma solução com interface baseada em linguagem natural – elemento-chave na comunicação humana. Imaginemos nossas pesquisas, indagações e produções que podem agora ser apoiadas pelo ChatGPT. As respostas oferecidas pelo chatbot parecem, por vezes, tão razoáveis e humanas que poderiam levar-nos a confundi-las com “intervenções conscientes” quando são somente arranjos probabilísticos de conceitos, palavras ou frases encontradas em sua base de dados. Esse acontecimento no desenvolvimento tecnológico colocou definitivamente a IA no cardápio da formação pedagógica e na formação dos nossos jovens. 

Preparando a escola para a chegada da ia 

Seguindo na reflexão sobre a construção da cultura de gestão cooperada entre o professor e as agências digitais “inteligentes” (lemos, 2014), ampliando as perspectivas de formação desses professores na gestão, apoiada por esses agentes, da aprendizagem de seus alunos, vale observar as características da cultura escolar e da cultura docente que, embora submetidas a validações nacionais unificadas, sempre evoluem de modo distinto. O professor terá interesse e estará capacitado a, através dos sistemas baseados em modelos de aprendizado de máquina, utilizar e aprimorar soluções que aliviem sua carga de trabalho avaliativo, testando as correlações que acredita necessárias? Poderá o professor avaliar e validar as correlações estabelecidas pelo sistema entre atividades avaliativas, rubricas, sequências didáticas, questões, habilidades e evidências, aprimorá-las e editá-las? O sistema apresenta ao professor as evidências de aprendizagem que estão pressupostas para validação das avaliações, da personalização e do avanço do aluno conforme suas interações no sistema?  

A qualidade do debate evoluiu ao longo destes cinquenta anos. Passamos a superar a visão do tecnomessianismo e tecnocatastrofismo para uma visão de maior reflexão teórica também a partir da prática, como sustentam Almeida e Moreira (2018). Mas a reflexão acadêmica não alcança o professor. Na área pública, adotamos estratégias considerando definições centralizadas, induzindo pouca autonomia da escola, do município e, por vezes, do próprio estado e “incorporamos sugestões menos apropriadas ou ideais para, pragmaticamente, dotar de movimento a proposta” (parra et al., 2018). Na rede privada, invade-se a realidade do professor e “para além dos discursos, parece faltar um compromisso diário, também nas universidades, de valorização dos professores e da sua profissão (nóvoa, 2018). 

Em particular, rótulos recentes da tecnologia educacional (selwyn, 2015) – por exemplo, aprendizagem adaptativa, metodologias ativas e pensamento computacional – tendem a ocultar formas contestáveis de reducionismo, como a discussão sobre a educação a uma discussão sobre a aprendizagem e determinismo tecnológico.  

Postman propõe um conjunto de perguntas que questionam, de um modo original, o caminho aparentemente inexorável da inserção tecnológica na vida. 

1. Qual é o problema para o qual a tecnologia será solução?    
2. De quem é o problema?    
3. Quais novos problemas serão criados com a resolução do problema inicial?    
4. Que pessoas e instituições serão mais prejudicadas por essa nova tecnologia?   
5. Que mudanças de linguagem estão sendo promovidas por essas novas tecnologias?    
6. Quais redirecionamentos de poder econômico e político podem resultar dessa nova tecnologia?
7. Quais usos alternativos poderiam ser feitos da tecnologia?

Segundo Selwin, a tecnologia não é neutra e sempre favorece fins específicos enquanto obscurece outros. As tecnologias são produtos de uma indústria em expansão e que envolve muitos interessados, dentre os quais se destacam as grandes editoras, os conglomerados educacionais e os grandes players (ferreira, 2016). A ideia da tecnologia como ferramenta estimula o que Morozov chama de “solucionismo tecnológico”, que é o inebriamento pela ferramenta-solução que passa a ficar, quando incorporada, à procura de um problema para resolver (morozov, 2020). 

Cada vez que o “digital” é usado como modificador ou termo qualificador em qualquer um dos sentidos sugeridos acima, ele exerce um efeito normativo. Em primeiro lugar, o digital sinaliza progresso, desenvolvimento e mudança. Cidadania, alfabetização e direitos não são propriedades fixas, mas estão consagrados na lei, nas normas sociais e nas práticas sociais. Quando o modificador digital é adicionado, tais práticas parecem estar em fluxo e não podem mais ser compreendidas sem referência ao digital (pangrazio, sefton-green, 2021). E agora, com a chegada da inteligência artificial?  

O Ministério da Educação dos Estados Unidos lançou em maio de 2023 um conjunto de recomendações a educadores e agentes públicos sobre a IA e o futuro do ensino e da aprendizagem. A publicação convoca educadores, que já estão submetidos aos algoritmos baseados em aprendizado de máquina em suas vidas pessoais e, em muitos casos, na própria sala de aula, a buscarem referências e se prepararem para a intensificação do uso desses algoritmos nas práticas escolares.  

O documento articula três razões para justificar sua publicação: (1) a IA pode permitir, especialmente na educação pública, alcançar prioridades educacionais de maneiras melhores, em larga escala e com custos mais baixos; (2) a urgência e a importância surgem por meio da conscientização dos riscos no nível do sistema e da ansiedade sobre potenciais riscos futuros, e (3) a urgência surge devido à escala de possíveis consequências não intencionais ou inesperadas. 

Após o documento, várias questões foram dirigidas aos educadores para reflexão sobre a adoção ou possibilidades de adoção de soluções baseadas em IA:  

1. Até que ponto a IA permite a adaptação dos pontos fortes dos alunos e não apenas aos déficits? A IA está permitindo melhor suporte para alunos com deficiência e alunos de inglês? 
2. Como os jovens estão sendo envolvidos na escolha e uso da IA para aprendizagem? 
3. A IA está levando a atividades mais restritas (problemas de matemática processual) ou a atividades mais completas, como as atividades destacadas no Plano Nacional de Tecnologia Educacional (NETP), que enfatiza recursos como aprendizado personalizado, aprendizado baseado em projetos, aprendizado de visualizações, simulações e realidade virtual, bem como aprendizagem em toda a escola, comunidade e ambientes familiares? 
4. A IA apoia o aluno como um todo, incluindo as dimensões sociais da aprendizagem, permitindo que seja participante ativo em pequenos grupos e aprendizagem colaborativa?  
5. Quando a IA é usada, a privacidade e os dados dos alunos são protegidos? Os alunos e seus tutores são informados sobre o que acontece com seus dados? 
6. Quão fortes são os processos ou sistemas para monitorar o uso de IA pelos alunos para bloquear vieses ou outras consequências indesejáveis do uso de IA pelos alunos?  
7. Estão disponíveis pesquisas ou avaliações de alta qualidade sobre os impactos do uso do sistema de IA para aprendizagem do aluno? Sabemos não apenas se o sistema funciona, mas para quem e em que condições? 

Uma experiência internacional 

Os pesquisadores do departamento de Learning Science, da University College of London, liderados pela professora Rose Luckin, desenvolveram um framework (tabela a seguir) que pode ajudar gestores nas instituições de ensino a refletir sobre como se apropriar de soluções baseadas em IA. Inicialmente, colocam-se algumas questões básicas como: “No que somos bons e no que as máquinas são boas? Como humanos e máquinas podem operar juntos? Quais são as possibilidades e restrições da IA na aprendizagem e no ensino? Como as tecnologias de IA podem ser integradas na sala de aula?” (kent e du boulay, 2021). 

1. Educar e entusiasmar

Envolver toda a equipe da sua organização em aprender sobre IA. O que é? O que pode e o que não pode fazer? Como pode ajudar na escola? Até agora, os professores estão numa posição semelhante à da maioria do público. A IA era uma área “muito ocupada para incomodar” que eles talvez não tenham entendido ou particularmente confiaram, deram prioridades a outras áreas e não sentiam grande pressão em compreender. Com a tecnologia educacional sendo priorizada durante a pandemia, houve uma mudança. A IA está cada vez mais vista como uma ferramenta valiosa para o ensino e a aprendizagem, e um componente do conhecimento que as pessoas precisarão para se desenvolver. 

2. Ajustar e aprimorar

Concentrar o pensamento em determinado desafio enfrentado pela organização e considerar se é mesmo algo que a IA pode resolver. Existem recursos na estrutura da escola para ajudá-lo a mergulhar profundamente em seu desafio e trabalhar para filtrar o que pode e o que não pode ser feito e como a IA pode ajudar. 

3. Identificar

Ao decidir o desafio a ser enfrentado, você e seus colegas devem analisar os dados já conhecidos. É provável que seus dados atuais estejam espalhados por toda a sua organização e você pode não ver imediatamente a riqueza sobre a qual está sentado, portanto investir tempo identificando-os e tornando-os adequados para o propósito será recompensador a longo prazo. 

 4. Coletar

Coletar novos dados no que se refere a seu desafio. Isso pode envolver métodos de captura, como pesquisas e entrevistas, mas deve ser feito de forma ética, com consideração pelas pessoas e sensibilidades envolvidas. Você deve garantir que qualquer viés não se infiltre no conjunto de dados para evitar distorcer seus resultados para todo o processo. 

5. Aplicar

Aplicar técnicas de IA aos dados e analisar os resultados que surgem. Embora pareça que isso seria a parte crítica do processo, apenas 20% do seu tempo será investido nisso. Os outros 80% vão ser utilizados com a identificação, limpeza e coleta de todos os dados que alimentam a IA. 

6. Aprender

Analisar os resultados de sua IA aplicada aos dados do desafio e aprender com eles. Essa é a etapa mais valiosa, pois as descobertas do processo ajudarão não apenas a moldar uma abordagem ou solução para o desafio, mas irão ajudá-lo a entender o seu desafio de uma forma totalmente nova. 

7. Reiterar

Olhar para as descobertas e voltar para o passo 2 para verificar se seu desafio e sua IA são tão específicos e informativos quanto possível. Lembre-se de que a IA sozinha raramente produzirá uma solução. A IA combinada com a inteligência humana trabalharão juntas para alcançar uma solução. 

Mas por que alguns temem a IA na escola? 

Os temores são razoáveis. A quantificação e os sistemas autônomos podem representar uma nova onda de recursos poderosos para rastrear, controlar e quantificar a atividade humana, mas oferecem pouco para avançar o ensino e o aprendizado cotidianos em direções produtivas. Esse medo é justificado em nossa era pós-Snowden de vigilância generalizada e violações de dados pós-Cambridge Analytics. Em parte, porém, esse medo também nasce da falta de consciência sobre as diversas formas que o learning analytics e a IA aplicados à educação assumem, o que é igualmente compreensível – para quem está de fora, essas são tecnologias novas e opacas.  

“Segue-se que, se não queremos ver alunos, pais e sindicatos preocupados protestando contra a IA na educação, precisamos comunicar com urgência em termos acessíveis quais são os benefícios dessas novas ferramentas e, igualmente, quão seriamente a comunidade está se envolvendo com seu potencial de ser usado em detrimento da sociedade” (luckin, 2019). 

Projetos como o No Child Left Behind nos Estados Unidos (2001), as crises dos sistemas nacionais de educação, os avanços das provas internacionais na avaliação externa e outros eventos de caráter global impulsionam a preocupação com a responsabilidade e o uso mais intensivo de dados nas instituições escolares. Cunha-se o termo DDDM (Data-Driven Decision Making). Aliado a isso, a produção sem precedentes de dados de aprendizagem e de produção didática de alunos e professores nas plataformas digitais, aceleradas pelas tentativas de ensino remoto e híbrido durante a pandemia (2020-2022), cria situações absolutamente inéditas para o uso de dados educacionais na tomada de decisão (dogan, 2021). 

Se não queremos ver alunos, pais e sindicatos protestando contra a IA na educação, precisamos comunicar com urgência quais são os benefícios dessas novas ferramentase, igualmente, quão seriamente a comunidade está se envolvendo com seu potencial de ser usado em detrimento da sociedade”

Rosemary Luckin

Devemos analisar esse movimento com atenção. Dewey já nos alertava, em 1940, para a simplificação embutida em análises das ciências exatas como modelo para a compreensão do humano, eliminando traços distintivos desse humano (schelling, 2021). Ele argumentava que a “ciência da educação” é particularmente complexa e multifacetada, e fatores passados e presentes influenciam fortemente em quaisquer conclusões que se busca obter. Ele almejava uma ciência flexível e responsiva, que reconhecesse as dimensões lineares e não lineares do crescimento educacional, social e moral do indivíduo. 

Mas mesmo diante de fatores como neoliberalismo, controle, big data, ensino híbrido e crises dos sistemas educacionais públicos, podemos produzir muito com os sistemas de análise baseados em IA que, por isso, merecem nosso estudo crítico e nossa atenção permanente.  

A capacidade de calcular um valor numérico para representar o progresso de um indivíduo ou de uma instituição, até mesmo de um país, agora é fundamental para políticas e práticas baseadas em evidências. O contraponto a “valorizar o que medimos” é, obviamente, “o que conta nem sempre pode ser medido e o que é mensurável nem sempre conta”. Todas as instituições, a educação não sendo exceção, há muito lutam com a tensão de que as poderosas abstrações fornecidas pela análise quantitativa também perdem detalhes vitais à medida que o contexto é removido. Isso é o que torna o design de métricas para avaliar a qualidade de processos e resultados humanos diferenciados (como ensino e aprendizagem) tão controverso. (luckin, 2020) 

Moisés Zylbersztajn é pedagogo especializado em educação digital. Coordenou, por 16 anos, o núcleo de educação digital do Colégio Santa Cruz em São Paulo. Mestrando em Inteligência Artificial e Educação pela PUC-SP, aproveita a experiência de ter vivido muitas ondas de tecnologia chegando à escola para interpretar este movimento que o advento do ChatGPT parece desvelar.

Para saber mais

• BUCKINGHAM, D. Manifesto pela educação midiática. São Paulo: Edições Sesc, 2022. 
• FERREIRA, G. M. et al. Metaphors We’re Colonised By? The Case of Data-Driven Educational Technologies in Brazil. Learning, Media and Technology, v. 45, n. 1, p. 1-15, 2019. Disponível em: mod.lk/ed25_nt1. Acesso em: 3 out. 2023. 
• FLORIDI, L. AI and Its New Winter: from Myths to Realities. Philosophy & Technology, v. 33, n. 1, p. 1-3, mar. 2020. 
• GONSALES, P. Inteligência Artificial, educação e pensamento complexo: caminhos para religação de saberes. 131p. Dissertação (mestrado) apresentada à Pontifícia Universidade Católica de São Paulo, Programa de Estudos Pós-Graduados em Tecnologias da Inteligência e Design Digital. São Paulo, 2022. 
• KENT, C.; DU BOULAY, B. AI for Learners. Boca Raton: CRC Press, 2022. 
• LEMOS, A. Epistemologia da comunicação, neomaterialismo e cultura digital. Galáxia, São Paulo, n. 43, p. 54-66, abr. 2020. 
• LUCKIN, R. et al. Empowering Educators to be AI-ready. Computers and Education: Artificial Intelligence. Elsevier, n. 3. Disponível em: mod.lk/ed25_nt2. Acesso em: 3 out. 2023. 
• MARKEL, J. M. et al. GPTeach: Interactive TA Training with GPT-based Students. Proceedings of the Tenth ACM Conference on Learning @ Scale. Anais… In: L@S ’23: Proceedings of the Tenth ACM Conference on Learning @ Scale. Nova York, ACM, 20 jul. 2023. 
• MASSCHELEIN, J.; SIMONS, M. Em defesa da escola. Belo Horizonte: Autêntica, 2013. 
• MCCARTHY, J. et al. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, ago. 31, 1955. AI Magazine, v. 27, n. 4, p. 12, 2006. 
• MOROZOV, E. To Save Everything, Click Here: The Folly of Technological Solutionism. PublicAffairs, 2013. 
• MUNIR, H.; VOGEL, B.; JACOBSSON, A. Artificial Intelligence and Machine Learning Approaches in Digital Education: A Systematic Revision. Information, v. 13, n. 4, p. 203, 17 abr. 2022. 
• NÓVOA, A. Os professores e a sua formação num tempo de metamorfose da escola. Educação & Realidade, v. 44, n. 3, 2019. 
• PALEVEN, V.; AZEVEDO, R. International Handbook of Metacognition and Learning Technologies. Nova York, primavera de 2013. 
• PANGRAZIO, L.; SEFTON-GREEN, J. Digital Rights, Digital Citizenship and Digital Literacy: What’s the Difference? Journal of New Approaches in Educational Research, v. 10, n. 1, p. 15, 15 jan. 2021. 
• PARRA, H. et al. Infraestruturas, economia e política informacional: o caso do Google Suite for Education. Mediações-Revista de Ciências Sociais, p. 63-99, 2018. 
• POSTMAN, N. Technopoly: The Surrender of Culture to Technology. Vintage: Nova York, 1993. 
• ROMERO, C.; VENTURA, S. Educational Data Mining and Learning Analytics: An Updated Survey. Wiley Interdisciplinary Reviews, Data Mining and Knowledge Discovery, v. 10, n. 3, maio 2020. 
• SANTAELLA, L. O ChatGPT veio para colocar a ética humana à prova. Sociotramas, 14 mar. 2023. Disponível em: mod.lk/ed25_nt3. Acesso em: 3 out. 2023. 
• SAYAD, A. Inteligência artificial e seu impacto no desenvolvimento do pensamento crítico. 2022. 102p. Dissertação (mestrado) apresentada à Pontifícia Universidade Católica de São Paulo, Programa de Estudos Pós-Graduados em Tecnologias da Inteligência e Design Digital. São Paulo, 2022. 
• SELWIN, N. Is Technology Good for Education? Hoboken: Wiley, 2016. 
• TROSHANI, I. et al. Do We Trust in AI? Role of Anthropomorphism and Intelligence. Journal of Computer Information Systems, v. 61, n. 5, p. 481-91, 3 set. 2021. 
• TURING, A. Turing. Computing Machinery and Intelligence. Mind, v. 59, n. 236, p. 433-60, 1950. 
• VICARI, R. Influências da Inteligência Artificial no Ensino. Disponível em: mod.lk/ed25_nt4. Acesso em: 3 mar. 2023. 
• WU, X. et al. A Survey of Human-in-the-loop for Machine Learning. Future Generation Computer Systems, v. 135, p. 364-81, out. 2022.