À medida que a IA reforça seu domínio corporativo, a educação corre o risco de aprofundar as divisões. A abertura — e não as métricas das caixas opacas — oferece um caminho para a equidade, a transparência e o progresso compartilhado.

 

Por Tel Amiel, Glenda Cox and Colin de la Higuera

 

Tradução realizada por Tel Amiel, do original em: https://www.unesco.org/en/articles/open-education-principles-resisting-metrics-ai-black-boxes

Versão em Francês em: https://chaireunescorelia.univ-nantes.fr/2025/10/15/principes-de-leducation-ouverte-resister-aux-metriques-des-boites-noires-de-lia/

 

A trajetória atual da inteligência artificial (IA) proprietária e controlada pelas big tech ameaça ampliar as desigualdades educacionais em vez de reduzi-las. Os custos financeiros e ambientais das ferramentas comerciais de IA, bem como sua preocupação com o lucro e o desenvolvimento, principalmente para mercados ricos, promtetem deixar para trás justamente as comunidades que mais poderiam se beneficiar da incorporação da IA como tecnologia educacional.

Ferramentas cada vez mais poderosas estão concentradas nas mãos de corporações e indivíduos ricos, desenvolvidas a portas fechadas, com pouca transparência ou prestação de contas pública (Fraser, 2025). A natureza predominante de “caixa opaca” dos sistemas de IA serve para reforçar a hegemonia do Norte Global, incorporando preconceitos existentes e perpetuando desigualdades. Quando as tecnologias educacionais são desenvolvidas principalmente por meio de perspectivas ocidentais e neoliberais, elas inevitavelmente refletem e amplificam essas visões de mundo — incluindo uma perspectiva de lucro em relação à IA e a educação — enquanto marginalizam outras.

Os princípios de abertura podem melhorar significativamente o atual ecossistema de IA. Apesar de nomes como “OpenAI”, muitos desses sistemas estão longe de ser abertos, representando o que os críticos corretamente identificam como “open-washing” – o marketing de sistemas proprietários como abertos, mantendo um controle rígido sobre seu funcionamento e aspectos críticos de seu ecossistema técnico. Como sugere Widder (2024), “mesmo em seu máximo, a IA aberta é altamente dependente dos recursos de alguns grandes atores corporativos, que efetivamente controlam a indústria de IA e a ecologia de pesquisa além dela” (p. 831, tradução nossa). Não podemos ignorar que, atualmente, a maior parte do que é considerado IA “aberta” é fechada em vários elementos-chave críticos, incluindo dados de treinamento, pesos e transparência geral em relação ao trabalho humano.

 

Muitos desses sistemas estão longe de ser abertos, representando o que os críticos corretamente identificam como “open-washing” – o marketing de sistemas proprietários como abertos, mantendo um controle rígido sobre seu funcionamento e aspectos críticos de seu ecossistema técnico.

 

Sugerimos uma estratégia de “otimismo não estúpido” em relação à tecnologia educacional (Facer & Selwyn, 2021). Essa abordagem reconhece os benefícios potenciais da tecnologia, mantendo-se criticamente consciente de como as atitudes tecnossolucionistas muitas vezes servem ao crescimento econômico e à acumulação de capital, em vez de às necessidades educacionais genuínas.

 

Devemos evitar a armadilha de ver os reparos tecnológicos (incluindo a IA) como soluções completas para desafios educacionais complexos. Ainda assim, podemos ser otimistas no sentido de que os sistemas de IA podem incorporar abertura: bens públicos digitais projetados para serem transparentes em suas estruturas e funcionamento e incorporar estruturas de governança colaborativa.

A ênfase em modelos fechados baseados na eficiência e nos ganhos econômicos intensificou significativamente uma narrativa histórica de que o desempenho educacional pode ser medido em métricas de desempenho (notas, alunos graduados, trabalhos) e retorno sobre o investimento (Luke, 2023). Começamos apresentando dois exemplos dessa lógica: recursos educacionais tradicionais e fechados e aplicações atuais de IA na educação. Em segundo lugar, discutimos brevemente como aspectos da abertura – tecnologia, práticas, recursos e governança – podem nos ajudar a contrariar a trajetória atual da IA na educação.

Uma educação menos sustentável

O design convencional do conteúdo educacional tem sido “fechado”, adaptado a casos de uso e públicos específicos. Isso pode ser positivo, mas também é limitante, pois investimentos substanciais em desenvolvimento podem levar a conteúdos que atendem apenas a necessidades e interesses muito específicos e que não se destinam a ser alterados, adaptados ou melhorados. Mesmo que os recursos educacionais tenham sido imaginados por seus autores como úteis a longo prazo, a forma como são produzidos, entregues e selecionados no contexto do modelo econômico predominante os torna efêmeros.

O exemplo mais claro disso são os livros didáticos impressos. Eles geralmente são bastante caros e, em alguns países, os governos compram livros didáticos e os distribuem gratuitamente (por meio de subsídios públicos). Esses livros didáticos muitas vezes não podem ser reivindicados/as pelo aluno/a e são devolvidos à escola no final do semestre, até que, após um período, novas edições sejam compradas novamente pelo governo. Os recursos digitais não são necessariamente uma melhoria. Os sistemas de gestão de aprendizagem permitem o acesso a recursos por um período limitado ou dentro do escopo de uma matéria específica. Quando o período de matrícula termina, os alunos não têm mais acesso aos materiais digitais do curso. Essas decisões de design evidentes no conteúdo tradicional agora estão incorporadas nas tecnologias educacionais, o que ajuda a definir a própria essência do que valorizamos na educação.

 

A pressão recai sobre todos os atores da educação para que cumpram suas metas: o professor recebe indicadores numéricos e referências a serem atingidos, e alunos cada vez mais jovens são ensinados a medir seu sucesso pelas notas que obtêm. Mas qualquer atividade que seja definida exclusivamente por métricas de desempenho e retorno sobre o investimento provavelmente pode ser realizada de forma mais eficiente e barata pela IA.

 

Um fenômeno semelhante pode ser observado na ênfase atual na otimização da IA na educação. A otimização é onde a IA pode prosperar: para funcionar, ela precisa de critérios numéricos de desempenho. A IA precisa deles para que os algoritmos sejam ajustados e também para fornecer um argumento para comercialização. A IA tem um desempenho melhor do que os humanos no xadrez porque tem uma pontuação (ELO) mais alta. A IA também pode se sair melhor no diagnóstico médico, pois consegue detectar mais tumores do que médicos humanos com um número equivalente de falsos positivos (Lang, 2023). A taxa de erro é um indicador crucial que permite que os algoritmos pareçam melhores do que a alternativa. Mais importante ainda, os critérios permitem que os sistemas substituam o que são problemas de aprendizagem mal definidos por problemas de otimização bem definidos.

Os indicadores de desempenho, portanto, definem o problema a ser resolvido: detectar mais tumores significa resolver um problema de diagnóstico.

 

Mas esse não é o caso da educação. Indicadores de desempenho, como notas no final do semestre, não devem representar os objetivos da educação. Ter mais alunos com notas mais altas é um indicador insuficiente da experiência educacional. No entanto, hoje, o discurso em torno da adoção da IA na educação está repleto de narrativas que promovem plataformas e serviços para fornecer geração de conteúdo personalizada e automatizada e ajudar os professores a ensinar de forma mais eficaz, alegando ajudar os alunos a obter notas mais altas ou aumentar algum outro indicador de desempenho facilmente mensurável.

 

E a pressão recai sobre todos os atores da educação para que cumpram suas metas: o professor recebe indicadores numéricos e referências a serem atingidos, e alunos cada vez mais jovens são ensinados a medir seu sucesso pelas notas que obtêm. Mas qualquer atividade que seja definida exclusivamente por métricas de desempenho e retorno sobre o investimento provavelmente pode ser realizada de forma mais eficiente e barata pela IA.

O argumento a favor da IA na educação como impulsionadora do desempenho ou otimizadora do trabalho é reforçado pelas big tech capitalistas, que se encaixam perfeitamente nas ideologias educacionais neoliberais predominantes em todo o mundo. Essa lógica predominante só nos levará a valorizar cada vez mais a competição e resultados simples e mensuráveis. Não é isso o que queremos para a educação.

 

Combatendo o open-washing

 

Propomos que três aspectos da abertura podem contribuir para um futuro melhor.

 

Tecnologias abertas

 

A natureza de muitas das tecnologias educacionais que hoje incorporam IA é que elas são caixas opacas (black boxes): “um dispositivo ou sistema que, por conveniência, é descrito exclusivamente em termos de suas entradas e saídas. Não é necessário entender nada sobre o que acontece dentro dessas caixas opacas. Basta considerá-las como instrumentos que desempenham certas funções valiosas” (Winner, 1993; tradução nossa). Isso inclui painéis (dashboards) baseados na lógica de “inteligência empresarial” (business intelligence ou BI), ferramentas de avaliação automática, modelos de geração de texto e mídias e sistemas de recomendação personalizados. Os sistemas de caixa opaca incentivam certas formas de engajamento. Professores e alunos, sob a bandeira da “alfabetização em IA” e da inovação, são encarregados — se não forçados — a se tornarem “usuários éticos” e instrumentalmente competentes de sistemas técnicos (Buzato & Gonsales, 2025).

 

Podemos criar sistemas de IA que sejam responsáveis perante as comunidades educacionais, em vez de perante os acionistas de empresas. Essa transparência permite uma análise crítica dos sistemas de IA, permitindo que pesquisadores, educadores e alunos participem e abordem vieses ou limitações. A IA e outros sistemas tecnológicos automatizados devem seguir definições mais rigorosas de abertura, que permitam que os dados usados para treinamento¹, pesos (weights) e código sejam examinados e aprimorados por diversas comunidades. Os dados usados em treinamento seriam representativos da diversidade global ou do contexto local (para sistemas menores e mais direcionados), e os sistemas seriam projetados para amplificar vozes marginalizadas, em vez de perpetuar as estruturas de poder existentes. Isso é especialmente importante em contextos educacionais, onde os sistemas de IA podem, de outra forma, reforçar estereótipos sobre quem “pertence” a determinados campos ou quem é capaz de aprender.

 

Práticas e Recursos Abertos

A crescente incorporação de caixas opacas em contextos educacionais exacerbou a ênfase em métricas de aprendizagem superficiais. O futuro poderia construir modelos que aumentassem o foco no processo, na experiência e no resultado, em “pedagogias profundas”, que enfatizam o cuidado e a construção de relações significativas entre “o eu, os outros seres humanos e outros parentes, e o mundo natural” (Andreotti, 2021; tradução nossa). A lógica das práticas e recursos abertos promove esses valores.

 

A competição e a eficiência precisam de números. Por outro lado, assim que você tem alguns números que supostamente medem um desempenho, a competição (fazer melhor do que o outro) e a eficiência (fazer melhor do que antes) prosperarão. Mas mesmo quando esses números são significativos, a redução do problema inicial (no nosso caso, aprender melhor ou ensinar melhor) a um problema de otimização simplificado (melhorar sua pontuação) sempre se insinua. Isso às vezes é apoiado pelo argumento moderno de que a abordagem agora é “orientada por dados”. No entanto, a abordagem só é orientada por dados quando todos têm acesso aos dados e processos, e não a um número gerado por uma fórmula a partir dos dados. As tecnologias abertas vão além de mostrar apenas um indicador escolhido.

 

O futuro poderia construir modelos que aumentassem o foco no processo, na experiência e no resultado, em “pedagogias profundas”, que enfatizam o cuidado e a construção de relações significativas.

Os recursos educacionais abertos podem contribuir significativamente para práticas de engajamento crítico. Eles são licenciados abertamente e geralmente em formatos abertos, permitindo que comunidades em todo o mundo os examinem, modifiquem e adaptem aos contextos e necessidades locais. Os alunos podem ser críticos em relação ao que é “dado”, “um movimento de abertura a outras aventuras epistemológicas” (Matos de Souza, 2024). O envolvimento com os REA pode ser uma ferramenta para ajudar alunos e educadores a se verem como cocriadores ativos de conteúdo, tecnologia e currículos que representam suas realidades vividas, em vez de consumidores passivos de conteúdo e ferramentas previamente empacotados, criados apenas para maximizar resultados facilmente mensuráveis.

 

Para isso, no entanto, devemos reconceituar a educação como um bem público, em vez de uma mercadoria. Os princípios da educação aberta são fundamentalmente contracapitalistas, afirmando que o conteúdo e o conhecimento devem ser gratuitos e disponíveis para todos. Essa postura reconhece que a educação não é um benefício privado, mas um recurso coletivo que fortalece as comunidades e as sociedades.

Governança aberta e participativa da educação

 

Já estamos naquilo que alguns estudiosos descrevem como a era “pós-digital” (Fawns et. al., 2023) – uma época em que as tecnologias digitais se tornaram tão incorporadas à vida cotidiana que não são mais uma novidade, mas simplesmente parte da infraestrutura da sociedade. Em breve, poderemos nos encontrar em um mundo “pós-IA”, no qual a IA, em suas diversas formas, estará igualmente integrada à vida cotidiana e à aprendizagem. Vimos como a plataformização da educação promoveu a entrada silenciosa e não consensual de ferramentas de IA (chatbots, geradores de imagens, inteligência empresarial) em sistemas baseados na web usados na gestão educacional e no ensino. A questão não é se a IA transformará a educação – ela já começou a fazê-lo –, mas quais valores sustentarão sua lógica na educação.

 

A IA não é simplesmente uma ferramenta para tornar as abordagens educacionais existentes mais eficientes. Em vez disso, devemos nos perguntar como princípios de abertura podem possibilitar formas inteiramente novas de aprendizagem aberta e comunidade baseadas no bem comum, para que possamos orientar o desenvolvimento da IA no sentido de servir ao florescimento humano, em vez do lucro corporativo.

 

Do ponto de vista da educação, a natureza rápida e em constante evolução da IA apenas reforça a necessidade de um passo adicional. As instituições educacionais devem criar urgentemente mecanismos que permitam às partes interessadas reagir de forma rápida e eficaz às mudanças. Uma cultura de abertura associada a tecnologia, prática e recursos nos ajuda a imaginar uma governança mais participativa para lidar com as incertezas e as exigências enfrentadas por alunos e educadores.

 

Nota de rodapé

1 - Reconhecemos os dilemas em tornar o conhecimento tradicional um dado aberto, como o direito de exercer controle sobre o conhecimento nativo, que pode ser incorporado, cercado e explorado comercialmente por interesses privados (como tem sido o caso do software livre e do acesso aberto). Embora defendamos que isso é a exceção e não a regra, em favor do “aberto”, isso demonstra o reconhecimento de que a “abertura” não é neutra e traz novos desafios.

 

Referências

 

Andreotti, V. D. O. (2021). Depth education and the possibility of GCE otherwise. Globalisation, Societies and Education, 19(4), 496-509. https://doi.org/10.1080/14767724.2021.1904214

Buzato, M. E. K., & Gonsales, P. (2025). Dimensões e enfoques alternativos para um modelo de letramentos críticos de inteligência artificial. Revista Brasileira de Linguística Aplicada, 25(2), e44436. https://doi.org/10.1590/1984-6398202544436

Facer, K., & Selwyn, N. (2021). Digital technology and the futures of education: Towards 'non-stupid- optimism. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000377071

Fawns, T., Ross, J., Carbonel, H., Noteboom, J., Finnegan-Dehn, S., & Raver, M. (2023). Mapping and Tracing the Postdigital: Approaches and Parameters of Postdigital Research. Postdigital Science and Education, 5(3), 623-642. https://doi.org/10.1007/s42438-023-00391-y

Fraser, N. (2025). Workers are cannibalised by the capitalist class. Interview on Aljazeera. https://www.youtube.com/watch?v=RLoRoWrYo4E

Lång, K. et al. Artificial intelligence-supported screen reading versus standard double reading in the Mammography Screening with Artificial Intelligence trial (MASAI): a clinical safety analysis of a randomised, controlled, non-inferiority, single-blinded, screening accuracy study. The Lancet Oncology, Volume 24, Issue 8, 936 - 944. https://doi.org/10.1016/s1470-2045(23)00298-x

Luke, J. (2023). Closing the factory: Reimagining higher education as commons. In L. Czerniewicz & C. Cronin (Eds.), Higher Education for Good: Teaching and Learning Futures (pp. 161-182). Open Book Publishers. https://doi.org/10.11647/obp.0363.06

Matos-de-Souza, R. (2024). Forgetting Larrosa. Post-western Guidelines for Reading Modernity. Praxis Pedagógica, 24(37), Article 37. https://doi.org/10.26620/uniminuto.praxis.24.37.2024.49-71

Widder, D. G., Whittaker, M., & West, S. M. (2024). Why 'open' AI systems are actually closed, and why this matters. Nature, 635(8040), 827-833. https://doi.org/10.1038/s41586-024-08141-1

Winner, L. (1993). Upon Opening the Black Box and Finding It Empty: Social Constructivism and the Philosophy of Technology. Science, Technology, & Human Values, 18(3), 362-378. https://www.jstor.org/stable/689726

Biografias

 

 

As ideias aqui expressas são dos autores; elas não refletem necessariamente a posição oficial da UNESCO e não comprometem a Organização.

Atualização: 15h40, 21/10/2025 - erros de tradução.

• Tel Amiel
• 20/10/2025