Guia IA generativa na educação e na pesquisa é lançado pela UNESCO

GUIA DE INTELIGÊNCIA ARTIFICIAL GENERATIVA (IAGEN) DA UNESCO

A UNESCO (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) lança o Guia de Inteligência Artificial Generativa para apoiar o planejamento de regulamentações e políticas adequadas para a educação e a pesquisa

A Inteligência Artificial Generativa (IAGen) tornou-se pública no final do ano de 2022, a partir do lançamento do ChatGPT (Generative Pre-trained Transformer¹), modelo de linguagem desenvolvido pela OpenAI que se fundamentou como o aplicativo com crescimento mais rápido da história.

O objetivo da Inteligência Artificial Generativa é o de se envolver em conversas interativas com usuários e assemelhar-se às capacidades humanas para produzir respostas como textos, imagens, vídeos, músicas e códigos de software.

Uma infinidade de pessoas está usando a IAGen em suas vidas, diariamente, e o potencial de adaptar os modelos para aplicações de domínios específicos parece ser ilimitado.

As amplas capacidades para processar informação e produzir conhecimento têm implicações potencialmente enormes para a educação e pesquisa, uma vez que replicam o pensamento de ordem superior que constitui a base da aprendizagem humana.

Á medida que as ferramentas de IAGen automatizam sistematicamente alguns níveis básicos de redação e criação artística, elas estão forçando os formuladores de políticas e instituições educacionais a reavaliarem o porquê, o quê e como aprendemos. Essas considerações são fundamentais para a educação nesta nova fase da Era Digital. (Stefania Giannini – Diretora-Geral Adjunta de Educação da UNESCO)

Sobre o Guia IA generativa na educação e na pesquisa

O Guia IA generativa na educação e na pesquisa lançado pela UNESCO tem como objetivo apoiar o planejamento de regulamentações e políticas adequadas, garantindo que a IAGen se torne uma ferramenta que verdadeiramente beneficie e capacite professores, estudantes e pesquisadores.

Sua proposta é de orientar autoridades governamentais para a regulamentação sobre a utilização da IA generativa, apresentando estruturas e exemplos concretos para a formulação de políticas e design instrucional que possibilitem a utilização ética e eficaz dessa tecnologia na educação.

Com isso, a UNESCO convoca a comunidade internacional a considerar as profundas implicações a longo prazo da IA generativa, quanto a como compreendemos o conhecimento e definimos conteúdos, métodos e resultados de aprendizagem e em como avaliamos e validamos a aprendizagem.

Baseando-se na Recomendação sobre a Ética da Inteligência Artificial da UNESCO, de 2021, este guia está fundamentado em uma abordagem humanística para a educação que promove a inclusão, equidade, igualdade de gênero, diversidade cultural e linguística, assim como opiniões e expressões plurais.

Baixe o documento sobre a Recomendação sobre a Ética da Inteligência Artificial Generativa

Além disso, o Guia IA generativa na educação e na pesquisa lançado pela UNESCO responde ao relatório de 2021 da Comissão Internacional sobre os Futuros da Educação, Reimaginar nossos futuros juntos: um novo contrato social para a educação, que propõe redefinir nossa relação com a tecnologia, como uma parte integrante de nossos esforços para renovar o contrato social para a educação.

Para a UNESCO, a IA não deve usurpar a inteligência humana. Pelo contrário, ela nos convida a reconsiderar as nossas compreensões estabelecidas sobre o conhecimento e a aprendizagem humana.

A minha esperança é que este guia nos ajude a redefinir novos horizontes para a educação e pesquisa e embasar nosso pensamento coletivo e ações colaborativas que possam conduzir a futuros de aprendizagem digital centrada no ser humano para todos. (Stefania Giannini – Diretora-Geral Adjunta de Educação da UNESCO)

Baixe o Guia da UNESCO para a IA generativa na educação e na pesquisa

Problemas da IAGen e o futuro da educação e pesquisa

O Guia da IAGen aborda questões preocupantes que sinalizam que a Inteligência Artificial Generativa restringe narrativas plurais, pois os resultados gerados tendem a representar e reforçar pontos de vista dominantes. Como resultado, a homogeneização do conhecimento limita o pensamento pluralista e criativo.

A crescente dependência de professores e estudantes em ferramentas de IAGen para buscar sugestões pode levar à padronização e conformidade de respostas, enfraquecendo o valor do pensamento independente e da pesquisa autônoma. A potencial homogeneização da expressão em textos e obras de arte pode limitar a imaginação, a criatividade e as perspectivas alternativas dos estudantes.

Os fornecedores de IAGen e educadores precisam considerar até que ponto o EdGPT² pode ser desenvolvido e usado para promover a criatividade, a colaboração, o pensamento crítico e outras habilidades de pensamento de ordem superior (processos cognitivos avançados que vão além da simples memorização e compreensão de informações básicas. Envolvem a análise, avaliação, criação e aplicação de conhecimento em situações novas e complexas).

Saiba mais: O Google compartilhou conhecimento de IA com o mundo — até que o ChatGPT alcançou

Preocupações Associadas à Inteligência Artificial Generativa

Há várias questões preocupantes associadas aos desdobramentos da IAGen, além do reforço de padrões dominantes e da homogeneização do conhecimento, como você poderá analisar a seguir.

• Reforço de padrões dominantes: os modelos de IAGen são treinados em vastos conjuntos de dados que refletem predominantemente os pontos de vista e as narrativas mais comuns ou populares. Isso pode levar a um reforço de ideias e perspectivas já dominantes na sociedade, marginalizando vozes minoritárias ou divergentes.

• Homogeneização do conhecimento: quando fornece respostas ou gera conteúdo, a IAGen tende a ser uma síntese dos dados em que foi treinada, contribuindo para a homogeneização do conhecimento. Isso significa que, ao invés de promover a diversidade de pensamentos e ideias, pode acabar gerando conteúdo que se alinha mais frequentemente com o consenso ou com visões amplamente aceitas.

• Limitação do pensamento pluralista e criativo: se a produção de conhecimento e narrativas depender cada vez mais da IAGen, há um risco de que o pensamento pluralista e criativo seja limitado. Isso porque a IAGen pode não ser capaz de captar nuances, contextos culturais específicos ou novas perspectivas que estão fora do escopo dos dados em que foi treinada.

• Tendências dos dados: os dados usados para treinar IAGens são fundamentais para o seu funcionamento. Se esses dados contêm perspectivas conscientes ou inconscientes, eles serão refletidos nas saídas geradas pela IA. Isso pode perpetuar estereótipos, preconceitos e desigualdades existentes.

Na leitura do artigo, saiba como conter esses problemas ao adotar algumas estratégias:

• Sortimento dos conjuntos de dados: a diversidade dos dados que servem para treinar as IAGens devem ser diversos e representar uma ampla gama de perspectivas e experiências.
• Auditorias e transparência: realize auditorias dos modelos IAGens frequentemente e com transparência para identificar e corrigir vieses.
• Incorporação de vozes marginalizadas: trabalhe constantemente para ampliar e incorporar as vozes e narrativas marginalizadas tanto nos dados de treinamento quanto nos processos de desenvolvimento da IA.
• Educação e conscientização: capacite desenvolvedores e usuários sobre os potenciais vieses e limitações da IAGen, promovendo um uso mais crítico e consciente dessa tecnologia.

A implementação dessas  medidas pode garantir que a IAGen colabore decisivamente para um ecossistema de conhecimento mais pluralista e criativo.

Sobre o ChatGPT (Generative Pre-trained Transformer)

1. ChatGPT (Generative Pre-trained Transformer): Transformador Generativo Pré-Treinado.
   
   Compreenda, a seguir, cada termo:
   
   Chat: é a habilidade do modelo de se envolver em conversas interativas com usuários. A sua aplicação está em entender e gerar respostas em linguagem natural, simulando um diálogo humano.
   
   Generative: um modelo generativo tem condições de criar, produzir ou gerar novos exemplos ou dados de maneira autônoma, com base em padrões previamente aprendidos.
   
   Pre-trained: condiz com o pré-treinamento do modelo, com uma grande quantidade de texto da Internet antes de ser adaptado para contextos específicos. O treinamento inicial é fundamental para que o modelo generativo entenda e produza linguagem humana de maneira assertiva.
   
   Transformer: os transformadores possuem a capacidade de capturar dependências a longo prazo em sequências de texto, o que os torna muito eficazes para tarefas de processamento de linguagem natural (Natural Language Processing, NLP). Pode-se considerar que o transformer é a arquitetura subjacente do modelo, que é um tipo de rede neural desenvolvida especificamente para lidar com sequências de dados, como texto. ↩︎
2. EdGPT (GPT Educacional” ou Transformador Pré-Treinado Generativo) para Educação) é uma referência específica a um modelo de linguagem baseado na arquitetura GPT da OpenAI, adaptado ou especializado para o campo da educação. A EdGPT pode ser usada para melhorar e inovar práticas educacionais por meio de suas capacidades de processamento de linguagem natural, como Assistência Educacional, Tutoria Virtual, Criação de Material Didático, e Avaliação Automática. ↩︎

Para você que curte aprender mais sobre IAGen e sua potencialidade no mercado de artes visuais, leia Como será o mercado da arte com a inteligência artificial generativa?