O que é GPT-3 e os impactos do programa na área

Desenvolvido pela Open AI, instituição sem fins lucrativos especializada em pesquisa e desenvolvimento de inteligência artificial, o modelo de linguagem IA GPT-3 é uma das mais inovadoras já criadas. São 175 bilhões de parâmetros utilizados para alimentar seu sistema, em comparação aos 1,5 bilhão existentes no seu imediato predecessor, o GPT-2.

A sigla GPT significa Generative Pre-trained Transformer, e representa exatamente este tipo de tecnologia que, com base em machine learning, é capaz de processar a linguagem natural e produzir textos de forma preditiva como se fosse um ser humano.

No entanto, existem diversos aspectos que permeiam a relação GPT-3 e segurança, uma vez que a máquina é alimentada pelo ser humano, encontrando aí seu processo de imperfeição. Vamos conhecer um pouco mais sobre o modelo, seus benefícios e cuidados importantes ao abordá-lo.

O que é o GPT-3

O GPT-3 é um programa de inteligência artificial focado na produção de textos que se baseia no conceito de rede neural alimentada por algoritmos e machine learning. A partir do estudo de mais de um trilhão de palavras disponíveis em todo tipo de texto digital na internet, o modelo consegue estruturar textos a partir de ideias inseridas nele.

Por exemplo, ao realizar uma solicitação — inserir no sistema um parágrafo com determinada ideia —, o programa é capaz de interpretar a ideia presente ali e gerar um novo parágrafo contínuo para compor um texto. A sofisticação da solução é tamanha que ela é capaz de construir cinco novos parágrafos para o texto em questão em apenas 10 segundos.

Isso acontece em função da presença de algoritmos estatísticos já identificados em outras publicações realizadas por humanos e disponíveis na internet. O GPT-3 se baseia nos diferentes modelos já existentes e constrói textos utilizando a mesma linha de raciocínio.

Este é um grande salto na evolução da humanidade, podendo proporcionar produtividade em níveis extremos ao trabalho diário de centenas de pessoas. Diferentes tipos e formatos de texto poderão ser produzidos com o auxílio desta tecnologia, cabendo aos seres humanos realizar a preparação para tal performance.

GPT-3 e segurança: onde está o problema

É justamente na fase de preparação do sistema do GPT-3 que se encontram as maiores falhas — assim como em qualquer tecnologia que se utilize de inteligência artificial. O GPT-3 é alimentado por todo tipo de texto disponível na internet, sendo capaz de identificar novos conteúdos e se apropriar de suas linguagens.

Em função disso, podem ser utilizados como munição para o sistema preditivo de criação de textos desde artigos científicos produzidos em instituições renomadas, até manifestos de cunho preconceituoso ou teorias da conspiração.

E é neste sentido que aparece a relação entre GPT-3 e segurança, pensando principalmente nos resultados que virão dos textos produzidos pelo sistema. São duas as principais preocupações:

Ausência de raciocínio abstrato

A interpretação de textos dentro dos algoritmos do GPT-3 ocorre de forma mecanizada através dos inputs inseridos no sistema. Assim, os algoritmos são capazes de identificar composições textuais e coesão, porém não atingem os patamares de coerência e semântica.

Na relação GPT-3 e segurança, o principal prejuízo que este fator gera é a incapacidade do sistema de raciocinar de forma abstrata, compreendendo o real significado das palavras e reagindo a partir disso.

Pensando neste desafio a longo prazo, dezenas de textos estariam disponíveis na internet para consulta gerados a partir deste tipo de tecnologia que não atribui sentido ao que escreve. 

Assim, o abastecimento da sociedade com informações ficaria comprometido, suscetível a erros de conteúdo e, consequentemente, replicação de informações falsas ou incorretas por parte das pessoas.

Reprodução de preconceitos e estereótipos

Já do ponto de vista da reprodução de preconceitos e estereótipos, a segurança das informações fica comprometida por meio destas falsas associações. Estudos sobre o GPT-3 já identificaram que há uma propensão do sistema a relacionar pronomes femininos ou relativos à religiões a termos preconceituosos e estereotipados desses dois universos.

Isso acontece com a maior parte dos modelos baseados em inteligência artificial, pois todos são alimentados, originalmente, pelas mãos humanas. E a sociedade ainda não solucionou suas questões de gêneros, etnias, credos, classes e tantas outras mazelas. E isto é refletido diretamente na inteligência artificial, que se alimenta com aquilo que essa sociedade a abastece.

Alguns exemplos são o fato de que as mulheres são descritas com adjetivos ligados à aparência, enquanto os homens recebem predicados dentro de um espectro muito maior de competências. Religiões como o Islamismo e o Judaísmo são associadas a racismo e terrorismo.

Isso é altamente danoso para a sociedade, uma vez que já temos preconceitos enraizados e ler materiais que endossam esse tipo de visão pode tornar ainda mais difícil o processo de reversão do preconceito e de inclusão e aceitação dentro da sociedade.

Sendo assim, estes são os principais aspectos que relacionam GPT-3 e segurança, pensando principalmente em conteúdos gerados a partir do modelo que possam ser consumidos como verdades absolutas por parte da população.

O dilema faz parte do cenário em que nossas tecnologias são capazes de tantas coisas boas, ao mesmo tempo que podem se tornar destrutivas se utilizadas com as intenções erradas ou até mesmo por pessoas mais vulneráveis. Cabe avaliar todos os benefícios e seguir trabalhando no desenvolvimento da solução para que atinja níveis cada vez maiores de eficiência e prosperidade.

Para conhecer cada vez mais sobre essas e outras novidades do universo da tecnologia, continue acompanhando nosso blog e confira também nosso calendário de cursos!