
OpenAI, fundada por Elon Musk há alguns anos, lançou um novo algoritmo de rede neural, GPT-3, em junho. Hoje é o sistema mais avançado que pode trabalhar com linguagens naturais.
Suas capacidades são simplesmente colossais. Com o GPT-3, você pode criar qualquer tipo de informação textual, incluindo textos técnicos complexos. Por exemplo, quando as redes neurais receberam a tarefa de escrever um texto sobre si mesmas, ela criou um artigo com o título alto "GPT-3 da OpenAI pode ser a maior descoberta depois do Bitcoin . "
Mas pode uma rede neural não apenas compilar palavras, imitando uma pessoa, mas de fato criar textos com significado? Poemas, histórias ou mesmo romances que serão interessantes de ler? Vamos descobrir.
GPT-3: um algoritmo de rede neural que está uma ordem de magnitude à frente de todos os
GPT-3 é o modelo de linguagem mais complexo já criado pelo homem.
Funciona com a probabilidade de uma determinada sequência de palavras. O GPT-3 difere dos modelos anteriores em escala.
Ele usa 175 bilhões de parâmetros para gerar texto e foi treinado em mais de 1,5 trilhão de palavras. Além disso, os textos para treinamento foram usados de várias maneiras: de postagens em fóruns à literatura clássica.
O sistema tenta prever o texto com base nos blocos de texto mais prováveis. O usuário só precisa definir algum ponto de referência a partir do qual a rede neural será iniciada.

Quanto melhor o sistema entender o contexto da solicitação, mais precisa será a resposta.
Tem-se a impressão de que a rede neural pode realmente entender linguagens naturais.
Sharif Shameem, cofundador e CEO do projeto Debuild.co, postou os resultados do teste de vários recursos de rede neural em sua conta do Twitter. E eles são realmente impressionantes.
No vídeo, você pode ver que Sharif escreveu um texto simples na linha de entrada, como se explicasse ao designer ou desenvolvedor o que ele precisava. E o sistema interpretou e retornou o resultado.
Fiquei especialmente divertido com o "botão semelhante a uma melancia".
, , ?
: .
vs. :
Os textos de uma rede neural praticamente não diferem dos textos humanos. Liam Porr, um estudante de Berkeley, conduziu um experimento e postou artigos gerados pelo GPT-3 em seu blog no Adolos por duas semanas.
Artigos motivacionais da rede neural foram lidos por 26.000 pessoas. E, como diz Liam, apenas um deles adivinhou que a letra foi escrita não por uma pessoa, mas por uma máquina. Mas mesmo este comentário foi pensado por outros leitores:

Se você ler os próprios artigos, terá a impressão de que eles foram realmente escritos por algum treinador ou treinador motivacional. Estilo e frases apropriados, estrutura de texto adequada. Às vezes, sentenças ou frases individuais não parecem muito naturais, mas isso não trai a máquina. Afinal, uma pessoa comete pequenos erros.
Esta é uma das razões pelas quais o GPT-3 não foi lançado para o domínio público. Para obter acesso à API OpenAI, você precisa preencher um aplicativo indicando exatamente para que você planeja usar a rede neural.
Ainda na fase de criação do GPT-2, versão anterior do algoritmo, os desenvolvedores perceberam o perigo potencial, pois o sistema pode se tornar um instrumento de guerra de informações. Essa rede neural é capaz de gerar notícias falsas em um ritmo monstruoso. Se você usar seus recursos em detrimento, a Internet simplesmente ficará soterrada por conteúdo falso.
É por isso que planejam vendê-lo para uma empresa de assinaturas no futuro. Mas não para todos, mas apenas para aqueles que provarem que planejam usá-lo "para fins pacíficos".
Rede neural, livros de ficção e poesia
A rede neural pode rivalizar com os autores de notícias na mídia ou artigos técnicos, mas o processo de criação de um romance ou poesia é muito mais complicado. Mesmo os princípios básicos da escrita de ficção são diferentes dos técnicos. É possível ensinar uma rede neural a selecionar rimas e seguir o ritmo sem problemas, mas com muitos significados, as máquinas ainda são byad.
Existe uma rede neural russa "Porfirevich" baseada no algoritmo GTP-2. Ela "sabe" russo e é treinada não apenas em prosa, mas também em poesia. Você pode verificar o trabalho no bot "Neuropoet" Telegram . Você só precisa escrever a primeira linha ou várias, e o sistema fará o resto. Nós verificamos, e acabou-se.

A rede neural transformou a primeira linha de Pushkin em um conjunto incompreensível de texto, no qual motivos militares são adivinhados. E se algumas imagens podem ser consideradas bem-sucedidas ("Carvalho pede pão da primavera" ou "Flores de outono da primavera"), outras causam uma palmada no rosto.
Uma analogia pode ser traçada com a teoria de macacos sem fim que, pressionando teclas aleatórias em uma máquina de escrever por um período de tempo indefinidamente longo, mais cedo ou mais tarde escreverão "Guerra e paz".
A rede neural aqui atua como um macaco, que, em vez de letras individuais, compila palavras e imagens, mas a maioria delas são aleatórias.
Na verdade, muitos desenvolvedores criaram geradores de poesia baseados em GPT-2. Por exemplo, aqui está uma variante de um gerador de letras em inglês que usa um banco de dados leve de 13.000 versos.
Ele também gerou algo pouco inteligível:

Quanto aos livros de ficção, a situação é ainda pior. Isso era de se esperar, porque uma rede neural não sabe como construir um enredo e não sabe o que é um enredo ou clímax. Mas a partir de alguns experimentos, esse jogo selecionado é obtido de forma que só se pode ficar surpreso.
Você gosta de algo como ficção pornográfica da Bíblia? Um ensaio intitulado "The Orange Erotic Bible" foi postado por desenvolvedores desconhecidos... Ele foi criado por uma rede neural baseada no mesmo GPT-2, mas eles o treinaram em romances e contos eróticos, e então deram trechos da Bíblia como ponto de partida para a geração. A história acabou sendo longa - mais de 60.000 palavras. E o resultado é surpreendente, para dizer o mínimo.

Aqui está uma pequena parte da história. E não, não vamos traduzir.
Existe até uma loja online de livros escritos por AI . Parece muito assustador. Porque as capas dos livros também são feitas à máquina.

É verdade que seus criadores admitiram que venderam apenas 19 cópias dos livros. Se sua qualidade se assemelha até mesmo aproximadamente à "Bíblia Laranja", então não estamos surpresos. Os escritores podem dormir bem por enquanto.
Ou não?
Todos os exemplos anteriores lidaram apenas com GPT-2 e eram mais ou menos.
Mas já existe um poeta da rede neural baseado no algoritmo GPT-3. E mostra alguns resultados bastante interessantes.
Uma rede neural pode escrever poesia em um determinado estilo e sobre um determinado tópico. Arram Sabeti, CEO do projeto ZeroCater, já conduziu um experimento em que gerou consultas de rede neural perguntando sobre verso e estilo. A máquina fez o resto.
Aqui está um dos pedidos:
Aqui está um poema do Dr. Seuss sobre Elon Musk lançando foguetes com a SpaceX, construindo carros elétricos na Tesla, vendendo lança-chamas, namorando Grimes, lutando contra a SEC, destruindo vendedores a descoberto, construindo chips cerebrais para combater a IA e colonizando Marte e tweetando a qualquer hora do dia e da noite ... Musk quer tornar os humanos interplanetários para evitar a extinção. O poema rima todas as outras linhas com uma estrutura ABAB. A estrutura da rima é típica do Dr. Rimas infantis de Seuss.
O versículo acabou sendo divertido. Verdade. Apesar das imprecisões óbvias no ritmo e nas ombreiras com rimas, faz sentido. É longo, então incluiremos apenas uma parte aqui.
Elon Musk
By Dr. Seuss
Once there was a man
who really was a Musk.
He liked to build robots
and rocket ships and such.
He said, “I’m building a car
that’s electric and cool.
I’ll bet it outsells those
Gasoline-burning clunkers soon!”
They sell cool cars
that are electric and clean.
And then he wanted to go
even farther, you see.
The first Tesla, Roadster,
Was just the start of a bigger dream.
He said, “I’m building a plane
that’s electric and green”.
O progresso em comparação com a versão anterior do algoritmo é incrível. Esta não é uma coleção de frases incoerentes, mas um poema muito bom em estrutura. Sim, o ideal ainda está longe, as rimas são fracas e o ritmo é manco, mas já nesta fase a gente fica muito surpreso que a máquina veio com isso.
Algumas imagens e frases são simplesmente lindas. Por exemplo, "máquinas velhas a gasolina" - "máquinas velhas a gasolina". Se você não sabe que foi escrito por uma máquina, pode pensar que se trata de criação de algum estudante que decidiu escrever um poema sobre seu ídolo.
E caramba, é legal.
Você pode ler a versão completa do versículo e outras criações da rede neural aqui .
***
Existem muito poucos experimentos com GPT-3 em termos de escrever poesia ou histórias de ficção, então você tem que se contentar apenas com isso. Mas se a rede neural avançou tanto na criação de textos significativos, então é bem possível que em breve ela seja capaz de escrever obras de arte legíveis.
Talvez não seja GPT-3, mas alguns GPT-4 ou mesmo GPT-5, mas a dinâmica de desenvolvimento está claramente lá. Agora a rede neural pode escrever artigos técnicos, notícias, contos ou poesia.
E com o desenvolvimento de algoritmos, a qualidade dos textos gerados só aumentará. Então, sim, a IA pode escrever como um humano. Até agora, no nível de aluno, mas vamos ver como será daqui a 10-20 anos. E o que você acha?
Escola online EnglishDom.com - nós inspiramos a aprender inglês por meio da tecnologia e do cuidado humano

Somente para leitores do Habr, a primeira aula com um professor no Skype é gratuita ! E ao comprar aulas, você receberá até 3 aulas de presente!
Ganhe um mês inteiro de assinatura premium do ED Words como um presente .
Digite o neurowriter do código promocional nesta página ou diretamente no aplicativo ED Words . O código promocional é válido até 29/09/2021.
Nossos produtos:
- Aprenda palavras em inglês no aplicativo móvel ED Words
- Aprenda inglês de A a Z no aplicativo móvel ED Courses
- Instale a extensão para Google Chrome, traduza palavras em inglês na Internet e adicione-as para estudar no aplicativo Ed Words
- Aprenda inglês de forma lúdica no simulador online
- Fortaleça suas habilidades de conversação e encontre amigos em clubes de conversação
- YouTube- EnglishDom