Marcos Souza Para deter o abuso do ChatGPT, OpenAI tem uma nova ferramenta que pode detectar se um texto é mais provável que tenha vindo de um programa de IA ou de um humano.
O OpenAI introduziu a ferramenta “Classificador de Texto IA” na terça-feira para ajudar a reprimir textos gerado por IA que está sendo passado como vindo de um ser humano. O problema se tornou especialmente pronunciado na educação com estudantes explorando o ChatGPT para completar tarefas de casa e trabalhos de universidades.
Em um post de blog, OpenAI também observou que o texto gerado por IA poderia representar uma ameaça quando usado para gerar texto automatizado para campanhas de desinformação.
Como utilizar a nova ferramenta da OpenAI?
A ferramenta de classificação é bastante simples:
- Envie algum texto com pelo menos 1.000 caracteres
- O OpenAI lhe dirá a probabilidade de que ele veio de um programa de IA ou de um humano.
Como funciona o Classificador de texto IA?
A ferramenta foi criada através do treinamento de um modelo de computador para discernir entre “pares de texto escrito por humanos e texto escrito por IA sobre o mesmo tópico”.
A ferramenta de classificação de texto IA está em fase beta
Classificador de textos IA
Criamos um texto e o classificador considera o texto como sendo provavelmente gerado por IA. No entanto, o laboratório de São Francisco admite que o classificador está longe de ser perfeito.
A confiabilidade do classificador também cai ao examinar pequenos trechos ou alguns parágrafos de texto. Portanto, a ferramenta só funcionará em apresentações com mais de 1.000 caracteres de comprimento. Além disso, “às vezes o texto escrito por humanos será rotulado incorretamente, mas com confiança, como escrito por nosso classificador”, observou OpenAI.
“Além disso, os alunos podem aprender rapidamente a evitar a detecção modificando algumas palavras ou cláusulas no conteúdo gerado”, disse o laboratório.
Aviso a escolas e faculdades
Portanto, OpenAI diz que a ferramenta “não deve ser usada como uma ferramenta primária de tomada de decisão” quando se trata de determinar se um pedaço de texto é gerado por IA ou não. Mas apesar de todas as limitações, o OpenAI decidiu liberar a ferramenta, pois ela funciona em “mitigações” para evitar que os estudantes explorem o ChatGPT para fins de fraude.
“Estamos tornando este classificador publicamente disponível para obter feedback sobre se ferramentas imperfeitas como esta são úteis”, acrescentou OpenAI. “Nosso trabalho na detecção de texto gerado por IA continuará, e esperamos compartilhar métodos melhorados no futuro”.
O revolucionário ChatGPT
Lançado em novembro, o ChatGPT é um o programa de IA extremamente avançado. Ele pode pode escrever ensaios, poemas e responder perguntas de teste sobre uma grande variedade de tópicos em questão de segundos. Embora a qualidade das respostas possa ser duvidosa, os pesquisadores descobriram que o ChatGPT é inteligente o suficiente para (mal) passar num exame de MBA e até corrigir inúmeros bugs em código de computador.
As controversas na area da educação
Inevitavelmente, o surgimento do ChatGPT tem suscitado perguntas sobre se o mesmo programa ameaça minar a educação e perturbar os empregos de colarinho branco. Algumas escolas e professores já decidiram bloquear o programa de IA em suas redes. Uma das principais preocupações é que o ChatGPT faz com que trapacear nos deveres de casa e testes seja fácil demais. Enquanto isso, alguns terceiros lançaram suas próprias ferramentas gratuitas para ajudar os educadores a divulgar textos gerados por inteligência artificial.
O OpenAI disse que está tentando resolver os problemas de trapaça, alcançando os professores nos EUA para aprender sobre suas experiências. O laboratório também publicou um documento com conselhos sobre como os educadores poderiam introduzir e supervisionar o uso do ChatGPT em suas salas de aula com segurança.
Mas o OpenAI também observou que ainda é muito cedo para dizer como programas como o ChatGPT afetarão a educação e a sociedade. “Até hoje temos visto exemplos de melhorias de produtividade que transformam empregos, deslocamento de empregos e criação de empregos, mas tanto os efeitos líquidos a curto como a longo prazo não são claros”, disse o documento.
Já testou o revolucionario ChatGPT? O que acha da ferramenta criada pela dona do ChatGPT para detectar se um texto é criado por IA?
Curta, comente e compartilhe.
