OpenAI lança ferramenta de detecção ChatGPT “gratuita”
A OpenAI lançou uma ferramenta gratuita de detecção de ChatGPT, embora não seja 100% confiável – aqui está o que você precisa saber…
Depois de abrir a caixa de Pandora e colocar o medo de Deus em escolas, faculdades e qualquer pessoa na profissão de escritor, a OpenAI lançou uma ferramenta de detecção ChatGPT.
E esta nova ferramenta, que funciona junto com seus produtos existentes, incluindo ChatGPT, agora está disponível para uso.
O que isto significa? O gabarito está levantado? Os editores e escritores podem ficar tranquilos, sabendo que seu conteúdo está sendo escrito por um ser humano? Não exatamente. A nova ferramenta, embora totalmente gratuita, não é capaz de detectar conteúdo escrito por IA com 100% de precisão.
Ferramenta de Detecção ChatGPT da OpenAI - Classificador
A nova ferramenta, chamada Classifier, já está disponível para teste – você pode obtê-la aqui. O objetivo da OpenAI com o Classifier é simples: tornar a distinção entre conteúdo humano e gerado por IA um processo, disponível com o clique de um botão.
No grande esquema das coisas, é um bom passo à frente para a empresa. o hype e histeria em torno do ChatGPT tem sido diferente de tudo que vimos desde os dias do COVID, então o fato de o OpenAI estar adotando uma abordagem pragmática para seu uso é bastante louvável.
E agora há um monte de Alternativas ChatGPT de terceiros repletas de recursos que rodam na mesma tecnologia do ChatGPT.
Este também é apenas um software de primeira geração, o trabalho da OpenAI neste campo continuará, de modo que o ChatGPT fique mais inteligente e com mais nuances, assim também o Classificador, formando efetivamente um tipo de sistema de verificações e contrapesos, com relação ao conteúdo da IA.
Quero dizer, algo tinha que acontecer. ChatGPT pode ser custando à OpenAI US$ 3 milhões por mês para operar, mas as consequências potenciais do mercado de trabalho de sua ampla adoção pelas empresas empalidecem em comparação.
Quão preciso é o classificador?
Qual é a precisão do Classificador na detecção do conteúdo do ChatGPT? Aqui estão os dados da boca do cavalo:
Em nossas avaliações em um 'conjunto de desafios' de textos em inglês, nosso classificador identifica corretamente 26% do texto escrito por IA (verdadeiros positivos) como "provavelmente escrito por IA", enquanto rotula incorretamente o texto escrito por humanos como escrito por IA 9% dos o tempo (falsos positivos). A confiabilidade do nosso classificador geralmente melhora à medida que o comprimento do texto de entrada aumenta. Comparado ao nosso classificador lançado anteriormente, esse novo classificador é significativamente mais confiável em textos de sistemas de IA mais recentes.
OpenAI
Além disso, há várias limitações em jogo nesta iteração do Classificador. Em primeiro lugar, o conteúdo precisa ser bastante longo para que se tenha uma noção adequada de se foi uma IA ou uma criação humana – mais de 1000 palavras.
- CONSULTE MAIS INFORMAÇÃO: A Apple tem sua própria versão do ChatGPT?
Em segundo lugar, ele não consegue distinguir entre conjuntos de dados estritos, coisas como números e conjuntos de equações, pois há muito pouco espaço para sinais de talento humano ou de IA nesses tipos de frases e estruturas.
E em terceiro lugar, atualmente, o Classificador funcionará apenas em textos escritos em inglês. Outros idiomas quase certamente virão em breve, mas por enquanto o Classificador está limitado ao inglês.
Como o OpenAI treinou o classificador?
Mais uma vez, IA é um assunto complexo. Eu mal entendo os processos envolvidos na criação de algo tão avançado quanto o ChatGPT, muito menos desenvolver uma ferramenta para encontrar e entender se um conteúdo foi escrito por um humano ou por uma IA.
Felizmente, o OpenAI – fiel ao seu nome – tem uma visão bastante detalhada de como desenvolveu e treinou o Classificador. Aqui está uma visão geral das notas de pesquisa da empresa:
Nosso classificador é um modelo de linguagem ajustado em um conjunto de dados de pares de texto escrito por humanos e texto escrito por IA sobre o mesmo tópico. Coletamos esse conjunto de dados de uma variedade de fontes que acreditamos serem escritas por humanos, como dados pré-treinamento e demonstrações humanas em prompts enviados ao InstructGPT. Dividimos cada texto em um prompt e uma resposta. Nesses prompts, geramos respostas de uma variedade de modelos de linguagem diferentes treinados por nós e outras organizações. Para nosso aplicativo da web, ajustamos o limite de confiança para manter baixa a taxa de falsos positivos; em outras palavras, apenas marcamos o texto como provavelmente escrito por IA se o classificador for muito confiável.
OpenAI
Além disso, a OpenAI agora está trabalhando ativamente com educadores, tanto universitários quanto escolares, para promover uma melhor compreensão de como o ChatGPT pode ser usado e abusado pelos alunos.
Presumo que o Classifier surgiu após o alvoroço de escolas e faculdades nos EUA e em outros lugares sobre o potencial de trapaça com a ferramenta. Quero dizer, se o ChatGPT pode escrever uma redação de nível universitário e a ferramenta é gratuita, apenas um tolo presumiria que os alunos não a usariam para fazer pender a balança a seu favor.
