OpenAI, a empresa de pesquisa de IA por trás do ChatGPT, lançou uma nova ferramenta para distinguir entre texto gerado por IA e gerado por humanos.
Embora seja impossível detectar texto escrito por IA com 100% de precisão, a OpenAI acredita que sua nova ferramenta pode ajudar a mitigar falsas alegações de que humanos escreveram conteúdo gerado por IA.
Em um anúncio, a OpenAI diz que seu novo classificador de texto AI pode limitar a capacidade de executar campanhas automatizadas de desinformação, usar ferramentas de IA para fraude acadêmica e representar humanos com chatbots.
Quando testada em um conjunto de textos em inglês, a ferramenta pôde dizer corretamente se o texto foi escrito por IA em 26% das vezes. Mas também pensou erroneamente que o texto escrito por humanos foi escrito por IA 9% das vezes.
A OpenAI diz que sua ferramenta funciona melhor quanto mais longo o texto, e pode ser por isso que requer um mínimo de 1.000 caracteres para executar um teste.
Outras limitações do novo classificador de texto OpenAI incluem o seguinte:
- Pode rotular erroneamente texto gerado por IA e escrito por humanos.
- O texto gerado por IA pode escapar do classificador com pequenas edições.
- Pode errar com textos escritos por crianças e com textos que não estão em inglês porque foi treinado principalmente com conteúdo em inglês escrito por adultos.
Com isso em mente, vamos ver como ele funciona.
Usando o classificador de texto AI da OpenAI
O AI Text Classifier da OpenAI é simples de usar. Faça login, cole o texto que deseja testar e clique no botão enviar.
A ferramenta avaliará a probabilidade de a IA ter gerado o texto que você enviou. Os resultados variam entre os seguintes:
- Muito improvável
- Improvável
- Não está claro se é
- Possivelmente
- Provável
Em uma seção de perguntas frequentes na parte inferior da página, a OpenAI afirma:
“Nosso uso pretendido para o AI Text Classifier é promover conversas sobre a distinção entre conteúdo escrito por humanos e gerado por IA. Os resultados podem ajudar, mas não devem ser a única evidência ao decidir se um documento foi gerado com IA. O modelo é treinado em texto escrito por humanos de uma variedade de fontes, que podem não ser representativos de todos os tipos de texto escrito por humanos.”
A OpenAI acrescenta que a ferramenta não foi completamente testada para detectar conteúdo contendo uma combinação de IA e texto escrito por humanos.
Em última análise, o AI Text Classifier pode ser um recurso valioso para sinalizar texto potencialmente gerado por IA, mas não deve ser usado como uma medida definitiva para fazer um veredicto.
Matéria completa: https://l.blackrat.pro/FTxpO
