ChatGPT: OpenAI anuncia identificador de texto criado por IA
A empresa que criou o ChatGPT está trabalhando em uma solução para facilitar a identificação de textos criados por inteligência artificial
Fonte: Divulgação: OpenAI
Imagem de ChatGPT: OpenAI anuncia identificador de texto criado por IA no tecmundo
O laboratório OpenAI, responsável pela ferramenta ChatGPT, anunciou na terça-feira (31) o lançamento de um mecanismo para distinguir texto fabricado por IA do texto escrito por humanos. A novidade ocorre após polêmicas relacionadas ao uso do ChatGPT para trabalhos acadêmicos e até mesmo criação de vírus.
Segundo a empresa, é muito difícil distinguir com 100% de clareza os textos feitos por inteligência artifical. No entanto, ferramentas como o novo identificador podem ser úteis para apontar campanhas de desinformação automatizadas, por exemplo.
OpenAI pede feedback dos usuários sobre novo classificador
Eficácia do classificador
A companhia ainda está treinando um classificador para identificar o conteúdo produzido por Inteligência Artificial e admite que ele ainda "não é totalmente confiável". Nos testes mais recentes utilizando textos em inglês, a ferramenta identificou corretamente 26% do texto escrito por IA.
Além disso, a ferramenta classificou erroneamente 9% dos textos escritos por humanos como feitos por IA. No entanto, a empresa aponta que a solução deve ficar melhor com o tempo.
De acordo com o post no blog oficial da OpenAI, o classificador é menos eficaz em textos com menos de mil caracteres — e mesmo assim, às vezes textos mais longos ainda são rotulados incorretamente. Além disso, a recomendação é utilizar somente textos em inglês, por ter o melhor desempenho neste idioma.
"A confiabilidade do nosso classificador geralmente melhora à medida que o comprimento do texto de entrada aumenta", explica a companhia. "Comparado ao nosso classificador lançado anteriormente, esse novo classificador é significativamente mais confiável em textos de sistemas de IA mais recentes."
Disponível para testes
A OpenAI anunciou que está disponibilizando publicamente o classificador para testes, a fim de obter feedbacks. A empresa também acredita que o uso mais intenso da ferramenta por diferentes usuários pode torná-la mais efetiva.
No entanto, a empresa ressalta que, devido às limitações de lançamento, a solução não deve ser considerada 100% confiável. A OpenAI, por exemplo, recomenda o uso da solução em textos feitos em inglês em um primeiro momento.
