![](\"https:\/\/s2.glbimg.com\/dluSd8RSWzdO-obBskMpzimDcBg=\/i.s3.glbimg.com\/v1\/AUTH_59edd422c0c84a879bd37670ae4f538a\/internal_photos\/bs\/2023\/0\/y\/2u8ADeQDuQniPBygSWXw\/nova-ferramenta.jpg\")
Classificador \u00e9 um modelo de linguagem treinado por um conjunto de textos escritos por humanos e por intelig\u00eancia artificial sobre o mesmo assunto. Logo do ChatGPT e da OpenAI, criadora da ferramenta
\nLionel Bonaventure\/ AFP
\nA OpenAI, criadora do rob\u00f4 conversador ChatGPT, lan\u00e7ou uma ferramenta de software para identificar textos que foram escritos por intelig\u00eancia artificial (IA), informou a empresa em um post de blog na ter\u00e7a-feira (31).
\nO ChatGPT \u00e9 um programa gratuito que gera texto em resposta a uma solicita\u00e7\u00e3o, incluindo artigos, ensaios, piadas e at\u00e9 poesia. O rob\u00f4 ganhou grande popularidade desde a sua estreia, em novembro do ano passado, mas levanta preocupa\u00e7\u00f5es sobre direitos autorais e pl\u00e1gio.
\nA nova ferramenta que identifica os textos escritos por IA \u00e9 um modelo de linguagem treinado a partir de um conjunto de dados de textos feitos por humanos e por IA sobre o mesmo assunto.
\nO software tamb\u00e9m usa uma variedade de provedores para ajudar a detectar campanhas automatizadas de desinforma\u00e7\u00e3o, disse a empresa.
\nQuer entrar na onda e testar o ChatGPT? Veja quais tarefas do dia a dia ele consegue fazer (talvez melhor do que voc\u00ea)
\nSAIBA MAIS: ChatGPT escreve reda\u00e7\u00e3o do Enem em 50 segundos; saiba quanto ele tiraria
\nLimita\u00e7\u00f5es
\nA pr\u00f3pria OpenAI adverte que o recurso, como outros j\u00e1 dispon\u00edveis, tem limita\u00e7\u00f5es. O m\u00e9todo para detectar texto escrito por IA \u201c\u00e9 imperfeito e \u00e0s vezes pode estar errado\u201d, disse Jan Leike, chefe da equipe de alinhamento da OpenAI encarregada de tornar seus sistemas mais seguros.
\nVeja abaixo as fragilidades citadas pela empresa:
\nO classificador n\u00e3o deve ser usado como a ferramenta principal de tomada de decis\u00e3o, mas sim como um complemento a outros m\u00e9todos de determina\u00e7\u00e3o da fonte de um texto;
\nA ferramenta \u00e9 pouco confi\u00e1vel em textos curtos (abaixo de 1.000 caracteres, o que equivale a aproximadamente 150 a 250 palavras). Os textos ainda mais longos \u00e0s vezes s\u00e3o rotulados incorretamente pelo classificador.
\nA recomenda\u00e7\u00e3o, por enquanto, \u00e9 para utilizar o classificador apenas para texto em ingl\u00eas. Ele tem um desempenho significativamente pior em outros idiomas e n\u00e3o \u00e9 confi\u00e1vel no c\u00f3digo.
\nO texto que \u00e9 muito previs\u00edvel n\u00e3o pode ser identificado de forma confi\u00e1vel pela ferramenta. Por exemplo, uma lista dos primeiros 1.000 n\u00fameros primos, em que a resposta correta \u00e9 sempre a mesma.
\nChatGPT: como usar o rob\u00f4 no dia a dia
\nAlguns dos maiores distritos escolares dos Estados Unidos, incluindo a cidade de Nova York, proibiram o chatbot de IA devido a preocupa\u00e7\u00f5es de que os alunos usariam o gerador de texto para trapacear ou plagiar.
\n\u201cA identifica\u00e7\u00e3o de texto escrito por IA tem sido um ponto importante de discuss\u00e3o entre os educadores, e igualmente importante \u00e9 reconhecer os limites e impactos dos classificadores de texto gerados por IA na sala de aula\u201d, afirma Leike.
\nOutros criaram ferramentas de detec\u00e7\u00e3o de terceiros, incluindo GPTZeroX, para ajudar os educadores a detectar texto gerado por IA.
\nA OpenAI disse que est\u00e1 se envolvendo com educadores para discutir os recursos e limita\u00e7\u00f5es do ChatGPT e continuar\u00e1 trabalhando na detec\u00e7\u00e3o de texto gerado por IA.
\nConhe\u00e7a o ChatGPT, a tecnologia que viralizou por ter resposta para (quase) tudo<\/p>\n","protected":false},"excerpt":{"rendered":"