O uso de mecanismos de an\u00e1lise espec\u00edficos para o ambiente acad\u00eamico se faz cada vez mais necess\u00e1rio, mas demanda cuidados.<\/p>\n\n\n\n
A intelig\u00eancia artificial (IA) \u00e9 cada vez mais usada na produ\u00e7\u00e3o de textos – o sucesso de programas como o ChatGPT que o diga. Mas isso tamb\u00e9m est\u00e1 se tornando um problema, especialmente em ambientes acad\u00eamicos, em que autenticidade e originalidade s\u00e3o fatores essenciais. Assim, tamb\u00e9m cresce a demanda por detectores de textos gerados por IA, o que exige cuidados por professores, pesquisadores e editores.<\/p>\n\n\n\n
A fun\u00e7\u00e3o principal dos detectores de textos gerados por IA \u00e9 analisar v\u00e1rios recursos lingu\u00edsticos, como estrutura de frases, escolha de palavras e elementos estil\u00edsticos. Essas ferramentas geralmente empregam algoritmos de aprendizado de m\u00e1quina treinados em grandes conjuntos de dados para reconhecer padr\u00f5es t\u00edpicos de textos produzidos por intelig\u00eancia artificial.<\/p>\n\n\n\n
Alguns padr\u00f5es s\u00e3o relacionados \u00e0 medida de qu\u00e3o imprevis\u00edvel \u00e9 um texto, ou qu\u00e3o prov\u00e1vel \u00e9 que ele deixe perplexo (confuso) um leitor. Textos gerados por IA t\u00eam maior probabilidade de fazer sentido e serem lidos sem problemas, mas tamb\u00e9m s\u00e3o mais previs\u00edveis. J\u00e1 a escrita humana tende a apresentar maior complexidade, com linguagem mais criativa, mas tamb\u00e9m pode conter erros de digita\u00e7\u00e3o ou de gram\u00e1tica.<\/p>\n\n\n\n
Outro padr\u00e3o que pode ser avaliado \u00e9 a varia\u00e7\u00e3o na estrutura e comprimento das frases. Um texto com poucas varia\u00e7\u00f5es deste tipo tem alta probabilidade de ter sido gerado por IA. J\u00e1 um texto com maior varia\u00e7\u00e3o provavelmente foi escrito por um humano. Os modelos de linguagem tendem a produzir frases de comprimento m\u00e9dio (10 a 20 palavras) e com estruturas convencionais. \u00c9 por isso que a escrita da IA \u00e0s vezes pode parecer mon\u00f3tona.<\/p>\n\n\n\n
A precis\u00e3o desses detectores, no entanto, pode variar significativamente dependendo da complexidade do texto, da l\u00edngua, e da sofistica\u00e7\u00e3o da IA que o gerou. Uma das principais quest\u00f5es discutidas no meio acad\u00eamico \u00e9 o potencial para falsos positivos e falsos negativos. Falsos positivos ocorrem quando um detector identifica incorretamente um texto escrito por humanos como gerado por IA, enquanto falsos negativos acontecem quando o conte\u00fado gerado por IA \u00e9 classificado erroneamente como escrito por humanos.<\/p>\n\n\n\n
Estes erros podem ter implica\u00e7\u00f5es graves, particularmente em contextos acad\u00eamicos onde as acusa\u00e7\u00f5es de pl\u00e1gio podem prejudicar reputa\u00e7\u00f5es e carreiras, gerar a\u00e7\u00f5es legais por danos morais, e criar um mal-estar em sala de aula. Consequentemente, n\u00e3o \u00e9 aconselh\u00e1vel fazer acusa\u00e7\u00f5es sem provas contundentes de m\u00e1 conduta. Isso significa que o indiv\u00edduo deve, al\u00e9m de ferramentas de detec\u00e7\u00e3o, verificar a concord\u00e2ncia entre essas ferramentas e seu julgamento pessoal usando sua experi\u00eancia.<\/p>\n\n\n\n
Conhe\u00e7a o GPT-4o, novo modelo de IA usado pelo ChatGPT<\/p>\n\n\n\n
Corrida armamentista
O desafio de manter os detectores atualizados com o cen\u00e1rio em r\u00e1pida evolu\u00e7\u00e3o do conte\u00fado gerado por IA tamb\u00e9m \u00e9 um problema. \u00c0 medida que os modelos de IA se tornam mais avan\u00e7ados, seus resultados assemelham-se cada vez mais \u00e0 escrita humana, tornando mais dif\u00edcil para os detectores discernirem as diferen\u00e7as.<\/p>\n\n\n\n
Essa corrida armamentista entre geradores e detectores de conte\u00fado de IA exige melhorias e atualiza\u00e7\u00f5es cont\u00ednuas nos algoritmos de detec\u00e7\u00e3o. At\u00e9 o momento, \u00e9 dif\u00edcil encontrar uma ferramenta que identifique de forma 100% confi\u00e1vel textos gerados por IA e por humanos. A detec\u00e7\u00e3o de IA ainda est\u00e1 em seus est\u00e1gios iniciais de desenvolvimento, e atualmente os desenvolvedores dessas ferramentas est\u00e3o correndo atr\u00e1s das IAs geradoras de textos. Portanto, \u00e9 importante n\u00e3o substituir o julgamento humano, especialmente quando jovens estudantes e pesquisadores s\u00e3o avaliados por potenciais m\u00e1s condutas.<\/p>\n\n\n\n
Al\u00e9m disso, \u00e9 importante considerar algumas quest\u00f5es \u00e9ticas que envolvem o uso de detectores de IA, tais como privacidade, seguran\u00e7a de dados e o uso indevido de ferramentas de detec\u00e7\u00e3o, violando a confidencialidade e os direitos de propriedade do autor. Portanto, tamb\u00e9m \u00e9 importante ter transpar\u00eancia na implanta\u00e7\u00e3o e utiliza\u00e7\u00e3o de detectores, garantindo que os usu\u00e1rios estejam cientes de que os seus dados est\u00e3o sendo checados, utilizados e protegidos.<\/p>\n\n\n\n
Do lado da confiabilidade, os detectores de IA precisam ser examinados a priori, por meio de testes emp\u00edricos e estudos de caso, antes de serem utilizados em situa\u00e7\u00f5es reais. V\u00e1rios experimentos podem ser conduzidos para avaliar o desempenho dos detectores de IA atualmente em uso, revelando resultados concordantes ou uma mistura de resultados que descordam entre si. Alguns detectores mostram altas taxas de precis\u00e3o em ambientes controlados, mas t\u00eam dificuldades em identificar textos humanizados ou parafraseados gerados por IA. Esta variabilidade destaca a necessidade de testes e valida\u00e7\u00e3o cont\u00ednuos das ferramentas de detec\u00e7\u00e3o.<\/p>\n\n\n\n
Op\u00e7\u00e3o gratuita e dispon\u00edvel
Levando tudo isso em conta, desenvolvi com o aluno Jo\u00e3o Gabriel Gralha, do Centro T\u00e9cnico Cient\u00edfico da Pontif\u00edcia Universidade Cat\u00f3lica do Rio de Janeiro (PUC-Rio), o sistema computacional Gotcha-GPT. Gratuito e dispon\u00edvel no reposit\u00f3rio Github, este sistema j\u00e1 pode detectar textos cient\u00edficos em ingl\u00eas gerados por IA e por humanos, e pode ser facilmente treinado em pouco tempo para avaliar qualquer texto, inclusive em portugu\u00eas e em qualquer n\u00edvel de complexidade. A \u00fanica limita\u00e7\u00e3o \u00e9 o tamanho do texto, que tem que ter at\u00e9 1024 tokens, ou aproximadamente 700 palavras.<\/p>\n\n\n\n
O Gotcha-GPT tamb\u00e9m pode ser utilizado em conjunto com outros detectores de textos gerados por IA, tais como Originality AI, Copyleaks, ZeroGPT, GPTZero, Writer AI, Hive AI, Detector Content At Scale e Giant Language Model Test Room. \u00c9 importante destacar, por\u00e9m, que n\u00e3o endossamos nenhuma das ferramentas acima, nas quais os usu\u00e1rios precisam testar e serem treinados para ganhar experi\u00eancia.<\/p>\n\n\n\n
** Publicado originalmente no site The Conversation Brasil<\/p>\n\n\n\n
Fonte da mat\u00e9ria: g1<\/p>\n","protected":false},"excerpt":{"rendered":"
O uso de mecanismos de an\u00e1lise espec\u00edficos para o ambiente acad\u00eamico se faz cada vez mais necess\u00e1rio, mas demanda cuidados. A intelig\u00eancia artificial (IA) \u00e9 cada vez mais usada na produ\u00e7\u00e3o de textos – o sucesso de programas como o ChatGPT que o diga. Mas isso tamb\u00e9m est\u00e1 se tornando um problema, especialmente em ambientes<\/p>\n","protected":false},"author":1,"featured_media":58881,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[44],"tags":[],"class_list":{"0":"post-58879","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-example-6"},"_links":{"self":[{"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/posts\/58879","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=58879"}],"version-history":[{"count":1,"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/posts\/58879\/revisions"}],"predecessor-version":[{"id":58882,"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/posts\/58879\/revisions\/58882"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/media\/58881"}],"wp:attachment":[{"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=58879"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=58879"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comandogeraldanoticia.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=58879"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}