Ferramenta Open Source criada para detectar textos escritos por máquinas

Ferramenta Open Source criada para detectar textos escritos por máquinas

2019- 07- 31

A Inteligência Artificial tem evoluído muito nos últimos anos, nomeadamente ao nível dos modelos de linguagem. Segundo os investigadores (Gehrmann et al., 2019), esta rápida evolução dos sistemas de geração de texto, acabou por conduzir ao aumento de abusos e foi no sentido de mitigar isso que resolveram criar a Giant Language Model Test Room (GLTR).

Esta ferramenta foi desenvolvida para “ajudar os humanos a detetar se um texto foi gerado por um modelo” (Gehrmann et al., 2019), assim,

O GLTR aplica um conjunto de métodos estatísticos de linha de base que podem detetar artefactos de geração em esquemas de amostragem comuns. Em um estudo com seres humanos, mostramos que o esquema de anotação fornecido pelo GLTR melhora a taxa de deteção humana de texto falso de 54% para 72% sem nenhum treinamento prévio”

(Gehrmann et al., 2019)

Trata-se de uma tecnologia Open Source, a licença pode ser consultada aqui.

 

Photo by Franck V. on Unsplash.

Gehrmann, Sebastian, et al., 2019. GLTR: Statistical Detection and Visualization of Generated Text. Cornell University [online] disponivel em: https://arxiv.org/abs/1906.04043 (acessado 31 julho 2019)