OpenAI enfrenta investigação por possível conteúdo falso gerado pelo ChatGPT

A Comissão Federal de Comércio dos Estados Unidos (FTC, na sigla em inglês) lançou uma investigação sobre a OpenAI, a empresa de pesquisa em inteligência artificial apoiada pela Microsoft, por potenciais danos causados pelo seu aplicativo, o ChatGPT. O foco do inquérito é entender se o aplicativo está produzindo informações falsas e fazendo uso inapropriado dos dados dos usuários, segundo informações reveladas pelo The Washington Post.

O software em questão, baseado na tecnologia GPT-4, é uma ferramenta de inteligência artificial conhecida como "IA generativa", que tem a capacidade de gerar textos similares aos escritos por humanos em questão de segundos. O lançamento do ChatGPT, em novembro do ano anterior, foi considerado um marco na indústria, pela demonstração do poder dos grandes modelos de linguagem, ou LLMs (sigla em inglês).

A FTC entregou um questionário de 20 páginas à OpenAI, solicitando detalhes de casos onde usuários tenham sido falsamente difamados e pedindo informações sobre os esforços da empresa para prevenir tais incidentes. A investigação também está abordando a questão de como a OpenAI utiliza os dados privados dos usuários para aprimorar o modelo que está por trás do ChatGPT.

Apesar da inovação trazida pelos grandes modelos de linguagem, existem preocupações sobre como a tecnologia pode ser usada para criar conteúdo ofensivo, estranho ou até mesmo falso, fenômeno que tem sido descrito como "alucinações". O questionário da FTC está focado em compreender se tais práticas têm potencial para prejudicar os usuários.

Sam Altman, CEO da OpenAI, expressou em sua conta do Twitter a sua decepção com o vazamento da investigação para a imprensa, alegando que isso "não gera confiança". Ele também declarou que a empresa vai cooperar com a FTC, afirmando que a segurança e o bem-estar do consumidor são prioridades para a OpenAI, e que a empresa está confiante de que segue a lei.

Uma investigação por parte da FTC não implica necessariamente em medidas legais subsequentes. Se a comissão estiver satisfeita com a resposta da empresa, pode optar por encerrar o caso. Por outro lado, se práticas ilegais ou inseguras forem identificadas, a FTC pode exigir ações corretivas e até mesmo iniciar um processo legal. Até o momento, nem a OpenAI nem a FTC responderam aos pedidos de comentários feitos pela AFP.