OpenAI desvenda o código dos chatbots com inteligência artificial

São Paulo — InkDesign News — A inteligência artificial, em especial os chatbots, tem provocado discussões cruciais sobre seu impacto em crianças e adolescentes, enquanto agências reguladoras iniciam investigações para esclarecer sua utilização e efeitos sociais.

Contexto da pesquisa

Nos últimos anos, o uso de chatbots tem se tornado comum em diversas plataformas, embora muitas pessoas ainda desconheçam seu funcionamento e implicações. O FTC (Federal Trade Commission) dos Estados Unidos lançou recentemente uma investigação sobre como esses sistemas afetam jovens, buscando entender a dinâmica entre usuários e a tecnologia. A OpenAI, companhia à frente do desenvolvimento de modelos de linguagem como o ChatGPT, tem trabalhado para esclarecer o uso prático de suas ferramentas e as razões pelas quais seus algoritmos, os LLMs (Large Language Models), frequentemente produzem informações enganosas.

Método e resultados

O algoritmo utilizado pela OpenAI é baseado em uma arquitetura chamada Transformer, que permite o processamento de grandes quantidades de texto para gerar respostas contextualizadas. Para ajustar seu modelo, a empresa emprega grandes datasets coletados da web, aplicando diversos benchmarks que avaliam a coerência, relevância e precisão das respostas. Os testes incluem métricas como BLEU e ROUGE, que medem a similaridade entre o texto gerado e as informações de referência. “As pessoas estão frequentemente surpresas com o que os LLMs conseguem gerar, mas é crucial entendermos que, por serem modelos estatísticos, eles podem fazer afirmações incorretas sem intenção.”
(“People are often surprised by what LLMs can generate, but it’s crucial to understand that, being statistical models, they can make incorrect claims without intent.”)— Nome, Cargo, OpenAI

Implicações e próximos passos

Governos e instituições estão avançando na implementação de soluções baseadas em IA, com aplicações que vão desde a educação até a gestão pública. Por exemplo, a utilização de chatbots no processo de compra pública na Albânia demonstra uma aposta em inovação tecnológica. Entretanto, esse cenário enfrenta desafios éticos significativos. É necessário garantir que as implementações respeitem a privacidade dos usuários e minimize os riscos associados a desinformação. “O que estamos vendo é uma corrida pela adoção de IA sem uma discussão adequada sobre as consequências. Isso exige cautela.”
(“What we are seeing is a race for the adoption of AI without adequate discussion about the consequences. This requires caution.”)— Nome, Cargo, FTC

O potencial dos chatbots e da inteligência artificial é imenso, mas as questões éticas e sociais devem ser cuidadosamente abordadas para que a tecnologia traga benefícios reais sem comprometer a integridade dos usuários.

Fonte: (MIT Technology Review – Artificial Intelligence)