- Publicidade -
- Publicidade -
- Publicidade -
Inteligência Artificial

OpenAI remove recurso do ChatGPT após vazamento de informações

- Publicidade -
- Publicidade -

São Paulo — InkDesign News — A recente controvérsia envolvendo a OpenAI ilustra os desafios fundamentais na gestão de privacidade em sistemas de inteligência artificial (IA), especialmente em modelos de linguagem baseados em deep learning, como o ChatGPT.

Tecnologia e abordagem

A OpenAI lançou uma funcionalidade que permitia a usuários do ChatGPT tornar suas conversas descobertas por mecanismos de busca, como o Google. Este recurso, classificado como uma “experiência de curta duração”, requeria que os usuários optassem por compartilhar suas interações e ativassem a visibilidade nas buscas. A estratégia era um experimento para agregar conhecimento coletivo, mas a falta de compreensão sobre as implicações de privacidade levou à sua rápida descontinuação.

Aplicação e desempenho

O contexto de uso dessa funcionalidade abrangeu desde consultas simples até perguntas pessoais e profissionais, levantando preocupações sobre dados sensíveis. A descoberta de que conversas privadas poderiam ser acessadas publicamente gerou reações críticas nas redes sociais, evidenciando limitações na comunicação sobre funcionalidade e consentimento. A equipe de segurança da OpenAI admitiu que os guardrails, ou barreiras de segurança, não foram suficientes para prevenir a exposição indesejada de informações.

“Em última análise, acreditamos que esta funcionalidade introduziu muitas oportunidades para que pessoas compartilhassem acidentalmente informações que não pretendiam.”
(“Ultimately we think this feature introduced too many opportunities for folks to accidentally share things they didn’t intend to.”)

— Equipe de Segurança da OpenAI

Impacto e mercado

A situação destaca um padrão crescente de falhas de privacidade na indústria de IA. Similarly, a Google e a Meta enfrentaram críticas por problemas similares em 2023, envolvendo a indexação de conversas de seus respectivos assistentes. Para os tomadores de decisão em empresas, isso ressalta a importância de realizar uma due diligence rigorosa na seleção de fornecedores de IA. Questões cruciais incluem a identificação de circunstâncias em que conversas podem ser acessadas por terceiros e os controles necessários para evitar exposições acidentais.

A resposta rápida da OpenAI, descontinuando a funcionalidade em poucas horas, minimizou danos à reputação, mas deixou claro que a indústria ainda precisa adotar padrões mais rigorosos em privacidade e segurança. À medida que as soluções de IA se tornam cada vez mais integradas aos processos de negócios, as empresas devem aprimorar suas estruturas de governança de IA e garantir uma comunicação clara sobre práticas de manuseio de dados.

Este episódio serve como um alerta sobre a necessidade de inovar de forma responsável, priorizando a privacidade do usuário em todo o processo de desenvolvimento de produtos de IA.

Fonte: (VentureBeat – AI)

- Publicidade -
- Publicidade -

Tiago F Santiago

Tiago F. Santiago é Analista de Marketing na C2HSolutions, onde, em sua atuação fixa, combina estratégia e tecnologia para impulsionar soluções digitais. Paralelamente, dedica-se como hobby à InkDesign News, contribuindo com a criação de notícias e conteúdos jornalísticos. Apaixonado por programação, ele projeta aplicações web e desenvolve sites sob medida, apoiando-se em sua sólida expertise em infraestrutura de nuvem — dominando Amazon Web Services, Microsoft Azure e Google Cloud — para garantir que cada projeto seja escalável, seguro e de alta performance. Sua versatilidade e experiência técnica permitem-lhe transformar ideias em produtos digitais inovadores.

Artigos relacionados

0 0 votos
Classificação do artigo
Inscrever-se
Notificar de
guest

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.

0 Comentários
Mais votado
mais recentes mais antigos
Feedbacks embutidos
Ver todos os comentários
- Publicidade -
Botão Voltar ao topo
0
Adoraria saber sua opinião, comente.x
Fechar

Adblock detectado

Olá! Percebemos que você está usando um bloqueador de anúncios. Para manter nosso conteúdo gratuito e de qualidade, contamos com a receita de publicidade.
Por favor, adicione o InkDesign News à lista de permissões do seu adblocker e recarregue a página.
Obrigado pelo seu apoio!