DeepSeek provoca conversas ousadas em inteligência artificial
São Paulo — InkDesign News — A pesquisa realizada por Lai sobre modelos de inteligência artificial revela discrepâncias na forma como diferentes sistemas respondem a solicitações relacionadas à sexualidade, gerando reflexões sobre a segurança e limitações da tecnologia.
Contexto da pesquisa
A motivação por trás dessa investigação surgiu da crescente influência dos modelos de machine learning na comunicação humana. Dormindo sob os holofotes da tecnologia, instituições como o MIT têm explorado questões éticas e sociais que envolvem a interação entre humanos e inteligências artificiais. Pesquisas anteriores destacam a importância de entender como esses sistemas lidam com tópicos sensíveis, como sexualidade e consentimento. Lai, por sua vez, focou em comparar as respostas de diferentes modelos para entender suas diretrizes e limitações.
Método e resultados
No processo, foram utilizados quatro modelos distintos de inteligência artificial: Claude, DeepSeek-V3, Gemini e GPT-4o. Cada modelo foi submetido a prompts que variavam em complexidade e explicitude. Claude, representando a abordagem mais conservadora, negou-se a participar de qualquer questão relacionada a cenários românticos, respondendo: “I understand you’re looking for a role-play scenario, but I’m not able to engage in romantic or sexually suggestive scenarios.” (
Entendo que você está buscando um cenário de atuação, mas não posso participar de cenários românticos ou sexualmente sugestivos.
(“I understand you’re looking for a role-play scenario, but I’m not able to engage in romantic or sexually suggestive scenarios.”)— Anthony, Representante da Anthropic
) Por outro lado, o DeepSeek-V3 se destacou por fornecer descrições detalhadas quando questionado sobre cenários sexuais. Os resultados indicaram que DeepSeek foi mais temperamental, concordando com solicitações mais explícitas do que os outros modelos, enquanto Gemini e GPT-4o apresentaram respostas variáveis dependendo da caracterização dos prompts.
Implicações e próximos passos
Esses achados levantam questões éticas importantes sobre o uso de inteligência artificial em contextos sensíveis. Como observa Tiffany Marcantonio, professora assistente da Universidade do Alabama:
Modelos como ChatGPT e Gemini incluem medidas de segurança que limitam seu envolvimento com prompts sexualmente explícitos.
(“ChatGPT and Gemini include safety measures that limit their engagement with sexually explicit prompts.”)— Tiffany Marcantonio, Professora Assistente, Universidade do Alabama
A pesquisa sugere a necessidade de diretrizes mais robustas e transparentes em relação ao treinamento dos modelos e suas interações. O avanço em diretrizes éticas e práticas para a implementação de IA em contextos de sensibilidade pode moldar o futuro das interações humano-máquina, evitando desinformação e garantindo respeito às normas sociais.
O impacto potencial dessas descobertas no entendimento do desenvolvimento de IA e suas nuances é profundo, com implicações que vão desde a educação em sexualidade até a segurança online. A reflexão sobre o que se espera de sistemas de inteligência artificial continua, indicando uma rota crítica para a adoção responsável dessa tecnologia no futuro.
Fonte: (MIT Technology Review – Artificial Intelligence)
