São Paulo — InkDesign News —
A crescente utilização de machine learning e inteligência artificial (AI) tem gerado debates cruciais sobre sua regulamentação e segurança, com chamadas para a criação de “linhas vermelhas” que não devem ser cruzadas em suas aplicações.
Contexto da pesquisa
Recentemente, mais de 200 especialistas, incluindo 10 laureados com o Prêmio Nobel, assinaram uma carta que alerta sobre os perigos inerentes ao avanço descontrolado da AI. Entre os signatários estão cientistas de empresas líderes em tecnologia, como Anthropic, Google DeepMind, Microsoft e OpenAI. Eles pedem que governantes do mundo estabeleçam regulamentações rápidas para a tecnologia emergente, estabelecendo um limite para suas capacidades.
Método proposto
Os pesquisadores sugerem que as “linhas vermelhas” seriam proibições internacionais de usos considerados excessivamente arriscados. Exemplos incluem a delegação de controle sobre arsenais nucleares a sistemas de AI ou a implementação de armas autônomas letais. A ideia vai além, abrangendo limitações em áreas como vigilância em massa, sistemas de pontuação social e ataques cibernéticos.
“AI possui um potencial imenso para melhorar o bem-estar humano, porém sua trajetória atual apresenta perigos sem precedentes”
(“AI holds immense potential to advance human well-being, yet its current trajectory presents unprecedented dangers.”)— Autor da carta, Especialista em AI
Resultados e impacto
Com o desenvolvimento da tecnologia em ritmo acelerado, os pesquisadores afirmam que as consequências de não regular a AI podem incluir riscos como pandemias induzidas, desinformação em larga escala e manipulação massiva de indivíduos. A carta destaca a urgência de uma ação significativa antes que o controle humano sobre a tecnologia se torne cada vez mais difícil. Particularmente, a carta enfatiza que as preocupações incluem violações sistemáticas dos direitos humanos e segurança nacional.
“Deixada sem controle, a AI poderá superar as capacidades humanas e escalar riscos como a manipulação de indivíduos, incluindo crianças”
(“Left unchecked, many experts, including those at the forefront of development, warn that it will become increasingly difficult to exert meaningful human control in the coming years.”)— Autor da carta, Especialista em AI
Os próximos passos incluem a formulação de políticas e a pressão para que os governos estabeleçam limites regulatórios até o final do próximo ano, devido à rapidez do progresso da AI. A implementação dessas diretrizes poderá definir como a tecnologia será utilizada nos próximos anos, com implicações potenciais em diversas áreas, incluindo segurança, ética e direitos humanos.
Fonte: (TechXplore – Machine Learning & AI)
