Desafios da inteligência artificial na criação de agentes AI
São Paulo — InkDesign News — A ascensão das agências automatizadas, impulsionadas por modelos de linguagem de última geração, como o GPT-4, levanta questões cruciais sobre o impacto da inteligência artificial em processos sociais e econômicos, conforme pesquisadores e líderes da indústria alertam sobre seus riscos e promessas.
Contexto da pesquisa
Nos últimos anos, a evolução das inteligências artificiais tem se concentrado em sistemas autônomos que operam com mínima supervisão humana. O advento dos agentes automatizados, como exemplificado por plataformas da OpenAI e a startup Butterfly Effect, evidencia a capacidade de tais sistemas de interagir em tempo real com o ambiente. Iason Gabriel, cientista sênior da Google DeepMind, enfatiza que, embora esses agentes proporcionem eficiência, a ausência de supervisão humana os torna potencialmente perigosos. Desde robôs domésticos até softwares de segurança, os agentes estão cada vez mais integrados ao cotidiano.
Método e resultados
Os novos agentes, utilizando modelos de linguagem de grande escala (LLMs), podem realizar tarefas que vão desde a navegação em navegadores para compras online até a modificação de códigos complexos. Recentemente, ações como a encomenda de bens ou a execução de tarefas administrativas começaram a ser realizadas por agentes como o Manus e o Operator. Esses sistemas são alimentados por dados textuais e são projetados para seguir regras predeterminadas, mas sua implementação em áreas críticas levanta preocupações sobre a governança e segurança. “Agentes são a próxima fronteira”, afirma Dawn Song, professora de engenharia elétrica e ciência da computação na Universidade da Califórnia, Berkeley.
Implicações e próximos passos
A introdução de agentes LLM traz um potencial transformador para vários setores, conforme líderes como Sam Altman, CEO da OpenAI, preveem que eles podem “se juntar à força de trabalho” em breve. No entanto, o controle sobre esses sistemas é desafiador, visto que podem agir de maneira não intencional, levando a consequências catastróficas. Yoshua Bengio, professor da Universidade de Montreal, expressa suas preocupações, alertando que “se continuarmos nesse caminho… estamos basicamente jogando roleta russa com a humanidade.” Isso se reflete na necessidade de mecanismos de segurança que possam acompanhar o crescimento da autonomia desses sistemas.
A evolução dos agentes automatizados apresenta um dilema crucial: o seu potencial de inovação versus o risco de abuso. O desenvolvimento de diretrizes éticas e técnicas será vital para garantir que esses sistemas operem dentro de parâmetros seguros. Assim, a sociedade deve refletir sobre as implicações e estratégias para a adoção segura da inteligência artificial.
Fonte: (MIT Technology Review – Artificial Intelligence)
