São Paulo — InkDesign News —
A utilização de machine learning e inteligência artificial (AI) tem se intensificado nas últimas décadas, conjurando preocupações e desafios éticos em diversos setores. Pesquisadores estão explorando como esses modelos podem ser aplicados de forma segura e eficiente, visando a integração com práticas cotidianas e a proteção de dados pessoais.
Contexto da pesquisa
As empresas de tecnologia têm promovido amplamente a ideia de “boa AI”, um conceito que precisa ser rigorosamente examinado. Há um crescente reconhecimento de que dados tendenciosos alimentam os sistemas de AI, afetando negativamente grupos marginalizados. O estudo indica que a falta de diversidade nos datasets pode levar a decisões discriminatórias.
“Isso explica por que sistemas de AI continuam a estar repletos de racismo, ageísmo e várias formas de discriminação de gênero.”
(“This explains why AI systems continue to be riddled with racism, ageism and various forms of gender discrimination.”)— Nome, Cargo, Instituição
Método proposto
O estudo utiliza uma abordagem de Redes Neurais Convolucionais (CNN) para analisar a eficácia dos modelos de AI, enfatizando a necessidade de treinar algoritmos com dados representativos. A pesquisa avalia datasets associados a problemas específicos e realiza benchmarks contra práticas convencionais, utilizando métricas como precisão e recall para medir o desempenho.
Resultados e impacto
Os resultados demonstram que modelos treinados com dados inclusivos obtêm uma taxa de erro significativamente menor em comparação com aqueles que utilizam amostras homogeneizadas. As conclusões sugerem que a diversidade nos dados não apenas melhora a acurácia das previsões de AI, mas também previne a perpetuação de preconceitos presentes em análises de dados pré-existentes.
“Uma abordagem crítica à AI deve contribuir para a criação de tecnologia mais socialmente relevante e responsável.”
(“A critical approach to AI should contribute to the creation of more socially relevant and responsible technology.”)— Nome, Cargo, Instituição
As implicações dessa pesquisa são vastas, sugerindo que, para o futuro próximo, é essencial que organizações e desenvolvedores mantenham um foco ético e inclusivo na evolução de suas tecnologias de AI, participando ativamente do debate sobre sua regulamentação e uso responsável.
Fonte: (TechXplore – Machine Learning & AI)
