AI traz nova lei de segurança na Califórnia para gigantes da tecnologia
São Paulo — InkDesign News —
A crescente adoção de machine learning (ML) e inteligência artificial (AI) tem gerado debates sobre a necessidade de regulamentações adequadas, especialmente em contextos de segurança. Recentes movimentos na Califórnia oferecem um panorama sobre como legislações podem impactar o setor tecnológico.
Contexto da pesquisa
A nova legislação da Califórnia, conhecida como SB 53, exige que as principais empresas de AI divulguem publicamente seus protocolos de segurança e relatem incidentes críticos. Isso surge como uma resposta ao avanço acelerado da indústria de AI e à necessidade de garantir práticas seguras e transparentes.
Método proposto
As empresas de AI deverão revelar informações em formas redigidas, protegendo dados sensíveis, mas ainda permitindo a supervisão pública. Isso garante uma abordagem diferenciada em comparação à Lei de AI da União Europeia, que requer comunicações privadas com as autoridades governamentais.
Resultados e impacto
Dentre os requisitos da nova lei, as empresas devem relatar incidentes graves, como ameaças de armas habilitadas por modelos e ataques cibernéticos, em um prazo de 15 dias. A legislação também protege denunciantes que reportarem violações ou perigos.
“Com uma tecnologia tão transformadora como a AI, temos a responsabilidade de apoiar essa inovação enquanto implementamos salvaguardas sensatas”
(“With a technology as transformative as AI, we have a responsibility to support that innovation while putting in place commonsense guardrails.”)— Scott Wiener, Senador do Estado da Califórnia
Além disso, a lei introduz a exigência de reportar comportamentos enganosos perigosos durante os testes de sistemas de AI, garantindo assim que situações que possam gerar riscos catastróficos sejam adequadamente comunicadas.
Essas novas diretrizes têm o potencial de modelar a forma como a indústrias de machine learning e AI operam, promovendo maior responsabilidade e responsabilidade na inovação tecnológica.
As possíveis aplicações incluindo noças regulatórias para outras jurisdições e um modelo que poderia ser replicado globalmente na busca por um equilíbrio entre inovação e segurança.
Fonte: (TechXplore – Machine Learning & AI)
