Durante um debate promovido pelo grupo, a consultora da organização não governamental Artigo 19 Brasil e integrante da Coalização Direitos na Rede, Paula Guedes, destacou alguns pontos que precisam ser aprimorados no projeto. Segundo ela, a proteção de direitos e medidas de governança foram removidas, e avaliações preliminares sobre o grau de risco foram flexibilizadas, tornando práticas que deveriam ser obrigatórias apenas recomendações.
O texto em questão divide as aplicações de inteligência artificial em duas categorias: inteligência artificial e inteligência artificial generativa. Após passar por mudanças no Senado, apenas os sistemas de inteligência artificial generativa e de propósito geral serão submetidos a uma avaliação preliminar de risco, enquanto nos demais casos a avaliação será facultativa.
Para determinar o grau de risco dos sistemas, desenvolvedores, fornecedores ou aplicadores deverão realizar uma análise antes da chegada do produto ao mercado, levando em consideração suas finalidades e impacto. Sistemas considerados de risco excessivo, como os de armas autônomas e os que têm como objetivo a produção de material de abuso sexual de crianças e adolescentes, serão proibidos pela proposta.
A especialista Paula Guedes ressaltou a importância dessas medidas para garantir os direitos fundamentais dos cidadãos, incluindo a proteção da privacidade, a prevenção da discriminação e a transparência no uso da inteligência artificial. Além disso, o projeto aborda também os direitos autorais no desenvolvimento de sistemas de IA, permitindo o uso de conteúdos protegidos apenas por instituições de pesquisa, jornalismo e educação, desde que obtenham os materiais de forma legítima e não visem fins comerciais.
Como podemos perceber, a regulamentação da inteligência artificial é um tema complexo e de extrema relevância, pois envolve não apenas a tecnologia em si, mas também questões éticas, legais e de direitos humanos. É essencial que o debate continue de forma ampla e democrática, a fim de garantir que a legislação final seja justa e equilibrada para todos os envolvidos.
