Uma das principais determinações do projeto é que as empresas devem informar de forma clara quando os consumidores estão interagindo com sistemas gerados por IA. Isso inclui uma explicação acessível sobre como os algoritmos funcionam e quais são suas implicações na experiência do usuário. Além disso, em situações de decisões automatizadas, como a negativa de crédito ou diagnósticos médicos, o consumidor terá o direito de solicitar esclarecimentos sobre os critérios utilizados. O projeto assegura que, caso necessário, o usuário possa solicitar uma revisão humana da decisão, buscando garantir justiça nas interações.
Outro ponto crucial da proposta é o direito de exclusão de dados. Os consumidores poderão a qualquer momento requisitar que suas informações sejam retiradas dos bancos de dados que alimentam os sistemas de IA. Contudo, essa regra não se aplica a dados do ecossistema de crédito, que devem seguir a legislação pertinente.
O texto também aborda a questão da discriminação algorítmica, proibindo qualquer uso de sistemas de IA que leve a tratamentos desiguais com base em características protegidas por lei, como raça, gênero e idade. As empresas terão a obrigação de realizar auditorias regulares para identificar e corrigir possíveis vieses e devem manter canais de denúncia para os consumidores que se sentirem prejudicados.
Notavelmente, a proposta introduz uma inovação no setor da saúde, permitindo o uso de IA certificada pela administração pública para revalidar receitas de medicamentos de uso contínuo, com regulamentação a ser definida.
Elaborado pelo relator David Soares, a proposta é um substitutivo que integra três projetos distintos que buscavam abordar o tema. Este substitutivo incorpora elementos de legislações estrangeiras, como a proposta europeia do AI Act e os princípios da Lei Geral de Proteção de Dados (LGPD) no Brasil.
O próximo passo da tramitação envolve a análise por outras comissões, incluindo a de Defesa do Consumidor e a de Constituição e Justiça. A proposta precisará ser aprovada em ambas as casas do Congresso para se transformar em lei, trazendo um avanço na regulamentação do uso da inteligência artificial e reforçando a responsabilidade social das empresas em um cenário tecnológico em constante evolução.
