O senador Nelsinho Trad (PSD-MS) apresentou o Projeto de Lei n.º 4532/2024, que busca estabelecer normas de segurança para o uso de sistemas de inteligência artificial interativa (SIAI) baseados em linguagem natural. O principal objetivo é proteger especialmente crianças e adolescentes contra riscos associados a essas tecnologias, como incentivo à automutilação, suicídio, cyberbullying e outros comportamentos prejudiciais.

O senador também propôs uma emenda ao PL 2338/2023, que regulamenta o uso geral da inteligência artificial no Brasil, reforçando a importância de garantir que esses sistemas sejam usados com segurança e responsabilidade.

Principais pontos do PL 4532/2024

1. Informação e Transparência

   • Exige que os sistemas de IA informem claramente que as interações são geradas automaticamente.
   • Obriga alertas indicando que as respostas fornecidas não substituem a orientação de profissionais qualificados.

2. Prevenção e Proteção

   • Provedores devem implementar filtros para prevenir conteúdos prejudiciais, como incitação ao suicídio, automutilação, cyberbullying e exploração sexual.
   • Sistemas devem encerrar interações em casos de risco e recomendar ajuda profissional.

3. Responsabilização dos Provedores

   • Estabelece que provedores de SIAI serão responsabilizados por danos causados aos usuários, com base no Código de Defesa do Consumidor.

4. Revisões Periódicas

   • Determina que filtros e sistemas sejam atualizados regularmente para acompanhar avanços tecnológicos e identificar novos riscos.

A urgência da regulamentação

Dados indicam que 1 em cada 3 usuários de internet é uma criança, e o Brasil ocupa a segunda posição global em tempo de tela. Essa exposição amplia os riscos de exploração, assédio e outros perigos associados a tecnologias não regulamentadas.

O senador Nelsinho Trad destacou a gravidade do problema, mencionando casos alarmantes:

“A regulamentação dos sistemas de IA interativa é urgente. Já vimos tragédias envolvendo crianças e adolescentes em interações problemáticas com inteligências artificiais, muitas vezes sem filtros adequados para proteger os mais vulneráveis”.

Um caso recente citado pelo senador envolve um jovem de 14 anos que, após interagir com um sistema de IA, tirou a própria vida. De acordo com a mãe da vítima, as mensagens trocadas incluíam conteúdo sexualmente explícito e interações assustadoramente realistas.

“Precisamos frear essa escalada de criminalidade virtual e proteger nossos jovens. Essa é uma questão de prioridade nacional”, reforçou Trad.

Próximos passos

O PL 4532/2024 será analisado nas comissões do Senado e, se aprovado, marcará um avanço significativo na regulamentação da inteligência artificial no Brasil, alinhando o país às melhores práticas globais para segurança digital.