Startups de IA enfrentam risco jurídico quando algoritmos causam danos
Enquanto o Brasil ainda discute um marco regulatório específico para a inteligência artificial, startups que desenvolvem, comercializam ou integram soluções baseadas em IA já convivem com riscos jurídicos concretos. Falhas de sistemas, decisões automatizadas, danos a consumidores e uso de dados pessoais podem gerar responsabilização mesmo antes da aprovação de uma lei específica.
Na ausência de uma norma própria para IA, tribunais têm recorrido ao Código de Defesa do Consumidor, ao Código Civil e à Lei Geral de Proteção de Dados, a LGPD, para analisar casos envolvendo empresas que operam com algoritmos.
Responsabilidade pode recair sobre a empresa
Para Rafael Peixoto Abal, advogado e sócio do b/luz, especialista em Direito e Tecnologia e coautor do livro “Inteligência Artificial no Direito: Governanças e Aplicações”, a falta de regulação específica não significa ausência de responsabilidade. Segundo ele, as empresas precisam avaliar os riscos antes que uma falha gere prejuízo a usuários ou consumidores.
“A pergunta que os fundadores de startups de IA precisam se fazer não é ‘existe uma lei que regula isso?’, mas sim ‘quando o meu sistema errar e causar um dano, quem vai responder?’. E a resposta, na maioria dos casos, é: a empresa. O fato de o erro ter sido produzido por um algoritmo e não por uma pessoa não elimina a responsabilidade. Em muitos casos, pode até agravá-la, porque demonstra que a empresa escolheu delegar uma decisão a um sistema que não conseguia controlar adequadamente”, afirma Abal.
Uso de tecnologia de terceiros não elimina o risco
O desafio aumenta quando a cadeia de fornecimento de IA envolve múltiplas empresas, cenário comum em startups que desenvolvem soluções sobre modelos de linguagem, APIs ou plataformas de terceiros. Nesses casos, pode ser difícil definir onde começa e onde termina a responsabilidade de cada agente sobre o comportamento do sistema final.
“Existe uma ilusão de que usar uma API de terceiro transfere o risco para o fornecedor da tecnologia. Isso raramente é verdade na prática. Do ponto de vista do usuário final, a empresa que contratou ou que ofereceu o serviço é a responsável pelo resultado. Os contratos de distribuição de responsabilidade entre empresas da cadeia podem até existir, mas eles não protegem a startup perante o cliente lesado”, explica o advogado.
LGPD amplia exposição das startups de IA
Além da responsabilidade por eventuais danos, a proteção de dados é outro ponto de atenção. Sistemas de IA que processam grandes volumes de dados pessoais para treinar ou operar modelos estão sujeitos à LGPD.
De acordo com Abal, a combinação entre uma falha algorítmica e uma violação de dados pode expor a empresa em diferentes frentes regulatórias e judiciais, incluindo ANPD, Procon, Ministério Público e Judiciário.
Governança antes da lei
O projeto de lei de IA em tramitação no Congresso prevê conceitos como classificação de sistemas de alto risco e transparência em decisões automatizadas. Ainda assim, especialistas avaliam que empresas não devem esperar a aprovação da norma para estruturar controles internos.
Entre as práticas citadas estão:
- documentação de decisões de design;
- mecanismos de auditabilidade;
- políticas claras de uso de sistemas de IA;
- avaliação de riscos em soluções desenvolvidas internamente ou baseadas em terceiros.
“O projeto de lei de IA que tramita no Congresso traz conceitos importantes, como a classificação de sistemas de alto risco e a obrigação de transparência sobre decisões automatizadas. Mas mesmo que a lei demore, as startups que adotarem agora práticas de governança de IA, como documentação de decisões de design, mecanismos de auditabilidade e políticas claras de uso, vão estar muito mais bem posicionadas quando o primeiro litígio aparecer”, conclui Abal.
Este conteúdo de divulgação comercial foi fornecido por MGA Press e não é de responsabilidade editorial da revistaempreende.com.br.