China regulamenta inteligência artificial e vai cobrar empresas por danos causados por modelos de IA

A China tomou um passo inédito na regulamentação de inteligência artificial ao anunciar uma nova norma que responsabiliza as empresas que oferecem serviços de IA pelos danos causados por seus modelos. A medida, publicada por autoridades regulatórias chinesas, estabelece que as big techs, startups e outras companhias que desenvolvem sistemas de IA generativa devem indenizar usuários que sofram prejuízos diretos causados pelos modelos.

A regulamentação é a primeira de seu tipo no mundo a ser implementada em larga escala, e sinaliza uma abordagem diferente da que prevalece nos Estados Unidos, onde o debate sobre responsabilidade de IA ainda está em fase inicial. O movimento de Pequim estabelece um precedente que pode influenciar legislações em outros países, incluindo o Brasil.

Escopo da regulamentação: quem é responsável

Segundo a norma publicada, são responsáveis pelas consequências de seus modelos as empresas que:

— Desenvolvem os modelos de IA generativa
— Oferecem serviços baseados em IA para o público
— Treinam os modelos com dados de usuários

A regulamentação abrange desde as grandes tech chinesas, como Alibaba, Tencent e Baidu, até startups e empreendedores que trabalham com IA. O escopo é amplo e cobre praticamente qualquer entidade que ofereça um serviço com base em inteligência artificial.

Que tipo de dano é coberto

A norma especifica que as empresas são responsáveis por danos causados por:

— Dados pessoais divulgados incorretamente pelos modelos
— Recomendações prejudiciais feitas por algoritmos
— Decisões discriminatórias baseadas em viés dos modelos
— Conteúdo gerado que prejudica a reputação de pessoas
— Perda financeira causada por erros ou má orientação do sistema

O critério é o de negligência: a empresa só paga indenização se não tomou medidas razoáveis para mitigar riscos ou se falhou na fiscalização de seus próprios modelos.

Impacto para o ecossistema chinês de startups

A decisão de Pequim traz implicações significativas para o ecosistema de startups de IA na China. Muitas startups pequenas, que não dispõem de recursos grandes de compliance e auditoria, podem enfrentar dificuldades em se conformar com a regulamentação. Grandes players, como Alibaba e Tencent, têm recursos para implementar os sistemas de governança necessários, mas startups menores podem ficar para trás.

Segundo especialistas consultados pela Folha de S.Paulo, a medida pode acelerar a consolidação do mercado chinês de IA, onde poucos grandes players dominariam o cenário, enquanto startups menores se veem forçadas a fechar ou a ser adquiridas por companhias maiores.

Precedente global: o que vem depois

A regulamentação chinesa é observada com atenção por autoridades regulatórias em outros países. Na União Europeia, o AI Act entrou em vigor em 2023, mas com abordagem mais gradual e menos punitiva que a norma chinesa. Nos Estados Unidos, não há ainda legislação federal abrangente sobre responsabilidade de IA, deixando muitas questões em aberto.

O Brasil segue acompanhando esses movimentos. A Câmara dos Deputados discute projetos de lei sobre regulamentação de IA, mas ainda sem definições claras sobre responsabilidade das empresas por danos causados por seus modelos.

Como as empresas preparam compliance

As grandes empresas chinesas já começam a implementar estruturas de compliance para cumprir a nova norma. Isso inclui:

— Auditoria contínua dos modelos de IA
— Sistemas de detecção de viés nos algoritmos
— Protocolos de privacidade de dados mais rigorosos
— Seguro de responsabilidade para cobrir indenizações
— Equipes dedicadas de governança de IA

O custo de implementação dessas estruturas é significativo, o que explica por que startups menores enfrentarão pressão para se conformar.

Internacionalização da regulamentação

Grandes empresas chinesas que operam internacionalmente — como Alibaba, ByteDance (dona do TikTok) e Huawei — precisarão decidir se implementam a regulamentação globalmente ou se mantêm dois padrões: um para o mercado chinês e outro para operações internacionais.

Para empresas brasileiras que trabalham com IA ou que importam tecnologia chinesa, a regulamentação chinesa sinaliza uma tendência: em breve, legislações mais rígidas sobre responsabilidade de IA devem se espalhar, e é melhor estar preparado. Confira nossa cobertura sobre inteligência artificial e transformação digital para entender melhor o cenário global de regulação de tecnologia.

Por que isso importa para negócios e inovação

A regulamentação chinesa sobre IA tem impacto direto em como as empresas globais vão estruturar seus investimentos em tecnologia. Modelos de IA mais seguros e auditáveis, embora mais caros de desenvolver, tendem a se tornar o padrão de mercado. Startups que ignorarem esses movimentos podem ficar expostas a riscos legais e regulatórios significativos, enquanto empresas que antecipar essas demandas ganham vantagem competitiva.

No Brasil, empreendedores da área de IA devem estar atentos: a regulamentação chinesa hoje pode se tornar referência para legislações futuras aqui no país, e antecipar conformidade é investimento estratégico.