Considere que um sistema de inteligência artificial nega um crédito a um consumidor sem qualquer justificativa compreensível, ou que um algoritmo de RH descarta automaticamente centenas de currículos com base em critérios obscuros e potencialmente enviesado. Embora possam parecer roteiro de ficção científica, esses e outros cenários já acontecem em empresas de todos os portes, no Brasil e no mundo. À medida que a IA se torna protagonista nas decisões corporativas, uma questão urgente se faz presente: quando o algoritmo erra, quem responde por isso?
A resposta está longe de ser simples. Ela exige compreender o funcionamento dessas tecnologias, a legislação específica em construção e, sobretudo, as responsabilidades que recaem sobre quem desenvolve, contrata e utiliza sistemas de IA no ambiente empresarial.
O Brasil avança, ainda que a passos lentos, na construção de um marco legal para a inteligência artificial. O Projeto de Lei nº 2.338/2023, aprovado pelo Senado Federal em 2024 e em tramitação na Câmara dos Deputados, propõe uma estrutura de governança baseada em níveis de risco, inspirada no modelo europeu do AI Act.
Nessa lógica, sistemas de IA utilizados em contextos sensíveis, tal como crédito, saúde, segurança pública e relações de trabalho, estarão sujeitos a obrigações mais rígidas de transparência, auditabilidade e explicabilidade.
Mas a ausência de uma lei específica em vigor não significa ausência de responsabilidade. O Código de Defesa do Consumidor, a Lei Geral de Proteção de Dados (LGPD) e o próprio Código Civil já oferecem mecanismos capazes de responsabilizar empresas por danos causados por sistemas automatizados. A LGPD, em particular, assegura ao titular de dados o direito de solicitar revisão humana de decisões tomadas exclusivamente por meios automatizados, direito esse frequentemente negligenciado pelas empresas.
Um dos maiores desafios jurídicos da IA é justamente identificar quem responde quando algo dá errado, o que pode apontar para uma responsabilidade distribuída ao longo da chamada “cadeia de valor” da tecnologia.
Nesse contexto, o desenvolvedor do sistema poderá responder por vícios presentes no próprio produto, como vieses discriminatórios incorporados ao modelo durante seu treinamento.
Por sua vez, o fornecedor ou integrador que comercializa a solução pode carregar obrigações quanto à informação e adequação, principalmente no que tange as previsões contratuais.
Por fim, a empresa usuária que objetivamente adota o sistema em suas operações, pode ter a responsabilização direta configurada, pois é ela quem escolhe a ferramenta, define seu escopo de aplicação e colhe os benefícios de seu uso. Na prática, portanto, a responsabilização poderá se tornar conjunta dos agentes envolvidos, especialmente nas relações de consumo.
As empresas que adotam boas práticas de governança de IA, reduzem significativamente sua exposição a litígios e sanções regulatórias. Isso inclui a elaboração de políticas internas claras, a realização de avaliações de impacto antes da implantação de sistemas sensíveis, a manutenção de registros de auditoria, a realização de treinamentos e a instituição de canais para contestação humana das decisões automatizadas.
A governança de IA, então, se torna um diferencial competitivo. Consumidores, investidores e parceiros comerciais passam a exigir evidências de que as organizações utilizam essas tecnologias de forma ética e legalmente segura. Ignorar essa dimensão é assumir riscos reputacionais e legais que podem ser devastadores.
A inteligência artificial veio para ficar e, com ela, uma nova camada de complexidade jurídica que as empresas não podem ignorar. A pergunta não é mais se sua organização usará IA, mas como ela à utilizará de maneira segura, ética e juridicamente protegida. A responsabilidade pelos erros do algoritmo existe e recairá, em grande medida, sobre quem não se preparou.
Navegar por esse cenário exige mais do que boas intenções, exige conhecimento jurídico especializado, contratos atualizados e bem estruturados e uma adequada estratégia de conformidade. Se a sua empresa já utiliza ou planeja adotar sistemas baseados em inteligência artificial, esse pode ser o momento certo para mapear os riscos, adequar processos e garantir que a inovação aconteça com segurança. Os negócios que entendem isso, saem na frente.
Por João Antonio Arantes
Advogado do Direito Digital e Compliance da Lopes & Castelo Sociedade de Advogados
