A responsabilidade institucional na era da inteligência artificial

1. Quando a tecnologia passa a integrar a decisão

A inteligência artificial passou a ocupar uma posição peculiar nas organizações contemporâneas. Deixou de ser apenas uma ferramenta destinada à execução de tarefas e passou a participar de processos nos quais são produzidas classificações, recomendações, previsões e subsídios para decisões que podem afetar pessoas, operações e interesses juridicamente relevantes.

Essa mudança produz uma consequência que merece atenção jurídica: o problema da inteligência artificial não se resume à capacidade técnica do sistema.

A questão também é institucional.

Quando uma organização incorpora um sistema de inteligência artificial, modifica a maneira pela qual informações são produzidas, riscos são percebidos, alternativas são avaliadas e decisões são justificadas. A tecnologia passa, portanto, a integrar uma estrutura decisória que continua pertencendo à organização.

A pergunta relevante deixa de ser apenas o que o sistema consegue fazer e passa a envolver como a instituição decidiu utilizá-lo, para qual finalidade, sob quais limites e com quais mecanismos de supervisão.

É nesse espaço que surge a questão central deste artigo: como a incorporação de sistemas de inteligência artificial modifica a responsabilidade institucional das organizações e quais estruturas de governança são necessárias para assegurar decisões juridicamente sustentáveis, supervisionáveis e auditáveis?

A hipótese é direta: a automação não elimina a responsabilidade institucional; ela torna mais sofisticada a sua organização.

Essa perspectiva está alinhada à concepção de governança como estrutura de coordenação da ação institucional e ao deslocamento do foco regulatório para a qualidade das capacidades que sustentam as decisões. O verdadeiro objeto da inovação, nessa perspectiva, não é apenas a tecnologia, mas a decisão institucional.

2. Da decisão automatizada à responsabilidade institucional

É necessário distinguir quatro elementos que frequentemente aparecem confundidos no debate sobre inteligência artificial: ferramenta, sistema, decisão e organização.

Uma ferramenta tecnológica pode auxiliar determinada atividade sem produzir, por si só, uma decisão institucional.

Um sistema de inteligência artificial, por sua vez, pode processar dados, identificar padrões, formular previsões ou produzir recomendações.

A decisão ocorre quando determinada saída do sistema é incorporada a um processo no qual alguém ou alguma estrutura institucional atribui consequências práticas àquela informação.

E a organização é o espaço no qual essa utilização é autorizada, contratada, implementada, supervisionada e incorporada aos seus processos.

Essa distinção é relevante porque evita um equívoco recorrente: imaginar que a existência de uma camada tecnológica entre a informação e a decisão seja suficiente para deslocar a responsabilidade para o algoritmo.

Não é.

A tecnologia pode explicar como determinada informação foi produzida. Ela não responde, sozinha, por que a organização decidiu utilizá-la, em que contexto, com quais limites, sob quais critérios e quem possuía competência para intervir diante de um resultado inadequado.

A Recomendação da Organização para a Cooperação e Desenvolvimento Econômico ( OCDE) sobre Inteligência Artificial oferece importante referência nesse sentido. Seu princípio de responsabilização e prestação de contas (accountability) estabelece que os atores de IA devem responder pelo funcionamento adequado dos sistemas de acordo com seus papéis e contexto e devem assegurar rastreabilidade relacionada a dados, processos e decisões ao longo do ciclo de vida do sistema. A recomendação foi atualizada em 2024 para incorporar, entre outros pontos, o aprofundamento da rastreabilidade e da gestão de riscos.

Isso não significa afirmar que toda consequência produzida por um sistema de IA gera automaticamente responsabilidade jurídica ou dever de indenizar.

Responsabilidade, accountability e liability não são conceitos intercambiáveis.

Neste artigo, responsabilidade institucional é utilizada como categoria analítica para designar a capacidade da organização de atribuir competências, controlar processos, justificar decisões, produzir evidências e responder institucionalmente pela utilização que faz da tecnologia.

Essa dimensão antecede, inclusive, a discussão sobre eventual responsabilização civil, administrativa ou regulatória.

3. O risco da responsabilidade difusa

Quanto mais complexa a tecnologia, maior pode ser a distância entre quem desenvolveu o sistema, quem o forneceu, quem o contratou, quem autorizou sua utilização e quem tomou a decisão final.

Essa cadeia pode produzir um problema institucional relevante: todos participam do processo, mas ninguém consegue explicar claramente onde estavam as competências, os controles e os limites de intervenção.

O risco não está apenas na existência de múltiplos atores.

Está na possibilidade de que a multiplicidade de participantes produza uma situação em que a responsabilidade se torne difusa justamente quando a decisão exigir maior clareza.

Por isso, uma organização que utiliza inteligência artificial precisa saber, antes da implementação:

• quem autorizou a utilização do sistema;
• para qual finalidade ele será utilizado;
• quais decisões poderão ser apoiadas por seus resultados;
• quais decisões não poderão ser tomadas com base nesses resultados;
• quem supervisionará sua utilização;
• quem poderá contestar ou interromper o processo;
• quais evidências serão preservadas.

Capacidade computacional não equivale a capacidade institucional.

Uma organização pode possuir tecnologia sofisticada e, ainda assim, não possuir estrutura suficiente para compreender, supervisionar ou justificar as decisões produzidas com seu apoio.

É nesse ponto que a governança deixa de ser um conceito abstrato e passa a funcionar como arquitetura de decisão.

4. Supervisão humana não pode ser apenas formal

A expressão “supervisão humana” pode produzir uma falsa sensação de segurança quando compreendida apenas como a existência formal de uma pessoa no final do processo.

Ter alguém para clicar em “aprovar” não significa necessariamente exercer supervisão.

Supervisionar exige, conforme o contexto, capacidade para compreender as limitações do sistema, avaliar seus resultados, identificar situações inadequadas, questionar recomendações e intervir quando necessário.

Essa preocupação também aparece no Regulamento ( UE) 2024/1689, o EU AI Act. O art. 14 estabelece que determinados sistemas de IA de alto risco devem ser concebidos de modo a permitir supervisão efetiva por pessoas naturais durante sua utilização. O regulamento também relaciona a supervisão à prevenção ou redução de riscos à saúde, à segurança e aos direitos fundamentais.

A referência europeia é particularmente relevante porque desloca a discussão da simples presença humana para a efetividade da supervisão.

A pessoa responsável pela supervisão precisa ter condições reais de exercer sua função.

Isso envolve conhecimento, autoridade para questionar o resultado, possibilidade de intervenção e instrumentos adequados ao risco e ao contexto de utilização.

Supervisão humana não é mera presença humana.

É capacidade institucional de intervenção.

5. Auditabilidade: a organização precisa conseguir reconstruir a decisão

Se uma organização utiliza inteligência artificial em processos relevantes, uma pergunta precisa ser respondida:

será possível reconstruir posteriormente como determinada decisão foi produzida?

A resposta não depende necessariamente de revelar o código-fonte ou todos os elementos proprietários do sistema.

Depende de preservar evidências suficientes sobre o processo decisório.

A Recomendação da OCDE associa expressamente accountability à rastreabilidade de dados, processos e decisões durante o ciclo de vida do sistema de IA.

Essa exigência possui uma consequência institucional importante.

Uma decisão apoiada por inteligência artificial precisa deixar um rastro capaz de permitir, conforme o caso:

• identificar o sistema utilizado;
• compreender sua finalidade;
• conhecer os dados ou informações relevantes para o processo;
• identificar quem autorizou sua utilização;
• registrar a decisão humana;
• documentar intervenções ou divergências relevantes;
• avaliar incidentes ou resultados inadequados.

Uma decisão institucional apoiada por IA precisa deixar evidências suficientes para que seja possível compreender como foi produzida, quem participou dela e quais controles foram exercidos.

Auditabilidade, portanto, não é apenas uma ferramenta de fiscalização posterior.

É mecanismo de qualidade decisória.

6. A LGPD e a responsabilidade pela decisão automatizada

No Brasil, essa discussão encontra fundamento importante na Lei Geral de Proteçâo de Dados Pessoais ( LGPD).

O art. 6º, inciso X, estabelece o princípio da responsabilização e prestação de contas, exigindo demonstração da adoção de medidas eficazes capazes de comprovar a observância e o cumprimento das normas de proteção de dados pessoais.

O art. 20, por sua vez, assegura ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluindo decisões relacionadas à definição de perfis. O dispositivo também prevê o fornecimento de informações claras e adequadas sobre critérios e procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial.

A questão, portanto, não se resume a perguntar se determinada organização possui uma ferramenta tecnicamente eficiente. Quando houver tratamento de dados pessoais sujeito à LGPD, é necessário avaliar também as condições institucionais para compreender sua utilização, responder a questionamentos e assegurar os direitos previstos na legislação.

A própria atuação regulatória da Autoridade Nacional de Proteção de Dados (ANPD) demonstra que esse tema permanece em desenvolvimento.

Na Agenda Regulatória 2025–2026, Inteligência Artificial é o Item 6, cujo projeto considera especialmente parâmetros interpretativos para aplicação do art. 20 da LGPD, além de direitos dos titulares, princípios, hipóteses legais e boas práticas e governança.

A ANPD realizou, entre novembro de 2024 e janeiro de 2025, Tomada de Subsídios sobre inteligência artificial e revisão de decisões automatizadas, posteriormente consolidada em Nota Técnica.

Esse movimento regulatório reforça uma constatação importante: a governança da inteligência artificial não pode ser tratada como assunto exclusivamente tecnológico.

Ela envolve direitos, responsabilidades, processos decisórios e capacidade institucional.

7. O setor da saúde torna o problema ainda mais evidente

O setor da saúde constitui um campo particularmente sensível para observar essa transformação.

Sistemas tecnológicos podem apoiar processos relacionados a diagnóstico, análise de exames, classificação de riscos, triagem, monitoramento e outras atividades assistenciais ou administrativas.

Quanto maior a relevância da decisão apoiada pela tecnologia, maior também é a necessidade de clareza sobre os limites de sua utilização.

No âmbito sanitário, a Anvisa estabelece disciplina específica para a regularização de softwares que se enquadram como dispositivos médicos. A RDC nº 657/2022 trata da regularização de Software como Dispositivo Médico (Software as a Medical Device - SaMD), e a Agência disponibiliza orientação específica sobre sua aplicação.

A existência de regulação técnica, contudo, não elimina a necessidade de governança institucional.

A regularização de uma tecnologia não substitui a arquitetura decisória da organização que a utiliza.

Uma instituição de saúde precisa continuar sendo capaz de definir:

• quando utilizar determinado sistema;
• em quais situações seu resultado pode ser considerado;
• quando o resultado deve ser questionado;
• quem possui autoridade para intervir;
• como incidentes serão registrados;
• como decisões relevantes poderão ser posteriormente avaliadas.

Essa distinção é fundamental.

Regular uma tecnologia não significa governar a decisão produzida com seu auxílio.

8. Governança é arquitetura de decisão

A discussão conduz, finalmente, a uma mudança de perspectiva.

Governança da inteligência artificial não significa apenas criar políticas internas, comitês ou documentos de conformidade.

Significa estruturar a organização para tomar decisões adequadas em um ambiente no qual a tecnologia participa da produção de informações e recomendações.

Isso exige, conforme a complexidade e o risco da utilização:

clareza de competências;

definição de responsabilidades;

supervisão humana;

gestão de riscos;

rastreabilidade;

preservação de evidências;

mecanismos de intervenção;

avaliação contínua dos resultados.

Essa concepção aproxima governança, capacidades institucionais, qualidade decisória, supervisão humana e arquitetura organizacional como dimensões complementares da resposta jurídica à inovação.

A pergunta deixa de ser apenas qual tecnologia a organização possui e passa a ser outra: qual capacidade institucional a organização possui para governar a tecnologia que decidiu utilizar?

Essa mudança é decisiva.

9. Conclusão

A inteligência artificial amplia a capacidade das organizações de processar informações, identificar padrões e apoiar decisões.

Mas não elimina a necessidade de instituições capazes de decidir.

Ao contrário: quanto maior a capacidade tecnológica, maior pode ser a necessidade de estruturas capazes de compreender seus limites, supervisionar sua utilização, administrar riscos e produzir evidências sobre as decisões tomadas.

A responsabilidade institucional não desaparece quando o algoritmo entra no processo decisório.

Ela se torna mais sofisticada.

A LGPD já oferece elementos importantes ao estabelecer a responsabilização e prestação de contas como princípio e ao disciplinar a revisão de decisões tomadas unicamente com base em tratamento automatizado. A ANPD, por sua vez, mantém a inteligência artificial entre suas prioridades regulatórias, especialmente em relação ao art. 20 e às boas práticas de governança.

Em âmbito internacional, a OCDE associa accountability à rastreabilidade e à gestão contínua de riscos, enquanto o EU AI Act oferece uma referência relevante ao exigir mecanismos de supervisão humana efetiva para sistemas de alto risco.

No setor da saúde, onde decisões apoiadas por tecnologia podem assumir consequências particularmente sensíveis, essa discussão torna-se ainda mais evidente.

A questão, portanto, não é saber se a inteligência artificial pode participar das decisões institucionais.

Ela já participa.

A questão jurídica e institucional é outra:

a organização está preparada para responder pela forma como decidiu utilizá-la?

Governar inteligência artificial significa, em última análise, governar a própria capacidade institucional de decidir.

Automatizar não é transferir responsabilidade. Computar não é governar. E inovar não dispensa instituições capazes de responder por suas decisões.

Referências

Normas e fontes institucionais

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteçâo de Dados Pessoais. Brasília, DF: Presidência da República, 2018. Arts. 6º, X, e 20. Disponível em: Planalto – Lei nº 13.709/2018. Acesso em: 8 ago. 2026.

BRASIL. Autoridade Nacional de Proteção de Dados (ANPD). Agenda Regulatória 2025–2026. Item 6 – Inteligência Artificial. Brasília, DF: ANPD. Disponível em: Agenda Regulatória 2025–2026 – ANPD. Acesso em: 8 ago. 2026.

BRASIL. Autoridade Nacional de Proteção de Dados (ANPD). Resultados da Tomada de Subsídios sobre Inteligência Artificial e Revisão de Decisões Automatizadas. Brasília, DF: ANPD, 2025. Disponível em: ANPD - resultados da tomada de subsídios. Acesso em: 8 ago. 2026.

BRASIL. Agência Nacional de Vigilância Sanitária (ANVISA). RDC nº 657, de 24 de março de 2022. Dispõe sobre a regularização de software como dispositivo médico (Software as a Medical Device - SaMD). Brasília, DF: Anvisa, 2022. Disponível em: Anvisa - Software como dispositivo médico. Acesso em: 8 ago. 2026.

UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial (Regulamento da Inteligência Artificial). Art. 14. Jornal Oficial da União Europeia, 12 jul. 2024. Disponível em: EUR-Lex - Regulamento (UE) 2024/1689. Acesso em: 8 ago. 2026.

OECD. Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449. Princípio 1.5 – Accountability. Paris: OECD. Disponível em: OECD AI Principles - Accountability. Acesso em: 8 ago. 2026.

Doutrina

BALDWIN, Robert; CAVE, Martin; LODGE, Martin. Understanding Regulation: Theory, Strategy, and Practice. 2. ed. Oxford: Oxford University Press, 2012.

BEVIR, Mark. Governance: A Very Short Introduction. Oxford: Oxford University Press, 2013.

BLACK, Julia. Decentring Regulation: Understanding the Role of Regulation and Self-Regulation in a “Post-Regulatory” World. Current Legal Problems, v. 54, p. 103–146, 2001.