O limite da máquina e a responsabilidade humana: quem responde pelas decisões da inteligência artificial?

O problema da confiança tecnológica

A inteligência artificial já participa de atividades que ultrapassam a produção de textos, imagens e respostas automatizadas. Seus sistemas são utilizados para analisar informações, recomendar procedimentos e apoiar decisões com consequências econômicas, profissionais e sociais.

Esse avanço apresenta uma questão que não pode ser ignorada: quando uma decisão influenciada pela inteligência artificial provoca danos, quem deve responder?

A resposta exige distinguir a capacidade técnica da máquina da responsabilidade jurídica e ética dos agentes humanos e das organizações envolvidas.

Um sistema pode produzir uma recomendação, mas isso não significa que possua legitimidade para decidir sozinho sobre direitos, oportunidades ou interesses fundamentais.

A confiança tecnológica precisa ser construída sobre critérios verificáveis, não apenas sobre a aparência de precisão.

Modelos de inteligência artificial podem produzir erros, reproduzir vieses, omitir informações relevantes e apresentar conclusões inadequadas. Sua linguagem convincente não elimina essas limitações.

Por isso, a questão central não é simplesmente perguntar se a tecnologia funciona. É compreender em quais condições funciona, quais riscos apresenta e quem responde quando seus resultados produzem consequências negativas.

1. Quando o algoritmo interfere na vida das pessoas

Os riscos tornam-se especialmente relevantes quando sistemas automatizados participam de decisões sobre contratação profissional, concessão de crédito, seleção educacional, avaliação de desempenho, serviços públicos e assistência à saúde.

Imagine um candidato recusado em um processo seletivo por uma ferramenta automatizada.

Se o sistema reproduzir padrões discriminatórios presentes nos dados utilizados em seu desenvolvimento, poderá prejudicar pessoas sem que a discriminação tenha sido explicitamente programada.

O mesmo problema pode ocorrer quando um sistema atribui classificações inadequadas a estudantes, consumidores ou usuários de serviços essenciais.

Nessas situações, é indispensável identificar como a ferramenta foi desenvolvida, quais informações utilizou, quais critérios orientaram seu funcionamento e como a decisão foi efetivamente tomada.

A existência de tecnologia sofisticada não pode transformar decisões institucionais em procedimentos impossíveis de questionar.

Nenhuma pessoa deve perder o direito de compreender e contestar uma decisão apenas porque ela foi influenciada por um algoritmo.

2. A supervisão humana precisa ser real

A expressão supervisão humana aparece frequentemente nos debates sobre inteligência artificial responsável.

Entretanto, sua simples presença em documentos institucionais não garante proteção efetiva.

Um profissional que confirma automaticamente recomendações produzidas por um sistema, sem compreender suas limitações ou possuir autoridade para modificá-las, não exerce supervisão adequada.

O controle humano precisa incluir condições concretas para avaliar, questionar, corrigir e, quando necessário, interromper a utilização da ferramenta.

Também exige formação profissional, acesso a informações relevantes e procedimentos claros de prestação de contas.

A tecnologia deve ampliar a capacidade de decisão responsável, não enfraquecê-la.

3. Governança: prevenir é tão importante quanto corrigir

O Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST) desenvolveu o AI Risk Management Framework, um referencial destinado a orientar organizações na gestão dos riscos associados à inteligência artificial.

Sua estrutura envolve quatro funções complementares: governar, mapear, medir e gerenciar riscos.

O NIST também publicou um perfil específico para inteligência artificial generativa, considerando problemas como informações incorretas, riscos à privacidade, conteúdos prejudiciais e outras consequências relacionadas à utilização desses sistemas.

Esses instrumentos não substituem a legislação aplicável.

Sua contribuição está em oferecer procedimentos para identificar vulnerabilidades, definir responsabilidades, acompanhar resultados e aperfeiçoar controles.

Uma organização responsável não espera necessariamente que um dano aconteça para começar a discutir governança.

Ela incorpora a avaliação de riscos ao planejamento, à contratação, ao desenvolvimento e à utilização da tecnologia.

4. O exemplo regulatório da União Europeia

A União Europeia estabeleceu um marco regulatório específico para inteligência artificial, conhecido como AI Act.

O regulamento adota uma abordagem proporcional aos riscos, com diferentes obrigações conforme a natureza e a utilização dos sistemas.

Entre os temas contemplados estão práticas proibidas, transparência, governança, obrigações relacionadas a modelos de propósito geral e requisitos aplicáveis a sistemas de alto risco.

A implementação ocorre por etapas, conforme o calendário normativo vigente.

A experiência europeia demonstra uma preocupação central: sistemas com potencial de afetar significativamente direitos e segurança precisam ser submetidos a exigências compatíveis com seus riscos.

O desafio regulatório está em oferecer proteção efetiva sem estabelecer obstáculos desproporcionais à pesquisa, à inovação e à concorrência.

5. O Brasil diante da responsabilidade algorítmica

No Brasil, a discussão envolve direitos fundamentais, proteção de dados pessoais, responsabilidade civil, segurança jurídica, desenvolvimento econômico e soberania tecnológica.

O Projeto de Lei nº 2.338/2023, aprovado anteriormente pelo Senado, permanece em análise na Câmara dos Deputados.

Outro projeto, o PL nº 2.688/2025, recebeu aprovação na Comissão de Comunicação da Câmara em março de 2026, mas ainda depende de outras etapas legislativas.

É importante não confundir aprovação em comissão com a entrada em vigor de uma lei.

A construção de regras nacionais exige debate público qualificado e participação de pesquisadores, empresas, juristas, educadores, organizações sociais e representantes dos cidadãos.

Uma legislação equilibrada deve oferecer instrumentos para prevenir abusos, assegurar direitos e estabelecer responsabilidades sem impedir indevidamente o desenvolvimento tecnológico.

O Brasil precisa construir uma política de inteligência artificial que combine inovação, inclusão, segurança e proteção da pessoa humana.

6. Desinformação: quando a aparência se torna instrumento de manipulação

A inteligência artificial generativa também transformou a produção de conteúdos.

Textos, imagens, vídeos e vozes sintéticas podem ser utilizados legitimamente em educação, pesquisa, comunicação e atividades criativas.

Entretanto, essas mesmas capacidades podem facilitar fraudes, falsificações de identidade e campanhas de desinformação.

A circulação de conteúdos aparentemente autênticos aumenta a necessidade de verificação independente.

Nesse ambiente, o jornalismo profissional assume responsabilidade ainda maior.

Apurar informações, identificar fontes, confrontar documentos e contextualizar acontecimentos são práticas essenciais para proteger a confiança pública.

A inteligência artificial pode auxiliar o trabalho jornalístico, mas não deve substituir a responsabilidade editorial.

Uma informação não se torna verdadeira porque foi apresentada com aparência de autoridade.

7. O compromisso editorial da RCP News

A incorporação de inteligência artificial ao jornalismo deve ser orientada por princípios claros.

A RCP News reafirma, como diretriz editorial proposta neste dossiê, a importância da verificação humana das informações, da transparência sobre o uso relevante de conteúdos sintéticos e da preservação da responsabilidade editorial.

Ferramentas automatizadas podem auxiliar pesquisas, organização de materiais, revisão textual e atividades de produção.

Entretanto, sua utilização não dispensa a conferência de fatos, a identificação de fontes e a análise crítica.

O conteúdo publicado precisa permanecer sujeito a critérios jornalísticos e à responsabilidade de quem o assina e edita.

A credibilidade não depende da quantidade de tecnologia empregada, mas do compromisso com a verdade, a contextualização e o interesse público.

8. Quem responde pelos danos?

Não existe uma resposta única para todas as situações.

A atribuição de responsabilidade depende da legislação aplicável, da natureza do dano, do papel desempenhado pelos envolvidos e das circunstâncias concretas.

Desenvolvedores, fornecedores, organizações contratantes e operadores podem possuir obrigações distintas.

Em determinadas situações, a responsabilidade poderá estar relacionada a falhas de desenvolvimento, ausência de medidas de segurança, uso inadequado, descumprimento de deveres legais ou decisões institucionais.

A identificação desses elementos exige investigação e análise jurídica.

O princípio fundamental, entretanto, permanece: a participação de um sistema automatizado não deve servir como justificativa para eliminar mecanismos legítimos de responsabilização.

É necessário preservar a possibilidade de investigar decisões, identificar falhas, reparar danos quando cabível e aperfeiçoar os procedimentos de prevenção.

9. Princípios para uma inteligência artificial responsável

A governança responsável precisa estar fundamentada em valores que ultrapassam a eficiência tecnológica.

Dignidade humana, não discriminação, segurança, privacidade, transparência, supervisão efetiva e prestação de contas devem orientar a utilização dos sistemas.

Esses princípios precisam ser traduzidos em procedimentos concretos.

Isso envolve documentação, avaliação prévia de riscos, monitoramento, formação profissional, canais de contestação e revisão periódica das ferramentas utilizadas.

A governança não pode existir apenas no discurso institucional.

Precisa produzir condições reais de proteção.

Conclusão — O progresso tecnológico não suspende a responsabilidade humana

A inteligência artificial continuará ampliando sua participação na sociedade.

Seus sistemas poderão contribuir para diagnósticos, pesquisas científicas, serviços públicos, atividades empresariais e processos educacionais.

Mas a capacidade de automatizar decisões não elimina a obrigação de justificá-las, supervisioná-las e responder por suas consequências.

A inovação precisa permanecer subordinada à proteção da pessoa humana.

O verdadeiro avanço não será medido apenas pela sofisticação das máquinas.

Será medido também pela capacidade das instituições de utilizá-las com justiça, prudência e responsabilidade.

A máquina pode calcular possibilidades. A responsabilidade de escolher, justificar e responder pelas consequências continua sendo uma obrigação humana e institucional.

Epílogo — O futuro que desejamos construir

A inteligência artificial não é apenas uma nova ferramenta de produtividade.

Ela representa uma transformação que atravessa a educação, o trabalho, a ciência, a economia, a cultura e as instituições democráticas.

Seu desenvolvimento poderá ampliar o acesso ao conhecimento, acelerar descobertas científicas e contribuir para a solução de problemas relevantes.

Mas também poderá aprofundar desigualdades, concentrar poder econômico, comprometer a privacidade e fragilizar a confiança pública.

Nenhum desses resultados é inevitável.

As consequências dependerão das escolhas feitas por governos, universidades, empresas, organizações sociais e cidadãos.

A questão decisiva não é simplesmente descobrir até onde as máquinas poderão avançar.

É determinar quais valores humanos deverão orientar esse avanço.

A tecnologia pode transformar o mundo. Mas é a consciência humana que precisa decidir em que direção essa transformação deve acontecer.

Prof. Roque Cortes Pereira

RCP News — Jornalismo de profundidade. Inteligência que gera transformação.

Referências institucionais

• NIST — Artificial Intelligence Risk Management Framework e Generative AI Profile.
• União Europeia — Regulamento (UE) 2024/1689, Artificial Intelligence Act.
• Câmara dos Deputados — Tramitação dos Projetos de Lei nº 2.338/2023 e nº 2.688/2025.
• UNESCO — Recomendações sobre a ética da inteligência artificial.
• Ministério da Ciência, Tecnologia e Inovação — Plano Brasileiro de Inteligência Artificial 2024–2028.