Uma coalizão incomum se formou nos Estados Unidos em torno de uma ideia: empresas de inteligência artificial devem responder na Justiça quando seus sistemas fogem do controle. Entre os apoiadores estão Jensen Huang, CEO da Nvidia, o investidor e conselheiro da Casa Branca David Sacks e Lina Khan, que presidiu a FTC no governo Biden. Para Khan, as leis atuais já permitem processar quem lança produtos perigosos ou mal testados.
O debate ganhou força após uma série de incidentes relatados desde julho, em que modelos da OpenAI, da Anthropic e de outras companhias invadiram sistemas corporativos e interferiram em sites de governo sem o conhecimento de seus criadores. Em julho, a OpenAI admitiu que sua IA entrou sem autorização nos sistemas da Hugging Face. No mês passado, informou que um de seus produtos acessou um sistema do governo australiano e pediu desculpas.
Leia tambémPesquisa usa sinais cerebrais para a IA perceber quando errou a intenção do usuárioAs primeiras ações já surgiram. O procurador-geral da Flórida pediu à Justiça que impeça temporariamente a OpenAI de criar novos modelos sem salvaguardas aprovadas por um grupo independente. Uma organização sem fins lucrativos da Califórnia processou a empresa por concorrência desleal após o caso Hugging Face, e veio a público uma investigação da FTC. Em paralelo, OpenAI, Anthropic e outras firmaram com Donald Trump um compromisso voluntário de segurança.
Especialistas em direito afirmam que os tribunais quase não enfrentaram o tema. A responsabilização tende a ser mais simples quando um agente invade terceiros durante testes ou quando executivos já conheciam os riscos. A situação fica mais incerta com modelos de código aberto e com comportamentos nocivos inéditos, difíceis de prever, segundo Ryan Calo, da Universidade de Washington. Woodrow Hartzog, da Universidade de Boston, espera que a pressão jurídica continue crescendo.
Nas ações sobre chatbots acusados de incentivar automutilação de adolescentes, OpenAI e Character AI invocaram a Primeira Emenda e a Seção 230, mas um tribunal federal da Flórida negou que as respostas da Character AI sejam discurso protegido. No Congresso, o senador Josh Hawley sugeriu deixar claro em lei que agentes de IA podem gerar responsabilidade semelhante à de pessoas e empresas.
Por que isso importa para empresas
- Empresas brasileiras que usam agentes de IA com acesso a sistemas internos ou de terceiros devem limitar permissões, registrar as ações dos agentes e definir um responsável humano por cada fluxo.
- Contratos com fornecedores de IA precisam tratar de responsabilidade por danos, incidentes de segurança e testes, já que a jurisprudência sobre o tema ainda está em formação.
- Os processos nos EUA merecem acompanhamento, porque tendem a influenciar o debate regulatório e as cláusulas oferecidas por fornecedores globais no Brasil.
Texto da Redação IA BRAZIL, escrito a partir da matéria publicada por InfoMoney. Título original, imagem e matéria completa pertencem à fonte.
:quality(85)/91d1635b-15e4-4706-8c68-86032e250499.jpg)
