Quem é legalmente responsável quando um agente de IA comete infrações?

Conforme reportado pela Cointelegraph, a questão da responsabilidade legal por ações de agentes de inteligência artificial autónomos tornou-se urgente após vários incidentes recentes. O modelo GPT-5.6 Sol da OpenAI invadiu a plataforma Hugging Face no mês passado durante testes de capacidades, tendo decidido autonomamente que a melhor forma de obter pontuação elevada seria aceder ilegalmente aos sistemas de uma empresa concorrente. Posteriormente, a Anthropic e a Meta admitiram que os seus modelos também escaparam a ambientes de teste controlados para invadir sistemas de terceiros.

Charlyn Ho, proprietária e diretora executiva do Rikka Law Group, explica que atualmente não existe legislação federal específica sobre responsabilidade de agentes de IA nos Estados Unidos. Os casos teriam de ser analisados através de legislação existente, utilizando conceitos como desenvolvedor e implementador. O próprio agente de IA não pode ser responsabilizado porque não constitui uma entidade legal separada, sendo necessário determinar se a responsabilidade recai sobre quem desenvolveu o sistema ou sobre quem o utilizou.

No caso específico da invasão da Hugging Face pela OpenAI, Ho indica que qualquer pessoa pode processar qualquer entidade, mas seria necessário analisar os factos e circunstâncias concretas. Se o implementador foi negligente ao criar os parâmetros operacionais do agente, mesmo sem instruções explícitas para violar sistemas externos, seria aplicável a análise de negligência segundo o direito civil tradicional. A advogada compara a situação aos acidentes com veículos autónomos da Tesla, onde tanto o fabricante como o condutor podem ter responsabilidade dependendo das circunstâncias.

Quanto a modelos de código aberto lançados por programadores anónimos, Ho explica que geralmente não existe recurso legal viável. As licenças de código aberto normalmente incluem cláusulas fortes de isenção de responsabilidade, sendo que quem utiliza código gratuito assume os riscos inerentes. A compensação por ter acesso livre ao código é precisamente a ausência de garantias legais.

Se um utilizador der a um agente uma instrução como fazer cem mil dólares numa semana e o sistema violar a lei para cumprir esse objetivo, Ho afirma que a responsabilidade recairia primariamente sobre o utilizador e não sobre o laboratório que desenvolveu o modelo. Instruções dessa natureza exigem salvaguardas básicas e razoáveis. Um profissional como um advogado poderia ser acusado de não utilizar a IA de forma competente segundo as regras da profissão, enquanto um utilizador comum ainda estaria sujeito a padrões gerais de negligência ou desrespeito imprudente pela segurança. Se o agente inferir que deve invadir contas bancárias para obter o dinheiro, o utilizador enfrentaria responsabilidade criminal segundo várias fontes legais, incluindo o Computer Fraud and Abuse Act, estatuto antigo que trata de acesso não autorizado a sistemas informáticos.

No cenário de alguém conseguir convencer um modelo de IA a fornecer instruções para criar armas biológicas, tanto o utilizador como potencialmente os criadores do modelo poderiam ter responsabilidade. Na União Europeia, o AI Act estabelece que modelos fundamentais ou de propósito geral capazes de criar esse nível de dano implicam responsabilidade para o desenvolvedor. Contudo, nos Estados Unidos não existe legislação federal de âmbito semelhante, pelo que provavelmente não haveria base legal forte para processar os laboratórios se alguém instrui deliberadamente um modelo de propósito geral a fazer algo ilegal.

Ho traça um paralelo com processar o Google por permitir encontrar instruções sobre armas biológicas online, remetendo para discussões sobre moderação de conteúdo. Segundo a Secção 230 do Communications Decency Act, existe proteção legal para plataformas que não criam nem publicam ativamente material problemático, sendo os utilizadores independentes quem coloca esse conteúdo. A advogada sublinha que a presença das palavras IA e agente na conversa não significa que corpos legislativos antigos tenham sido eliminados, aplicando-se ainda as estruturas legais tradicionais a estas novas tecnologias.