Criação de um órgão de supervisão dos riscos da IA ganha forma nos EUA
Três das empresas mais influentes no desenvolvimento de inteligência artificial estão a trabalhar num projeto que pode alterar a forma como os modelos mais avançados são avaliados antes de chegarem ao mercado. A criação de um órgão de supervisão dos riscos da IA, confirmada pela OpenAI à agência AFP, surge num momento em que se multiplicam os apelos para um controlo mais rigoroso das derivas associadas a esta tecnologia. A questão central é saber se a própria indústria consegue regular-se de forma credível, sem esperar por legislação estatal.
O que revelam as declarações da OpenAI
Segundo a OpenAI, a empresa está a colaborar com a Anthropic e a Google DeepMind na conceção de uma entidade dedicada à supervisão dos riscos ligados à inteligência artificial. A confirmação foi feita à AFP a 15 de setembro, num contexto em que o debate público sobre os limites e perigos da IA generativa se intensifica. Trata-se, para já, de um trabalho conjunto entre estas três empresas, sem que se conheçam ainda todos os contornos operacionais da futura estrutura.
Uma ideia nascida numa proposta pública
A origem deste projeto remonta a uma proposta de Demis Hassabis, que dirigia a Google DeepMind antes de assumir a presidência da empresa no início de agosto. Numa mensagem publicada em meados de julho, Hassabis defendeu a criação de uma entidade inspirada na Autoridade Reguladora da Indústria Financeira dos Estados Unidos, conhecida por FINRA, que funciona como organismo de autorregulação do setor financeiro norte-americano. A comparação sugere um modelo em que a própria indústria financia e supervisiona as suas práticas, sem substituir necessariamente a regulação estatal.
Uma estrutura financiada pelo próprio setor
De acordo com o que Hassabis descreveu na sua mensagem, a estrutura seria financiada pelas empresas do setor da inteligência artificial. O seu conselho incluiria especialistas independentes, mas também representantes do chamado ecossistema aberto, isto é, os responsáveis por modelos de IA disponibilizados gratuitamente, que podem ser descarregados e modificados por terceiros. Esta distinção é relevante, uma vez que separa claramente estes modelos abertos dos modelos fechados, como os desenvolvidos pela OpenAI ou pela Anthropic, cujo código e funcionamento interno não são publicamente acessíveis.
Porque é que uma lei pode ser necessária
Um dos pontos mais delicados desta iniciativa prende-se com o seu enquadramento legal. A instauração, pela própria profissão, de um órgão de vigilância dedicado a esta área exigiria muito provavelmente uma lei específica. Esta necessidade decorre sobretudo do risco de a indústria da inteligência artificial ser acusada de conluio ou de infração às regras da concorrência, caso empresas concorrentes se organizem entre si para definir critérios comuns de avaliação e comercialização dos seus produtos.
Esta preocupação jurídica ajuda a explicar por que motivo o processo avança de forma cautelosa e ainda não resultou numa estrutura formalmente constituída. A articulação entre autorregulação setorial e direito da concorrência é um equilíbrio delicado, que provavelmente exigirá clarificação legislativa antes de qualquer avanço concreto.
Como funcionaria a avaliação dos modelos
Segundo a proposta original, uma vez criada esta organização, as empresas mais avançadas no domínio da inteligência artificial deveriam submeter os seus novos modelos a um exame prévio, centrado em particular na segurança, antes de poderem comercializá-los. Este mecanismo aproximar-se-ia, em espírito, dos processos de validação existentes noutros setores sensíveis, em que um produto só pode ser lançado no mercado depois de passar por uma verificação externa.
O que ainda não está definido
O texto disponível não especifica quais seriam exatamente os critérios de segurança avaliados, o calendário previsto para a criação efetiva do órgão, nem se outras empresas do setor, para além das três mencionadas, poderão vir a aderir. Também não é claro se este exame seria obrigatório apenas para as empresas fundadoras ou se se pretende alargá-lo a todo o setor da IA avançada.
O que isto pode significar para quem acompanha o setor
Para quem segue de perto a evolução da inteligência artificial, esta iniciativa representa um sinal de que as próprias empresas líderes reconhecem a necessidade de mecanismos de controlo mais estruturados. Ainda assim, é importante manter uma leitura cautelosa, dado o estado preliminar do projeto.
- Acompanhar se a proposta avança para uma estrutura formal ou permanece apenas numa fase de discussão entre empresas.
- Verificar se surge legislação específica que enquadre esta forma de autorregulação, evitando problemas de concorrência.
- Observar se outras empresas de IA, incluindo as ligadas a modelos abertos, são efetivamente integradas no processo.
- Manter uma distinção clara entre iniciativas de autorregulação da indústria e regulação pública independente, que continuam a ter naturezas diferentes.
Conclusão
A criação de um órgão de supervisão dos riscos da IA por parte da OpenAI, da Anthropic e da Google DeepMind mostra que a discussão sobre a governação da inteligência artificial está a ganhar contornos mais concretos dentro da própria indústria. No entanto, os desafios jurídicos ligados à concorrência, a ausência de detalhes operacionais e o carácter ainda informal da colaboração indicam que este processo está apenas a começar. O verdadeiro teste será saber se esta iniciativa se traduz em regras efetivas e transparentes, ou se permanece uma intenção anunciada sem aplicação prática imediata.
