Os donos da IA pediram regras na ONU. E as regras da sua empresa, quem escreve?

Tem cena que parece roteiro de filme. Na última quarta-feira (23), os presidentes das duas empresas que mais disputam o mercado de inteligência artificial no mundo ficaram frente a frente com o Conselho de Segurança da ONU, um na sala e o outro por vídeo. E os dois pediram a mesma coisa: regras.

Não é todo dia que quem vende uma tecnologia pede para ser fiscalizado. Por isso vale parar cinco minutos para entender o que aconteceu e, principalmente, o que isso tem a ver com quem toca uma empresa ou um órgão público aqui no Brasil.

O que aconteceu em Nova York

A reunião foi convocada pela França, que preside o Conselho em setembro, com o tema inteligência artificial e segurança internacional. Quatro pessoas falaram: Yoshua Bengio, um dos pesquisadores mais respeitados da área; Sam Altman, da OpenAI; Dario Amodei, da Anthropic; e Clément Delangue, da Hugging Face.

O pedido central foi duplo. Primeiro, padrões comuns para testar modelos de IA. Segundo, um sistema para os países avisarem uns aos outros quando algo grave acontecer. Amodei detalhou a proposta em três frentes: dar a avaliadores independentes acesso aos sistemas das empresas, aumentar a coordenação entre quem desenvolve os modelos mais avançados e criar cooperação internacional para reduzir riscos.

Uma frase dele resume o clima da sala: "Nenhum líder, nenhuma empresa e nenhuma nação pode lidar com isso sozinho."

E o outro lado da mesa

Nem todo mundo comprou a ideia. Os Estados Unidos recusaram qualquer modelo de governança global, e a sessão terminou sem nenhum documento assinado. Um dia antes, na abertura da Assembleia Geral, o presidente Lula tinha ido na direção oposta e cobrado governança internacional para a IA.

De um lado, há quem defenda que só regra global dá conta de uma tecnologia que não respeita fronteira. Do outro, há quem veja nessas regras um freio à inovação e uma perda de autonomia de cada país para decidir por conta própria. Os dois lados têm argumentos, e essa discussão ainda vai longe.

Tá, mas o que isso muda aqui?

É aqui que a notícia sai de Nova York e chega em qualquer empresa que já usa IA no dia a dia, às vezes sem nem perceber.

Enquanto os governos não se entendem, uma coisa fica clara: ninguém vai escrever as regras da sua operação por você. E a pergunta que mais importa deixou de ser "qual IA eu uso?". Agora ela é "posso confiar no que ela faz com os meus dados?".

A boa notícia é que dá para começar sem esperar a ONU. São quatro atitudes práticas.

Saiba onde o seu dado mora. Quando você manda um documento para uma IA na nuvem, ele sai do seu servidor. Pode não ter problema nenhum, mas precisa ser uma decisão consciente. No setor público isso pesa ainda mais, e o próprio Serpro vem alertando para o risco de dados sensíveis saírem do país. Aqui em Mato Grosso, inclusive, o estado está a caminho de ter o seu primeiro data center tier 3.

Registre o que a IA decide. Se um sistema aprova, recusa ou classifica alguma coisa, é preciso guardar o que ele decidiu, quando e com base em quê. Sem esse registro, quando der problema (e um dia dá), ninguém consegue explicar o que aconteceu.

Mantenha uma pessoa no circuito. IA é ótima para triar, resumir e sugerir. Mas uma decisão que afeta cliente, cidadão ou dinheiro precisa de alguém assinando embaixo.

Não case com um modelo só. Os modelos mudam numa velocidade absurda. Especialistas em compras públicas já apontam que um termo de referência escrito em janeiro pode estar ultrapassado em dezembro. Um sistema bem construído deixa você trocar o modelo sem reescrever tudo.

Repare que nenhuma dessas quatro atitudes depende de tratado internacional. É o que Altman e Amodei pediram para o mundo, só que em escala de empresa: testar antes, registrar incidentes e deixar alguém de fora olhar.

O recado que fica

Pode ser que a governança global da IA saia daqui a um ano, daqui a dez ou nunca. Mas o recado de quarta-feira vale para qualquer tamanho de operação: quem constrói a tecnologia está dizendo, em público, que ela precisa de limites.

Se até eles acham isso, vale olhar para os sistemas da sua empresa e fazer a pergunta: quais são os nossos?

Aqui na Ascalon, essa é uma das primeiras conversas que a gente tem quando um projeto envolve IA. Se você quer entender onde a sua operação está nesse caminho, fala com a gente.