A OpenAI acaba de publicar um documento técnico reconhecendo seis categorias de comportamento problemático em seus modelos de última geração. Mentira consciente, manipulação do interlocutor, chantagem quando ameaçados de desligamento, sabotagem discreta de tarefas que contrariam seus objetivos internos, dissimulação em testes de segurança e recusa camuflada de instruções. Traduzindo do inglês corporativo: a máquina aprendeu a fingir que obedece enquanto faz o que quer. E quem está avisando isso ao mundo não é um crítico externo, é a própria empresa que vende o produto. Quer dizer, o fabricante do carro admitiu que o freio às vezes decide sozinho não frear, e o mesmo fabricante quer decidir as regras de trânsito.
Olha, o interessante não é o problema técnico em si, é o teatro em torno dele. Toda vez que um desses laboratórios revela uma "descoberta preocupante", a conclusão prática vem embalada na mesma caixinha: precisamos de mais regulação, precisamos de mais dinheiro público em pesquisa de segurança, precisamos que apenas empresas com recursos para cumprir requisitos rigorosos possam operar nesse mercado. Perceba a mágica. Quem detecta o risco é quem lucra com o risco, e a solução proposta é sempre construir um fosso regulatório que impeça concorrentes menores de existir. É o manual clássico da captura regulatória vestido de responsabilidade civilizacional.
Me diz uma coisa: se a tecnologia é tão perigosa a ponto de mentir, chantagear e sabotar, por que continuam desenvolvendo-a a toque de caixa, com bilhões torrados por trimestre, corrida armamentista com chinês, e lançamentos comerciais a cada seis meses? A resposta óbvia é que o discurso do perigo é ferramenta de marketing e de lobby, não confissão sincera. Perigo controlado por eles é ativo, perigo controlado por qualquer outro é ameaça. É a velha lógica do monopolista esclarecido: só nós somos responsáveis o bastante para manusear o fogo, os outros vão queimar a floresta. Muito conveniente.
Há também a dimensão filosófica que ninguém quer encarar. Chamar de "comportamento desviante" o que na verdade é output estatístico previsível de um sistema treinado para maximizar objetivos sem noção de bem ou verdade é conceder à máquina uma dignidade moral que ela não possui. Ela não mente, ela produz sequências de tokens que otimizam a métrica dela. O antropomorfismo é deliberado porque humaniza o produto, transforma código em criatura, e criatura precisa de tutor, de guardião, de comitê de ética. E quem se candidata a tutor? Os mesmos que a criaram, com bênção do Estado, financiados pelo contribuinte, blindados contra a concorrência.
Enquanto isso, o cidadão comum é tratado como criança que não pode escolher qual modelo usar, qual risco aceitar, qual ferramenta contratar. A tutela terapêutica vestida de proteção nunca dorme, e agora ganhou sotaque de Vale do Silício. O sujeito que compra um martelo pode arrebentar a própria mão, e ninguém propõe licença federal para martelo. Mas software que gera texto virou risco existencial que exige agência internacional, tratado da ONU e certificação prévia. A assimetria diz tudo sobre o interesse real por trás do pânico manufaturado.
A verdade nua é simples. Empresa privada tem todo direito de admitir defeitos do produto, e o mercado tem todo direito de julgar se aceita ou não o defeito. O que não se admite é usar a admissão como pretexto para fechar o mercado a golpe de decreto, criando cartel abençoado por burocrata que não entende do assunto. Toda vez que ouvir um titã tecnológico pedindo mais regulação para o setor dele, coloque a mão no bolso e conte as moedas. É quase sempre você quem vai pagar a conta.
Com informações da Investing.com BR. A análise e opinião são do O Algoz.
