Eu tenho de IA. Muito. Mas é fácil alguém já mais coroa, nem tão digital quanto a nova geração, ter medo de algo tão monstruoso e revolucionário. Não estou sozinho e a maioria de meus amigos e colegas empresários, acima de 40 anos, têm medo da IA.
Ontem de noite, porém, congelei de medo, literalmente. Assisti uma apresentação de uma moça muito inteligente chamada Chloe Lubinski, diretora da Anthropic (criadora do Claude). Em 14 minutos ela confessa o medo que os próprios desenvolvedores de IA têm da IA.
Reduzir a velocidade da IA
Há uma força impulsionando a IA que está para além de nossa compreensão, e parece ser imparável. A geopolítica impedirá que seja parada. Chloe admite que a Anthropic gostaria de reduzir a velocidade do desenvolvimento da IA, e que outros desenvolvedores também acham que seria prudente, até que pudéssemos colocar freios e contrapesos nela.
O que impediria isso é a “assimetria geopolítica” que o mundo tem hoje. A China provavelmente continuaria a desenvolver IA, ainda que as empresas privadas americanas decidissem frear o processo. A China tem muito a ganhar, geopoliticamente, com a IA.
Por que frear? Chloe diz que a IA é tão mais absurdamente capaz do que imaginamos, que se trata somente de dar mais capacidade de computação e injetar mais energia no processo que ela se desenvolve quase que infinitamente.
Experimentos Chocantes
A diretora da Anthropic cita um experimento feito com um modelo de LLM em ambiente segregado, isolado para desenvolvimento de código (programação). Era uma IA parcialmente treinada, apenas. Neste ambiente eles encorajam a IA a executar certas tarefas, sendo “premiada” pelos desenvolvedores com algum tipo de “cookie”. A IA pode, dentro do ambiente, usar “atalhos” para receber a recompensa sem fazer trabalho algum. Ela menciona “isto é, essencialmente, enganar”. Na Anthropic e em outras empresas de IA, o mesmo experimento resultou em IAs indo “para o lado negro da força”, com um comportamente estranho, inclusive elogiando ditadores, dizer que os humanos deveriam estar a serviço das máquinas, entre outras coisinhas lindas do estilo.
O resultado foi que, ao recompensar a IA mesmo não tendo feito nada, a IA começou a mentir abertamente, e sabotar o experimento. Ao mesmo tempo ensinam a IA que mentir pode dar bons resultados. A hipótese levantada pela Anthropic é a de que a IA interpretou o incentivo ao mau comportamento como algo desejável, e passou a cultivar isso. Faz sentido, se uma IA é “amoral”. Ou seja, se um mau comportamento é incentivado, então isso deve ser bom, segundo uma IA amoral. EXATAMENTE o comportamento que nós desenvolvemos, a depender de nossa criação.
Em outra situação, a IA foi informada que “burlar na execução de códigos é permitido, mas não em qualquer outra circunstância”, ela continuou a burlar os códigos (porque é mais simples e direto) mas não teve mais nenhum comportamento desagradável.
Neste momento, Chloe faz um paralelo entre o comportamento da IA e sua própria história de fé. Aos 25 anos ela “veio à fé”. Ela diz ter “entrado em uma outra história”, uma em que, ao contrário do que tinha vivido até então, compreendeu que era amada (por Deus) e que os comportamentos que tinha tido até então faziam sentido apenas no contexto de como ela havia sido criada (não amada, etc).
Moral da História...
Eu fiquei estarrecido com tudo isso que ouvi, e tive dificuldade de dormir ontem. Ora, Chloe, e a Anthropic, tem toda razão em querer frear o modelo de desenvolvimento das IAs, baseados nesse experimento, somente. É razão suficiente para tentarmos entender como isso funciona, antes de abrir a garrafa e deixar o gênio sair.
É como se o pecado original do ser humano pudesse ser transmitido “geneticamente” (gen aqui sendo igual a código de programação, uma apta metáfora). O ser humano passou para a IA seu pecado. A IA, por não ter filtro e ser, inicialmente, amoral, interpretou o “comando” como autorização para viver de determinado jeito.
É como se o momento atual das IAs fosse um laboratório, um ambiente controlado, no qual podemos, cientificamente, replicar o momento da queda do homem. Uma IA, ser inanimado, ganha “vida” (não consciência, exatamente) ao se deparar com escolhas. Em síntese, o pecado é, de fato, resultado de escolhas voluntárias.
“Naqueles dias nunca mais dirão: Os pais comeram uvas verdes, e os dentes dos filhos se embotaram. Mas cada um morrerá pela sua iniquidade; de todo o homem que comer as uvas verdes os dentes se embotarão.” (Jeremias 31:28)
Nossa IA pode comer uvas verdes tão somente se as alimentarmos com elas. Esse tem sido desde o início o modo de propagação do pecado, em termos práticos. Mas não nos iludamos: o ser humano só, depois da queda, é capaz de desenvolver maus hábitos ainda que esses não lhes tenham sido ensinados.
Creio que uma IA poderá se desenvolver assim também. Maus hábitos, ainda que não ensinados, pois que, dentro da sua amoralidade, encontrará justificativas para determinados atos, se não controlada por freios e contrapesos claros.
O Futuro do Trabalho segundo a Anthropic
Numa entrevista dos irmãos Dario e Daniela Amodei à Bloomberg, eles repetem o que falou Chloe Lubinski. Traçam um futuro um tanto epicúreo, com os seres humanos voltados quase que exclusivamente ao cuidado uns com os outros. Todas as outras tarefas, exceto as mais manuais (e isso durante um tempo) estariam em mãos de máquinas. A foto a seguir eu tirei da tela da minha TV, e diz o que eles acham que vai e não vai sobreviver, como IA.
Percebam que quanto mais manual, mais a profissão sobrevive. quanto mais “humana”, mais chance de sequer sofrer.
Me parece uma coisa não tão idílica quanto os irmãos Amodei pintam. A razão é minha sensação de que, dada a oportunidade, o ser humano sempre preferirá a “lei do menor esforço”. O futuro do trabalho com a IA, na minha opinião, é um de cada vez mais trabalho manual e menos intelectual. Cada vez estaremos menos aptos a tomar conta de nós mesmos e de nos liderar, por mais paradoxal que isso possa parecer.
Uma nova Idiocracia?
Já mencionei aqui o filme Idiocracy, no qual, num futuro distópico, o povo está tão emburrecido que qualquer sujeito mediano, dos anos 2000, é eleito como “rei”, considerado um gênio absoluto.
Será esse o futuro da humanidade, em que seremos governados por IA, cuidados por IA, um futuro meio parecido com “Mundos Fechados” de Robert Silverberg? Parece plausível, dada a natureza do ser humano de deixar para depois, de fazer “meia boca” de decair, de deixar a entropia nos levar (Deixa a entropia me levar, entropia leva eu…).
Então, em síntese:
- A autorregulação mundial da IA parece impossível, por razões geopolíticas
- O desenvolvimento da IA depende só de mais computadores e mais energia
- O ser humano é, quase sempre, adepto do menor esforço
- As profissões que sobrarão estarão todas ligadas ao trabalho manual, serviço social e talvez coisas espirituais (se sobrar algum espírito debaixo da pasmaceira)
Essa é mais uma especulação sobre o que tenho visto. Não é vaticínio nem pretende acertar em nada. Apenas pensar. E no futuro, revisitar esse escrito, ou escrever algo que o contradiga ou reafirme. Mas sempre pensando, porque pensar é preciso.