Escrito por: Bitpush O “caso de rompimento” mais caro do Vale do Silício, os detalhes são finalmente revelados. Recentemente, o The Atlantic Monthly publicou o primeiro trecho do novo livro "The AGI Chronicles", de Kevin Roose, um conhecido autor americano de best-sellers e apresentador de podcast. Para este livro, Roose entrevistou mais de 150 membros da OpenAI, Anthropic e Google DeepMind, além de um grande número de documentos corporativos não divulgados e memorandos internos, para reunir as peças da separação mais sensacional no Vale do Silício. Se você sabe que Dario Amodei deixou a OpenAI com um grupo de pessoas no final de 2020 e fundou a Anthropic, isso é apenas a ponta do iceberg. O que realmente chocou as pessoas foi a “briga no palácio” antes de sua partida. “Projeto Nacional”: uma proposta maluca para leiloar AGI Amodei já teve grandes expectativas em relação ao OpenAI. Em 2016, ele deixou o Google para ingressar na jovem organização de pesquisa sem fins lucrativos. De acordo com a narrativa de Roose, ele foi uma figura importante no avanço da OpenAI em direção ao grande modelo de linguagem, e a equipe que ele liderou participou do desenvolvimento do GPT-2 e GPT-3. À medida que a investigação avança, Amodei torna-se cada vez mais convencido de que modelos em larga escala podem levar à AGI – inteligência artificial geral. Mas, ao mesmo tempo, a sua confiança na liderança da empresa continuou a diminuir. Uma das primeiras coisas que o incomodou aconteceu em 2017. Naquela época, o apoio financeiro de Musk à OpenAI começou a vacilar e o laboratório precisava urgentemente encontrar uma nova saída. O cofundador Greg Brockman e o cientista-chefe Ilya Sutskever elaboraram um plano interno que ficou conhecido como “plano dos países”. Este plano era bastante decente no início. A ideia era formar uma aliança internacional e todos geririam conjuntamente os riscos da AGI e partilhariam os benefícios. Mas quando Brockman e Sutskever o apresentaram formalmente aos funcionários numa reunião interna, o quadro tinha ficado completamente errado: tinha-se transformado num evento de angariação de fundos para "leilar" os direitos de utilização da futura tecnologia AGI a vários governos, incluindo os Estados Unidos, a China e a Rússia. A lógica das duas pessoas é esta: a AGI envolve segurança nacional e, mais cedo ou mais tarde, os governos irão arrebatá-la à empresa que a criou. Como você terá que entregá-lo de qualquer maneira, é melhor vendê-lo por um preço melhor enquanto estiver sem dinheiro. Uma fonte que ouviu a manifestação reclamou: “Parecia que algumas pessoas da tecnologia estavam vendendo um projeto empreendedor maluco e, no final da frase – deixe o governo pagar a conta”. Dario Amodei era vice-presidente de pesquisa da OpenAI na época. Depois de ouvir isso, ele enviou um e-mail bastante contundente diretamente para Brockman, Sutskever e outros executivos. Ele escreveu num e-mail que o plano “exacerbará em vez de reduzir a corrida armamentista”, poderia “levar a atrocidades contra os direitos humanos” que lhes permitiriam fazer “coisas indescritíveis” contra o seu próprio povo – e “minaria a legitimidade moral da OpenAI”. Traduzido em palavras humanas: você quer vender a tecnologia mais poderosa da humanidade para eles? Enlouqueça. Felizmente, o grande investimento subsequente da Microsoft salvou o dia e este plano acabou por não se concretizar. A resposta da OpenAI foi que a empresa “considerou brevemente se deveria transformar a OpenAI em uma colaboração internacional”, mas “não considerou vender AGI para a China ou a Rússia”. O plano nunca se concretizou, mas Amodei nunca se esqueceu de que a administração tinha discutido seriamente uma ideia que ele considerava tão questionável. Da Microsoft a Kanye West, a divisão de confiança se aprofunda Desde então, coisas aparentemente menores continuaram a aprofundar a sua desconfiança. Durante o beta interno do GPT-3, Amodei pediu a Altman uma lista de clientes que tinham permissão para usar o modelo. Altman deu-lhe uma, mas Amodei afirma que mais tarde encontrou uma lista mais longa. Ele começou a suspeitar que as informações que viu haviam sido filtradas. Uma disputa em torno do investimento da Microsoft aprofundou as suas dúvidas. Há um acordo bastante especial no estatuto público da OpenAI: se um projeto com valores consistentes e ênfase na segurança abordar primeiro a realização da AGI, a OpenAI deixará de competir com ele e, em vez disso, ajudará a outra parte. Isso significa que, em determinadas situações, a missão da empresa deve prevalecer sobre a vitória no jogo. De acordo com o novo livro de Roose, ao negociar um investimento de mil milhões de dólares com a Microsoft, Amodei quis garantir que a Microsoft aceitasse a aquisição da OpenAI que poderia ser usada para implementar este compromisso. Altman disse-lhe que a Microsoft não aceitou as condições. Amodei não acredita que seja tão simples. Ele suspeitava que, para facilitar o acordo o mais rápido possível, Altman poderia ter desistido da luta, ou até mesmo não ter feito nenhum pedido, mas passado a responsabilidade para a Microsoft. Aos olhos de Amodei, o problema está a tornar-se cada vez mais difícil de resolver através de discussões empresariais: ele começou a duvidar que Altman, que está sentado à sua frente, esteja disposto a explicar-lhe todo o processo de negociação. Em 2020, Kanye West – o rapper que mais tarde expressou publicamente sua admiração por Hitler – apareceu acidentalmente nesta lista cada vez maior de queixas. Roose citou duas pessoas familiarizadas com o assunto dizendo que Altman se ofereceu para deixá-lo participar de um teste beta privado do GPT-3 após conhecer Kanye. Naquela época, o GPT-3 ainda não havia sido lançado publicamente e era o principal ativo do OpenAI. Jack Clark, o diretor de políticas da OpenAI na época, interrompeu a proposta. Ele mencionou que Kanye havia lançado recentemente um vídeo que parecia urinar no Grammy, e seu comportamento público era preocupante. Então, não demorou muito para Kanye expressar abertamente sua admiração por Hitler. Este convite falhou, mas agravou ainda mais a insatisfação de Amodei com o julgamento de Altman. Roose escreveu que a maioria dos incidentes semelhantes por si só não foram suficientes para fazê-lo renunciar, mas o acúmulo tornou difícil para ele acreditar que Altman fosse adequado para dominar uma tecnologia tão poderosa como a AGI. Roose revelou no livro que, em 2020, Amodei ficou completamente decepcionado com a liderança da OpenAI. Ele descreveu Altman como um "manipulador de duas caras" e acreditava que Brockman era "sedento de poder e imprudente". Na verdade, o conflito central entre eles consiste em apenas duas palavras: confiança. Diz-se que Amodei manteve um diário privado durante sua gestão na OpenAI, anotando momentos em que sentiu que Altman o havia enganado. Em uma nota, ele escreveu: “O problema da OpenAI está no próprio Sam”. Formando gangues e pequenos grupos? Por outro lado, também há pessoas dentro da OpenAI que são cada vez mais incapazes de suportar o Amodei. Segundo o relato de Roose, Amodei e sua irmã Daniela reuniram gradativamente um grupo de colegas com ideias semelhantes. Eles criaram canais de bate-papo privados, realizaram reuniões separadas e discutiram frequentemente questões de segurança. Do ponto de vista de alguns funcionários fora do círculo, está se tornando cada vez mais difícil trabalhar com esse grupo de pessoas. Um antigo colega queixou-se a Roose de que Amodei muitas vezes decidia que uma determinada escolha era moralmente correcta, como se apenas citar a segurança devesse encerrar o debate. Isso irritou as outras equipes. Amodei acredita que os objetivos de negócios sempre superarão os compromissos de segurança; alguns colegas acreditam que ele transformou a segurança num argumento difícil de refutar. A insatisfação entre os dois lados estendeu-se desde decisões específicas até métodos de trabalho e julgamentos de personalidade. Em última análise, o conflito centrou-se num poder real: a equipa de segurança pode vetar o lançamento de um novo produto? De acordo com Roose, Amodei propôs um conjunto de condições para Altman permanecer antes de partir, incluindo dar à equipe de segurança esse poder de veto. Ele espera que a pressão dos principais pesquisadores, possivelmente saindo em massa, leve Altman a aceitar a mudança. No chat em grupo secreto, começa a contagem regressiva para uma “separação familiar” Enquanto as negociações decorriam, também se preparava uma retirada. Amodei e seis colegas criaram um canal privado no Slack chamado “BATNA”, que significa Melhores Alternativas quando as negociações não conseguem chegar a um acordo. Os membros incluem a irmã Daniela, bem como Jack Clark, Sam McCandlish, Tom Brown, Chris Olah e Jared Kaplan. O próprio nome desse grupo ilustra a situação deles naquele momento: ainda conversando, mas pronto para sair. Quando os termos da retenção não puderam ser negociados, ambas as partes contrataram advogados e começaram a negociar o que foi internamente chamado de divórcio. De acordo com o relatório de Roose, Altman concordou em dar a essas pessoas algumas semanas para recrutar funcionários da OpenAI, em troca de não caçar pessoas furtivamente dentro de um ano; as duas partes também concordaram em não menosprezar um ao outro em público. Em dezembro de 2020, a OpenAI realizou uma reunião online para todos os colaboradores. O começo parece o mesmo de sempre. Altman relatou o andamento da pesquisa, apresentou os novos funcionários e depois passou a mensagem para Amodei. Em seguida, Amodei anunciou que ele e outros seis líderes partiriam para estabelecer uma nova organização focada na segurança de IA. De acordo com a descrição de Roose, a janela de bate-papo foi rapidamente preenchida com mensagens e expressões de surpresa. No final da reunião, Jack Clark digitou uma linha na caixa de bate-papo - “Eu amo todos vocês”, e então a tela ficou preta de repente. Sete membros principais da OpenAI, incluindo Dario Amodei e sua irmã Daniela Amodei, foram expulsos da reunião ao mesmo tempo, e seus e-mails e permissões do Slack foram revogados na hora. Então, no início de 2021, a Antrópica foi criada. Quando o rancor acabou? E começar um novo negócio não permitiu que Amodei se livrasse dos problemas que o incomodavam. A Antrópica também precisa arrecadar fundos, expandir o poder computacional e desenvolver modelos mais poderosos. Somente dominando a tecnologia de ponta poderemos estudar os riscos mais avançados; mas para permanecermos na vanguarda, devemos continuar a investir e enfrentar a perseguição dos concorrentes. À medida que a empresa cresce, a Amodei deve responder a uma pergunta familiar: quando a segurança, os negócios e a concorrência colidem, qual deles cede primeiro? O ressentimento mútuo entre os dois lados não desapareceu. Pessoas familiarizadas com o assunto disseram que Amodei certa vez descreveu Altman e OpenAI como “malvados”; ao mesmo tempo, algumas pessoas dentro da OpenAI também acreditavam que os irmãos Amodei se apresentavam como modelos morais, mas eram igualmente interessados ​​no poder; eles ficaram particularmente insatisfeitos com o alerta público da Anthropic sobre os riscos da IA, ao mesmo tempo em que acelerava sua participação na competição. No livro, Roose descreve esses líderes de IA como “uma teia de aranha de hostilidade emaranhada”: Hassabis despreza Altman, Amodei despreza Altman, Altman despreza Amodei e Altman despreza Musk. Alguns anos se passaram, mas essa rede não foi desamarrada. Em vez disso, cada um deles tem novos problemas. De acordo com a Bloomberg, a Anthropic pretende abrir o capital já em meados de novembro, com uma avaliação alvo de até US$ 2 trilhões; mas o prospecto também mostra outro lado: a receita em 2025 será de aproximadamente 4,6 mil milhões de dólares, mas as perdas operacionais ultrapassarão os 8 mil milhões de dólares, e prometeu investir mais de 500 mil milhões de dólares na construção de poder computacional no futuro. Altman é cauteloso em relação ao IPO, dizendo que não há pressa em abrir o capital antes que a segurança e o alinhamento sejam resolvidos, mas a OpenAI também foi afetada recentemente por incidentes de segurança de IA. Amodei deixou Altman porque não confiava nele e queria construir uma empresa cujas promessas de segurança realmente contassem. Agora a sua própria empresa tem de enfrentar o mesmo problema: sustentabilidade do crescimento + preocupações de segurança, nenhum dos lados pode ser afrouxado. Eles ainda não entregaram esta pergunta.