A República Tecnológica.indd
Kindle Highlights
ásia.
rinque
(darpa)
internet
evitação
maquininhas
per-guntavam
revi-sitarmos
e no seguinte.
deterio-rou-se
narizes nariz”.
causa de vítimas
aplicação da lei
plataforma LaMDA,
startups insurgentes
(de ninguém que seja,
nada de muito notável.
agências de corretagem
mente norte-americana”,
aparelhos infor-máticos
aos softwares militares
mentalidade de engenharia
empréstimos e reaplicações
evitam o trabalho do governo.
inteligência geral artificial
“A simbiose homem-computador”,20
programação dos código dos aplicativos
“Estamos perdendo dinheiro rapidamente
talvez tenha se matado nas mãos da Guarda
nacional ou propósito comunitário. É esse
esse esvaziamento da mente norte-americana
Comissão de Valores Mobiliários dos Estados Unidos,
acabaram tendo que pedir demissão. A abordagem clínica
Contudo, nossa vantagem atual não pode ser subestimada.
Homebrew Computer Club (“Clube do computador caseiro”),
divertimento ao lado de seu conhecimento enciclopédico,
A própria Palantir é uma tentativa — imperfeita, em A RepúblicA TecnológicA
efe-tivado no seu cargo universitário e não puder mais ser demitido da faculdade.”
Um comprometimento no sentido de acelerar resultados à custa dos teatros de guerra,
Hackers: Heroes of the Computer Revolution (“Hackers: Heróis da revolução digital”),
As pré-condições para uma paz duradoura em geral decorrem apenas de uma ameaça plausível de guerra.
citando o Júlio César de Shakespeare, “a culpa, caro Brutus, não é das estrelas, mas de nós mesmos”.
adquirir armamentos de IA — os enxames de drones não tripulados e robôs que vão dominar o campo de batalha vindouro.
E para nações que se mantêm em um padrão moral muito mais elevado que seus adversários quando se trata do uso da força,
Ele acrescentou que os Estados Unidos “não podem ser uma Roma moderna, protegendo com nossas legiões fronteiras remotas”.
Alguns dos modelos mais recentes têm um trilhão ou mais de parâmetros, variáveis ajustáveis dentro de um algoritmo de computador,
No livro O estado empreendedor, Mariana Mazzucato, professora de economia no University College de Londres, denuncia essa amnésia coletiva do Vale do Silício.13
levantaram a possibilidade de que as máquinas eram complexas o suficiente para que algo próximo ou pelo menos semelhante à consciência — um intruso, ou primo, talvez
Douglas Hofstadter, autor do artigo “Gödel, Escher, Bach”, fustigou os modelos de linguagem por “requentarem de forma eloquente e engenhosa palavras e frases ‘ingeridas’ por eles em sua fase de treinamento”.
A expressão e a investigação sistemáticas das próprias crenças (o propósito básico da verdadeira educação) continuam a ser nossa melhor defesa contra a transformação da mente em um produto ou em um veículo para as ambições alheias.
Em Stanford, por exemplo, História da Civilização Ocidental foi um curso obrigatório durante anos após a Segunda Guerra Mundial, apresentando aos alunos uma seleção refinada de autores, de Platão a Rousseau, passando por Marx e Arendt.10
No entanto, para que os Estados Unidos e seus aliados na Europa e ao redor do mundo permaneçam tão dominantes neste século quanto foram no anterior, será necessária uma união do Estado e da indústria de software — e não sua separação e seu distanciamento.
Não está evidente, no entanto, se as empresas de tecnologia por trás dessas novas formas de IA vão permitir que suas criações sejam utilizadas para fins militares. Muitas se mostram hesitantes, se não totalmente contrárias, à ideia de trabalhar com o governo dos Estados Unidos.
“Temos Platão, mas por que não Aristóteles?”, perguntou Joseph Tussman, diretor do departamento de filosofia da Universidade da Califórnia em Berkeley, em um artigo publicado em 1968. “Por que não mais Eurípedes? Paraíso perdido, mas por que não Dante? John Stuart Mill, mas por que não Marx?”14
apresentam. O foco na adequação do discurso produzido por modelos de linguagem pode revelar mais sobre nossas preocupações e fragilidades enquanto cultura do que sobre a tecnologia em si. O mundo enfrenta crises muito reais, e, ainda assim, muitos estão focados em saber se a fala de um robô pode ofender alguém.
Uma passagem do talmude relata uma conversa com um professor chamado Rabha, que viveu no século IV em uma cidade-zinha na Babilônia, localizada no atual Iraque, não muito ao sul de Bagdá. Ele considera se é permitido matar um ladrão que invade a casa de alguém. Rabha deixa evidente que “se alguém vier matá-lo, levanta-te e mata-o primeiro”.1
Neste livro, argumentamos que o setor de tecnologia tem uma obrigação afirmativa de apoiar o Estado que possibilitou sua ascensão. Um renovado abraço do interesse público será essencial se a indústria de software quiser reconstruir a confiança com o país e avançar rumo a uma visão mais transformadora do que a tecnologia pode e deve tornar possível.
A geração mais competente e eficiente de programadores nunca chegou a vivenciar uma guerra ou uma revolta social genuína. Por que se arriscar a gerar controvérsias com seus amigos ou correr o risco de ser julgado sob um viés negativo ao optar por trabalhar para as Forças Armadas dos Estados Unidos quando existe a possibilidade de se refugiar na segurança percebida de desenvolver mais um aplicativo?
A concepção atual de “Ocidente”, no sentido de um conjunto de valores políticos e culturais com raízes na Antiguidade, estendendo-se ao longo da história até a era moderna, começou a ganhar forma no final do século XIX.16 Seu significado mudaria e evoluiria ao longo dos anos, mas por fim acabou se consolidando em torno de um conjunto de práticas ou tradições comuns que tornaram possível, e até suportável, a existência coletiva
Mas a eliminação sistemática do espaço privado, até para as figuras públicas, acarreta consequências, incentivando, no fim das contas, a concorrer a cargos apenas aqueles que têm vocação para o teatral, aqueles que adoram aparecer. O candidato disposto a se sujeitar aos holofotes públicos costuma estar, é óbvio, mais interessado no poder da plataforma, com a fama e o potencial de monetização sob outras formas, do que na tarefa efetiva de governar.
A desconstrução e o desafio a uma concepção monolítica e cem por cento coerente de civilização ocidental começou para valer nos anos 1960, mas pode-se afirmar que chegou ao ápice com a publicação de Orientalismo, de Edward Said, lançado em inglês como Orientalism em 1978. Adam Shatz, editor nos Estados Unidos da London Review of Books, afirmou em um artigo de 2019, quatro décadas após a primeira publicação, que o livro foi “uma das obras mais influentes da história intelectual do pós-guerra”.20
Podemos — devemos — melhorar. O argumento central que apresentamos nas páginas a seguir é o de que a indústria de software deve reconstruir seu relacionamento com o governo e redirecionar seus esforços e atenção a fim de estruturar os recursos de tecnologia e inteligência artificial que atuarão diante dos desafios mais urgentes que enfrentamos no âmbito coletivo. A elite de engenharia do Vale do Silício tem uma obrigação afirmativa de participar da defesa da nação e da articulação de um projeto nacional (o que é este país, quais são nossos valores e o que defendemos e representamos) e, por extensão, de preservar a vantagem geopolítica duradoura, porém frágil, que os Estados Unidos e seus aliados na Europa e em outros lugares mantiveram em relação aos seus adversários.
Michael Sandel, professor de Harvard, antecipou as contradições oriundas do forte apego do Ocidente ao liberalismo clássico, e sua valorização, para não dizer preferência, dos direitos individuais em detrimento de tudo que possa parecer um propósito ou identidade coletiva, assim como a relutância cultural em se arriscar a participar de algum dos muitos debates de natureza moral relevantes ou significativos da nossa época. É essa renúncia fundamental da responsabilidade pela articulação de uma visão de mundo complexa e coerente, e de um propósito em comum — o desmantelamento sistemático do Ocidente — que nos tornou incapazes de enfrentar as questões com nitidez moral ou convicção autêntica. Com isso, ficam cada vez mais evidentes as consequências de tal incapacidade, ou relutância, de envolver-se com esses debates, “onde os liberais temem pisar”, na famosa expressão de Sandel.38 “Onde o discurso político carece de ressonância moral, o anseio por uma vida pública com um sentido maior acaba se expressando de formas indesejáveis”, escreveu em Liberalismo e os limites da justiça.39
O efeito de Orientalismo sobre a cultura foi tão completo e abrangente, tão total, que muitos hoje, sobretudo no Vale do Silício, mal se dão conta do papel da obra na formação e estruturação do discurso contemporâneo, assim como na visão de mundo defendida por eles mesmos. Em sua biografia de Said, Places of Mind (“Lugares da mente”), Timothy Brennan conta que a partir do final dos anos 1990 “os estudos pós-coloniais deixaram de ser um campo acadêmico” para se tornar toda uma compreensão do mundo, que recorre a um jargão altamente específico, com expressões como “‘o outro’, ‘hibridismo’, ‘diferença’, ‘Eurocentrismo’” — termos que “passaram a figurar em programas de teatro e listas de editores, catálogos de museus e até filmes de Hollywood”.24 De fato, grande parte dos intelectuais estadunidenses, e boa parte do entorno da academia, como escritores e jornalistas, se posicionaram politicamente — consolidando a forma como o pensamento dominante do establishment da elite nos Estados Unidos ao longo dos anos 1990 e até o século atual, inclusive no Vale do Silício — com base em um livro com o qual muitos jamais tiveram contato direto, e cuja existência alguns até ignoravam e continuam a ignorar. O triunfo substancial de Orientalismo consistiu em ter exposto a um público amplo até que ponto uma história contada, o ato de