Busca:     


Blade Runner é hoje - Os replicantes estão chegando

Ricardo Abramovay - Abril 2017
 


Os benefícios da inteligência artificial se fazem ver em várias áreas. O mesmo vale, contudo, para as ameaças sopradas pelo turbilhão tecnológico. Entre elas, segundo o autor, estão a autodeterminação das máquinas, o desemprego e o fim da privacidade. A falta de uma agência reguladora global acentua o temor.

"Por muito agarrados que estejamos à vida, até uma serpente hesitaria diante da eternidade", diz o personagem de José Saramago no início da História do Cerco de Lisboa. Mas a morte, como componente incontornável da vida, pode estar com os dias contados.

Ray Kurzweil, cientista da computa√ß√£o, inventor e futurologista, autor de best-sellers sobre intelig√™ncia artificial e sa√ļde, prev√™ que a vida eterna v√° se tornar tecnicamente poss√≠vel a partir de 2029. Ou seja, em 12 anos.

O prognóstico poderia soar como desvario se Kurzweil não trabalhasse na área de inovação de um dos chefes de fila da pesquisa sobre inteligência artificial, o Google.

Além disso, ele está envolvido em façanhas como o reconhecimento ótico de caracteres e a transmissão direta da linguagem falada para impressoras.

Da√≠ √† eternidade n√£o h√° muito mais que um passo - ao menos √© nisso que acreditam os adeptos do transumanismo. O movimento tem se desenvolvido nos √ļltimos 20 anos e procura melhorar o funcionamento do organismo humano por meio da engenharia gen√©tica, das tecnologias da informa√ß√£o, da nanotecnologia molecular e da intelig√™ncia artificial.

A humanidade, segundo os transumanistas, não é o ápice da evolução. A ciência e a tecnologia podem nos fazer pós-humanos, ampliando nossas capacidades muito além daquilo que um humano atual pode imaginar.

Transcend√™ncia ou morte. Eis o lema fundamental do transumanismo. De fato, nossa intelig√™ncia pode superar a maioria das atuais limita√ß√Ķes biol√≥gicas. Nos pr√≥ximos 20 anos, ci√™ncia e tecnologia provocar√£o em n√≥s e em nossa organiza√ß√£o social muito mais mudan√ßas do que as registradas nos √ļltimos 300 anos.

Maquina inteligente

Na base de todas essas transforma√ß√Ķes est√° uma diferen√ßa crucial entre o progresso t√©cnico contempor√Ęneo e tudo que o precedeu.

Se a Revolu√ß√£o Industrial promoveu a substitui√ß√£o da for√ßa animal e, posteriormente, do pr√≥prio trabalho humano por m√°quinas, agora √© nossa intelig√™ncia que vai sendo trocada por dispositivos eletr√īnicos cada vez mais potentes.

O poder computacional desses aparatos dobra, em m√©dia, a cada dois anos. Vejamos: o sequenciamento gen√©tico custava US$ 100 milh√Ķes em 2001 (R$ 240,7 milh√Ķes, em valores de junho daquele ano) e US$ 10 milh√Ķes em 2008 (R$ 16,3 milh√Ķes, idem). Hoje, essas informa√ß√Ķes podem ser obtidas por US$ 1.000 (R$ 3.100). Os seis pequenos ret√Ęngulos de sil√≠cio que, em 1958, permitiram ao Vanguard I (o quarto sat√©lite lan√ßado ao espa√ßo e o primeiro alimentado por energia solar) mandar informa√ß√Ķes √† Terra custavam muitos milhares de d√≥lares por watt. Na d√©cada de 1970, o pre√ßo tinha ca√≠do para US$ 100. Agora, a US$ 0,50, a energia solar j√° compete com o carv√£o. A Ag√™ncia Internacional de Energia Renov√°vel estima que ela baixe a US$ 0,05 ou 0,06 em oito anos.

Os dispositivos eletr√īnicos, al√©m disso, n√£o se confinam a um setor ou a uma dimens√£o da vida social; eles se combinam. Todos os objetos com que nos relacionamos se tornam meios de intensificar nossa conex√£o a redes cada vez mais amplas.

A natureza exponencial (dada pela velocidade do aumento da capacidade computacional) e combinatória das tecnologias atuais faz com que as mudanças sejam incontornáveis e irreversíveis.

Os ganhos reais e potenciais dizem respeito √†s mais diversas √°reas, da gera√ß√£o de energia √† produ√ß√£o de bens materiais, da agricultura de precis√£o aos autom√≥veis aut√īnomos, da preven√ß√£o de doen√ßas √† cria√ß√£o cultural, da organiza√ß√£o urbana √†s finan√ßas e √† circula√ß√£o de informa√ß√£o.

Ao mesmo tempo, porém, ampliam-se a apreensão e os alertas relativos aos riscos da evolução tecnológica, e eles partem de atores importantes. Alguns não hesitam em comparar esses riscos aos representados pelos artefatos nucleares e pelas mudanças climáticas.

A diferença é que a corrida nuclear e as mudanças climáticas estão enquadradas por algum tipo de acordo e de governança global, mesmo que o resultado dessas iniciativas seja contestável.

Ameaças

Quanto ao avanço da inteligência artificial, não há nenhuma coordenação nem sequer para sinalizar as ameaças - entre as quais destacam-se quatro. A primeira refere-se não tanto ao poder desse conjunto de tecnologias, mas, sobretudo, a sua autonomia.

Nick Bostrom, professor de filosofia em Oxford (Inglaterra) e um dos expoentes do transumanismo, publicou em 2014 o livro Superintelligence. Paths, Dangers, Strategies (Oxford University Press; superintelig√™ncia ¬Ė caminhos, perigos e estrat√©gias), que se tornou best-seller nos Estados Unidos. Na obra, afirma que a superintelig√™ncia "√©, possivelmente, o mais importante e intimidador desafio que a humanidade jamais enfrentou".

Bostrom compara nosso uso da inteligência artificial ao que faz uma criança brincando com uma bomba. O que está em jogo, de acordo com ele, muito mais que uma explosão, é nossa capacidade de manter a própria condição humana.

Essa preocupação já estava presente entre os pioneiros da inteligência artificial, nos anos 1950. Eles haviam percebido que as máquinas poderiam fazer muito mais do que simplesmente pensar numericamente. Eram (e, de fato, tornaram-se cada vez mais) capazes de deduzir e de inventar provas lógicas.

Atualmente, elas v√£o bem al√©m. Podem aprender, e n√£o s√≥ a partir daquilo que n√≥s lhes ensinamos. Esse aprendizado tamb√©m se baseia no rastreamento das informa√ß√Ķes que circulam nos meios digitais, uma imensid√£o de dados interpretada por meio de algoritmos cada vez mais complexos e opacos.

√Č por causa desse rastreamento que voc√™, ap√≥s escrever a um amigo dizendo que pretende ir a Santiago, passa a receber mensagens publicit√°rias sobre passagens de avi√£o e hospedagem no Chile.

O avan√ßo exponencial e combinat√≥rio do poder computacional difundido nos mais variados tipos de objeto n√£o amplia s√≥ a magnitude das informa√ß√Ķes coletadas. Amplia tamb√©m, e sobretudo, a capacidade dos algoritmos de analisar e interpretar esses dados.

Sua geladeira saber√° que voc√™ est√° sem leite. Sua m√°quina de lavar dir√° qual o momento de menor consumo de energia no sistema ao qual voc√™ est√° ligado. A temperatura dos ambientes poder√° ser regulada em fun√ß√£o da presen√ßa ou da aus√™ncia de pessoas em seu interior e √† dist√Ęncia.

J√° existem t√©cnicas que permitem circunscrever a aplica√ß√£o de fertilizantes e agrot√≥xicos a necessidades espec√≠ficas de cada lote da unidade produtiva, por meio da interpreta√ß√£o de informa√ß√Ķes captadas por drones e decodificadas por poderosos algoritmos. Baterias de celulares ser√£o recarregadas por sinais de r√°dio, via wi-fi.

Internet da energia

Est√° emergindo uma internet da energia, que monitora o que os domic√≠lios, as f√°bricas, os escrit√≥rios e as fazendas produzem a partir do Sol, dos ventos e da biomassa, distribuindo essa energia conforme as necessidades do conjunto dos usu√°rios. Quem produzir mais energia do que consome tem cr√©dito; quem produzir menos paga. S√£o as chamadas "redes inteligentes", que compatibilizam no√ß√Ķes que o s√©culo 20 sempre considerou antag√īnicas: descentraliza√ß√£o e efici√™ncia.

As virtudes da internet das coisas, o fato de que cada um dos bilh√Ķes de objetos de nosso cotidiano vai sendo dotado de um protocolo de internet que o identifica e faz dele uma fonte de informa√ß√£o, a cognifica√ß√£o generalizada do mundo material, isso tamb√©m se estende √†s pessoas. √Č o que especialistas batizaram de computa√ß√£o afetiva.

A Apple, no in√≠cio de 2016, comprou a Emotient, empresa l√≠der em reconhecimento facial e que tem a ambi√ß√£o de detectar nossos estados emocionais. √Č a internet das emo√ß√Ķes. Voc√™ est√° triste? O que posso fazer para que voc√™ melhore seu estado de √Ęnimo?

Alguns dos estudiosos do tema sustentam que n√≥s somos a √ļltima gera√ß√£o mais inteligente que as m√°quinas.

Essa espécie de triunfo da inteligência humana sobre ela mesma se apoia naquilo que o historiador Yuval Noah Harari, em seu recém-publicado Homo Deus: Uma Breve História do Amanhã (Companhia das Letras), chama de o grande desacoplamento: "A inteligência está se desacoplando da consciência".

Até há pouco, apenas seres conscientes "podiam realizar tarefas que exigissem alto grau de inteligência, como jogar xadrez, dirigir automóveis, diagnosticar doenças ou identificar terroristas".

Cognição sem corpo

J√° temos, por√©m, e teremos cada vez mais, uma intelig√™ncia n√£o apenas sem corpo como tamb√©m desprovida de emo√ß√Ķes e sentido social e, no entanto, capaz de realizar tarefas complexas com mais efici√™ncia que os humanos.

Gerd Leonhard, empreendedor e pesquisador, vai além no livro Technology vs. Humanity: The Coming Clash Between Man and Machine (Fast Future; tecnologia x humanidade: o embate vindouro entre homem e máquina), publicado há alguns meses. Ele sustenta que a inteligência artificial representa uma dissociação entre nossa capacidade de interferir no mundo e as bases éticas dessa intervenção.

A maior amea√ßa ligada √† intelig√™ncia artificial deriva do fato de que as m√°quinas conseguem mimetizar nossos padr√Ķes de comportamento √©tico, mas, por defini√ß√£o, n√£o podem e jamais poder√£o se dotar de consci√™ncia √©tica. A tecnologia √© um meio para atingir fins que s√≥ podem estar fora dela.

Se m√°quinas dotadas de intelig√™ncia artificial ampliam seu poder de gest√£o e de interven√ß√£o na sociedade e nos indiv√≠duos, h√° o risco de que elas pr√≥prias definam as finalidades de suas a√ß√Ķes.

Assim, nossa condição humana passaria a depender cada vez mais de dispositivos com aptidão para despertar em nós sentimentos que nos definem, como nossa felicidade, nosso sentido de pertencimento e até nossa libido.

Leonhard prop√Ķe uma esp√©cie de ag√™ncia para proteger os seres humanos, um Conselho Global de √Čtica Digital. N√£o se trata de esfor√ßo (v√£o) para deter a expans√£o das tecnologias digitais, mas sim para garantir que elas n√£o comprometam aquilo que nos faz humanos.

Um exemplo? Nossa capacidade de desenvolver atividades √ļteis para os outros, de fortalecer nossa intera√ß√£o e, portanto, a pr√≥pria coes√£o social. Em outras palavras, nosso trabalho.

Desemprego

√Č justamente a√≠ que entra a segunda grande amea√ßa representada pela intelig√™ncia artificial.

Os mercados de trabalho estão sofrendo mudanças que respondem, em grande parte, pela espantosa reconcentração da riqueza nos países desenvolvidos, em particular nos Estados Unidos.

Até pouco tempo atrás, considerava-se que apenas trabalhos rotineiros e de baixa qualificação seriam deslocados pelo avanço da computação. A inteligência artificial, porém, derrubou essa barreira protetora.

Num escritório de advocacia, por exemplo, as máquinas são muito mais eficientes na pesquisa de julgamentos passados e de artigos de lei que podem ajudar na argumentação de um caso específico. Na medicina, a mesma ideia se aplica à interpretação de chapas radiológicas. A preciosa sabedoria dos taxistas não chega aos pés do que um dispositivo inteligente é capaz de saber.

Claro que a revolu√ß√£o digital tamb√©m cria empregos, sobretudo na intera√ß√£o entre homens e m√°quinas. Mas ela o faz em volume menor que a Revolu√ß√£o Industrial, que, h√° dois s√©culos, come√ßou a substituir as ocupa√ß√Ķes agr√≠colas.

N√£o √© que o trabalho v√° subitamente desaparecer, como atesta a situa√ß√£o de quase pleno emprego nos Estados Unidos. O mercado de trabalho, contudo, vai consolidando um padr√£o polarizado. A minoria dos detentores de conhecimentos apropriados √† era digital consegue ganhos de renda, enquanto a grande massa dos assalariados aproxima-se da pobreza e, sobretudo, da irrelev√Ęncia.

A capacidade de aprendizagem das m√°quinas e a multiplica√ß√£o dos rob√īs torna cada vez mais f√°cil substituir o trabalho humano.

Atualmente, já se pode robotizar quase inteiramente o trabalho nas cadeias de fast-food, com as vantagens de maior padronização do produto, melhor higiene e amortização do investimento em menos de dois anos.

Se algu√©m imagina que isso se limita aos pa√≠ses desenvolvidos, vale lembrar que a China j√° √© o maior mercado consumidor de rob√īs do mundo - e vai se tornando tamb√©m o principal produtor.

Desigualdade

Carl Frey e Michael Osborne dirigem o Programa de Tecnologia e Emprego da prestigiosa Oxford Martin School, no Reino Unido. Seus trabalhos mostram que o ritmo dessas metamorfoses se acelera, que a lista de setores por elas atingidos se amplia e que, diferentemente das inova√ß√Ķes t√≠picas da era industrial, os benef√≠cios das mudan√ßas tecnol√≥gicas n√£o s√£o, nem de longe, amplamente distribu√≠dos.

Levou 119 anos para que o fuso industrial, uma vez inventado, se tornasse padr√£o na tecelagem. A internet difundiu-se em menos de uma d√©cada, e os objetos conectados em rede, que j√° eram 13 bilh√Ķes em 2013, totalizar√£o nada menos que 500 bilh√Ķes em 2030.

As consequ√™ncias sobre os empregos ser√£o devastadoras, mostram Frey e Osborne. Est√£o em risco 47% dos postos de trabalho nos EUA, 57% na m√©dia dos pa√≠ses, desenvolvidos, da OCDE (Organiza√ß√£o para a Coopera√ß√£o e Desenvolvimento Econ√īmico), 69% na √ćndia, 77% na China e 85% na Eti√≥pia. A destrui√ß√£o tende a ser maior onde a estrutura ocupacional √© mais distante da economia do conhecimento.

Tais preocupa√ß√Ķes n√£o se confinam ao universo dos que desconfiam da tecnologia. Elas s√£o hoje expressas por alguns dos mais destacados protagonistas contempor√Ęneos da cultura digital.

Em 2015, o físico Stephen Hawkin e os empresários Elon Musk (criador da Tesla e um dos mais reconhecidos inovadores do mundo) e Bill Gates publicaram documento com forte alerta sobre as ameaças trazidas pelo avanço da inteligência artificial. A principal delas está na perspectiva de drástica redução de postos de trabalho.

Em fevereiro deste ano, Gates sugeriu que os propriet√°rios de rob√īs deveriam pagar um imposto que serviria ao treinamento e √† reinser√ß√£o dos trabalhadores deslocados pela intelig√™ncia artificial.

Compartilhamento

A terceira grande ameaça representada pelo avanço da inteligência artificial refere-se à economia do compartilhamento.

Em 2010, Rachel Botsman e Roo Rogers publicaram um livro sobre a ascensão do consumo colaborativo. Contavam, encantados, a história dos jovens que tiveram a ideia de hospedar em casa pessoas que não encontravam lugar em hotéis durante um congresso de design, em San Francisco, em 2007.

A partir desse episódio, eles criaram um dispositivo digital que resultou no Airbnb. A novidade não era, claro, o colchão de ar e o bed and breakfast [cama e café da manhã], abreviados no nome daquela que se tornou a principal central de reservas de hospedagem no mundo atual.

O fascinante na iniciativa era a possibilidade, aberta pela conectividade generalizada, de que as pessoas colocassem à disposição umas das outras bens e serviços dos quais não necessitavam e que poderiam ser compartilhados.

Os resultados seriam a ampliação da renda de quem oferecia bens para compartilhamento, os preços mais baratos do que os cobrados pelos mercados convencionais e o potencial de economizar recursos materiais, com benefícios crescentes para o meio ambiente.

O segredo estava em conseguir que indiv√≠duos que n√£o se conheciam confiassem uns nos outros devido √†s refer√™ncias digitalizadas. Da√≠ o t√≠tulo do livro de Botsman e Rogers: O que √Č Meu √Č Seu (Bookman). Como a revolu√ß√£o digital permite a universaliza√ß√£o da pr√°tica, o resultado seria o aumento generalizado da prosperidade.

A marca distintiva da economia moderna, a propriedade, seria então substituída pelo acesso. Por que possuir um carro se posso pegar carona? Por que comprar um jornal se as notícias estão disponíveis de forma aberta e gratuita na internet?

A era digital parecia prestes a realizar os mais nobres ideais de cooperação social e compartilhamento que os movimentos operários perseguem desde o século 19, sem o risco da centralização e da burocracia que marcaram o socialismo real.

O consultor e futurologista Jeremy Rifkin chega a prever "o eclipse do capitalismo" no livro Sociedade com Custo Marginal Zero: A Internet das Coisas, os Bens Comuns Colaborativos e o Eclipse do Capitalismo (M. Books).

Para Rifkin, o capitalismo será superado não por um tipo de tomada do Palácio de Inverno, ação pela qual os bolcheviques, em 1917, iniciaram a formação da União Soviética, mas pelo triunfo da cooperação social descentralizada, cujo caminho terá sido aberto pela economia digital.

Já Yochai Benkler publicou em 2011 o livro The Penguin and the Leviathan, com o subtítulo "How Cooperation Triumphs over Self-Interest" (Crown Business; o pinguim e o leviatã: como a cooperação supera o autointeresse).

A euforia emancipat√≥ria, contudo, teve vida curta. Em pouco tempo, aquilo que aparecia como express√£o virtuosa de coopera√ß√£o direta e descentralizada entre indiv√≠duos aut√īnomos revelou-se um dos mais importantes epicentros da acumula√ß√£o financeira.

Pior: a ambição de compartilhamento na hospedagem acabou por contribuir para a degradação de cidades como Amsterdã, Barcelona, Berlim, Paris e Nova York.

Concentração

Em vez de dividirem com os outros os espaços não usados, proprietários venderam seus imóveis a companhias interessadas em explorar a locação. Os locais figuravam como bens pessoais, mas pertenciam a empresas.

Por causa disso, v√°rias cidades adotaram legisla√ß√Ķes para impedir a desfigura√ß√£o de suas √°reas tur√≠sticas, como registra o norte-americano Tom Slee em What¬ís Yours Is Mine: Against the Sharing Economy (OR Books; o que √© seu √© meu: contra a economia do compartilhamento).

N√£o importa se alojamento, transporte, servi√ßos de limpeza ou refei√ß√Ķes r√°pidas; Slee mostra que a economia do compartilhamento converte-se sistematicamente em seu contr√°rio. Ou seja, em lugar de distribuir oportunidades, ela vem dando lugar a uma concentra√ß√£o crescente de renda e de poder.

A quarta grande amea√ßa trazida pela intelig√™ncia artificial refere-se √† privacidade. Michael Sandel, professor de filosofia pol√≠tica em Harvard, pergunta-se se n√£o √© perigoso estarmos nos aproximando de um cotidiano em que a vigil√Ęncia - de governos, empresas de que compramos, companhias de seguro e empregadores - torna-se cada vez mais intrusiva.

Adeus à privacidade

As companhias de seguro j√° come√ßam a propor a clientes que vistam dispositivos capazes de acompanhar sua vida cotidiana (exerc√≠cios f√≠sicos, consumo de √°lcool e tabaco, alimenta√ß√£o, sono). A partir dos dados coletados pela indument√°ria, os valores da ap√≥lice seriam elevados ou reduzidos. Segundo Sandel, a troca da privacidade pela conveni√™ncia levanta quest√Ķes √©ticas que deveriam pautar as decis√Ķes de empresas e indiv√≠duos. E se um empregador exigir que seu funcion√°rio use o dispositivo?

Mas o pior √© que estamos o tempo todo fornecendo o que h√° de mais precioso no mundo contempor√Ęneo, ou seja, a informa√ß√£o, de forma gratuita e inteiramente involunt√°ria. Em uma fala no TED (confer√™ncia sobre tecnologia, entretenimento e design), a jornalista especializada em tecnologia Marta Peirano mostra que, sem que saibamos, nossos celulares e todos os dispositivos conectados de que nos servimos est√£o produzindo informa√ß√Ķes processadas por algoritmos cada vez mais poderosos.

Essas informa√ß√Ķes n√£o s√£o s√≥ utilizadas por servi√ßos de intelig√™ncia mas tamb√©m por empresas que nos oferecem pontos por compras e que conhecem melhor nossos h√°bitos que nossos familiares. Diferentemente das empresas telef√īnicas, a maneira como esses dados s√£o usados n√£o √© objeto de regula√ß√£o estatal.

A privacidade, muito mais que um instrumento, √© um valor. A ideia t√£o frequente de que o cidad√£o honesto nada tem a temer com a transmiss√£o √† rede dos dados de sua vida pessoal passa por cima justamente de um dos mais importantes fundamentos √©ticos da vida contempor√Ęnea, que √© o poder do indiv√≠duo sobre sua vida pessoal.

N√£o foi √† toa que, em fevereiro, a Alemanha proibiu a comercializa√ß√£o da boneca Cayla, que ouvia e dialogava com as crian√ßas. Enquanto fazia isso, ela armazenava as informa√ß√Ķes do di√°logo - e o fazia sem o conhecimento dos pais. A preocupa√ß√£o das autoridades alem√£s n√£o impediu que o produto continuasse √† venda nos EUA.

Discussão ética

Em suma, nunca foram t√£o poderosos os meios t√©cnicos para melhorar a sa√ļde humana, permitir que as pessoas levem adiante trabalhos interessantes, favorecer a coopera√ß√£o social e ampliar a soberania dos indiv√≠duos sobre suas vidas e suas decis√Ķes. Ao mesmo tempo, nunca foram t√£o avassaladoras as amea√ßas que emergem da concentra√ß√£o de riqueza e de poder ligada a esses meios t√©cnicos.

√Č fundamental que se amplie a discuss√£o p√ļblica (sobretudo a de natureza √©tica) sobre esses temas, pois √© da√≠ que vir√£o pol√≠ticas e iniciativas empresariais e cidad√£s que poder√£o colocar a intelig√™ncia artificial a servi√ßo do florescimento da esp√©cie humana.

----------

Ricardo Abramovay, 63, professor sênior do Instituto de Energia e Ambiente da USP, é autor de Muito Além da Economia Verde (Planeta Sustentável).

----------

Os riscos políticos da desindustrialização prematura
Rob√īs, personagens do cap√≠tulo inicial de uma era de transforma√ß√£o
A democracia e os efeitos destrutivos da inovação tecnológica
O capitalismo Lava-Jato
Vitoriosos da globalização
A pegada material da economia contempor√Ęnea
Carros do século XXI
Quatro forças decisivas na luta contra as mudanças climáticas em 2017




Fonte: Folha de S. Paulo, 2 abr. 2017.

  •