A evolução tecnológica levará a humanidade a um desastre?
PANORAMA GERAL
Quase toda tecnologia fundacional já inventada, segue uma lei aparentemente imutável: ela se torna mais barata e mais fácil de usar e, no fim das contas, prolifera por toda parte. Estamos hoje diante de tecnologias altamente potentes, que se expandirão de forma avassaladora. Mas, estaremos preparados para lidar com as consequências morais, éticas, sociais e econômicas de tais avanços?
É justamente sobre esse assunto que trata o livro “A Próxima Onda” de Mustafa Suleyman (cofundador da DeepMind, uma das principais empresas de inteligência artificial do mundo) e Michael Bhaskar. Os autores descrevem o que as tecnologias, particularmente a inteligência artificial (IA) e a biologia sintética representam para a próxima década, e como essas forças criarão imensa prosperidade, mas também podem colocar em risco os Estados nacionais e a própria supremacia do homem neste planeta.
EXPANSÃO EXPONENCIAL
A tecnologia tem uma trajetória clara: a difusão massiva em grandes ondas. Isso é verdadeiro desde as primeiras ferramentas de lascas de pedra e ossos até os últimos modelos de IA. Uma onda é um conjunto de tecnologias que surgem ao mesmo tempo, impulsionadas por uma ou várias novas tecnologias de propósito geral, com profundas implicações sociais.
As tecnologias de propósito geral se tornam ondas quando se difundem amplamente. Sem uma difusão global épica e quase descontrolada, não é uma onda, mas uma curiosidade histórica. Quando a difusão começa, no entanto, o processo ecoa através da história. Alexander Graham Bell introduziu o telefone em 1876; em 1900, os Estados Unidos tinham 600 mil telefones; dez anos depois, 5,8 milhões; hoje, têm mais telefones que pessoas.
As tecnologias assim propagadas tornam-se mais abundantes e mais baratas e permitem o surgimento de outras novas tecnologias, também baratas. O Uber seria impossível sem o smartphone, que se tornou possível depois do GPS, que se tornou possível pelos satélites, que se tornaram possíveis pelas técnicas de combustão, que se tornaram possíveis pela linguagem e pelo fogo.
Segundo os autores do livro citado, a computação possui a capacidade de se disseminar e melhorar a taxas exponenciais, de penetrar e aprimorar praticamente todos os aspectos da vida. O padrão histórico da ocorrência das ondas de desenvolvimento tecnológico se repete da mesma maneira. Inicialmente, ela parece impossível e inimaginável. Então parece inevitável. E cada onda fica maior e mais forte.
A PRÓXIMA ONDA
Segundo nos contam Suleyman e Bhaskar, a próxima onda é definida por duas tecnologias centrais: inteligência artificial (IA) e biologia sintética. Juntas, elas trarão uma nova etapa no desenvolvimento da humanidade, criando mais riqueza que qualquer outra coisa vista antes. E, no entanto, sua rápida proliferação também pode empoderar uma grande variedade de atores nocivos e criar perturbação, instabilidade e até mesmo catástrofe em escala inimaginável. Essa onda cria um imenso desafio que definirá o século XXI: nosso futuro depende dessas tecnologias ao mesmo tempo que é ameaçado por elas.
Quando amadurecerem, as tecnologias hoje emergentes se espalharão rapidamente, tornando-se mais baratas, acessíveis e amplamente difundidas pela sociedade. Elas oferecerão avanços extraordinários nos campos médico e da energia limpa, criando não somente novos negócios, mas também novas indústrias e melhorias de qualidade de vida em quase toda área. No entanto, juntamente com esses benefícios, a IA, a biologia sintética e outras formas avançadas de tecnologia produzem riscos em uma escala profundamente preocupante. Podem criar ameaças existenciais para os Estados-nações; riscos tão profundos serão capazes de perturbar ou mesmo destruir a ordem geopolítica atual. Abrem caminho para ataques cibernéticos, guerras automatizadas que podem devastar países, pandemias artificialmente criadas, só para citar alguns exemplos.
Por outro lado, manter essas tecnologias sob rédeas curtas pode levar à tentativa de observar tudo e todos, o tempo todo, em um distópico sistema global justificado pelo “desejo” de nos proteger. Sociedades tecnologicamente estagnadas são historicamente instáveis e tendem ao colapso. Em algum momento, elas perdem a capacidade de solucionar problemas e progredir. Ou seja, mesmo enquanto nos preocupamos com os riscos, precisamos mais do que nunca dos incríveis benefícios das tecnologias da próxima onda; e esse é o dilema central, segundo Suleyman: mais cedo ou mais tarde, uma poderosa geração de tecnologia levará a humanidade na direção de resultados catastróficos; esse é o grande problema do século XXI.
NECESSIDADE DE CONTENÇÃO
A tecnologia existe em um sistema complexo e dinâmico (o mundo real) no qual consequências diretas e indiretas reverberam de modo imprevisível. O que no papel parece impecável pode se comportar de maneira diferente quando está à solta. O que as pessoas realmente farão com uma invenção, por mais bem intencionada que seja, nunca é garantido.
A contenção é um conjunto de mecanismos técnicos, culturais, legais e políticos, interligados e mutuamente reforçadores, para manter controle social sobre a tecnologia em uma época de mudança exponencial.
Durante a maior parte da história, o desafio da tecnologia esteve em criar e liberar seu poder. Isso agora se inverteu: o desafio da tecnologia hoje é conter o poder que foi liberado, assegurando que continue a servir a nós e ao planeta.
No fim das contas, a próxima onda pode significar que a humanidade já não estará no topo da cadeia alimentar. O “homo tecnologicus” pode terminar sendo ameaçado por sua própria criação. A verdadeira questão não é se a onda está vindo. Claramente está. A verdadeira questão, colocada por Suleyman, é por que é tão difícil aceitar que ela é inevitável.
Dado todo esse contexto que nos colocamos, os autores propõem algumas formas de contenção administrada para extrair o melhor da próxima onda tecnológica, minimizando os riscos terríveis de sermos suplantados por ela:
- Segurança técnica: Medidas técnicas concretas para aliviar possíveis danos e manter o controle.
- Auditorias: Uma maneira de assegurar a transparência e a responsabilização da tecnologia.
- Gargalos: Alavancas para retardar o desenvolvimento e ganhar tempo para os reguladores e as tecnologias defensivas.
- Criadores: Garantir que desenvolvedores responsáveis insiram controles apropriados na tecnologia, desde o início.
- Empresas: Alinhar os incentivos das organizações por trás da tecnologia com sua contenção.
- Governo: Apoiar os governos, permitindo que construam tecnologia, regulamentem a tecnologia e implementem medidas de mitigação.
- Alianças: Criar um sistema de cooperação internacional para harmonizar leis e programas.
- Cultura: Uma cultura de compartilhar aprendizados e falhas, a fim de disseminar rapidamente os meios de lidar com eles.
- Movimentos: Tudo isso precisa de input público em todos os níveis, incluindo pressionar cada componente e obrigá-lo a prestar contas.
- Coerência: Assegurar que cada elemento funcione em harmonia com os outros.
Cada medida precisa ser vista nesse espectro: relevante o bastante para oferecer proteção significativa, mas impedida de ir longe demais de forma a opor-se ao progresso, causando uma distopia.
FECHAMENTO
Será que estamos à beira de uma revolução tecnológica que poderá acabar com a primazia da humanidade no planeta? Será que os filmes de ficção, como 2001 – Uma Odisséia no Espaço e tantos outros do gênero estavam certos?
Uma coisa fixou clara para mim. O que podemos fazer no momento é aprofundarmos o conhecimento no funcionamento de tais tecnologias, discutindo seus aspectos éticos, morais, sociais e econômicos, sem paixões e ideologias. Naturalmente, dependendo de seu envolvimento com tais assuntos, mais responsável você se torna. Em geral, aprendizado e discussão para definirmos, enquanto sociedade, quais formas de atuação e restrições devemos tomar para administrar, sem impedir o avanço tecnológico.
É momento de fomentar o aprendizado e as habilidades visão crítica e avaliação de problemas complexos.
Quer desenvolver essas competências?
Entre em contato:
whatsapp: (11) 99851-1275