12 novembro 2013

A duplicação digital do mundo e os seus riscos




Em entrevista à Carta Maior, Eric Sadin fala sobre a capacidade crescente dos dispositivos digitais inteligentes de controlar as nossas vidas.

Paris - Já não estamos sós. Um duplo ou muitos duplos nossos permanecem nos incontáveis Data Center do mundo, nas redes sociais, nas memórias gigantescas do Google ou da Agência Nacional de Segurança dos Estados Unidos, a NSA. É o que o ensaísta francês Eric Sadin, um dos autores mais proféticos e brilhantes na análise das novas tecnologias, chama de “humanidade paralela”. Em cada um de seus livros anteriores, “Surveillance Globale”, “La Société de l’anticipation”, Eric Sadin explorou como poucos as mutações humanas inerentes ao surgimento da hiper-tecnologia em nossas vidas. Longe de se contentar com um anedotário trivial dos instrumentos tecnológicos que surgiram nas últimas três décadas, Sadin os pensa de uma forma inédita. Seu último livro, “L’Humanité Augmentée, L’administration numérique du monde” (A Humanidade aumentada, a administração digital do mundo), explora a capacidade cada vez maior que os dispositivos inteligentes tem para administrar o rumo do mundo. 

O livro ganhou na França o Hub Awards 2013, um prêmio que recompensa o melhor ensaio do ano. Para Eric Sadin, Hall 9000, o computador super-potente da nave Discovery no filme “2001, uma Odisseia no Espaço”, deixou há muito de ser uma ficção: Hal 9000 foi inclusive superado pela tendência atual na direção de uma “administração robotizada da existência”. GPS, Iphone, Smartphone, sistemas de gestão centralizados que decidem por si mesmo, rastreabilidade permanente, tudo conflui para a criação do que o autor chama de um “órgão sintético que repele toda dimensão soberana e autônoma”. Em entrevista à Carta Maior, Eric Sadin analisa esse duplo tecnológico que nos facilita muitas coisas e ao mesmo tempo nos espreita a ponto de transformar nossa humanidade. 


Eric Schmidt, o presidente do Google, diz em seu último livro, “The New Digital Age”, que “acabamos de deixar os starting-blocks” da revolução digital. Você, ao contrário, estima que a revolução digital está acabando. Fim ou nova fase?


- A década atual assinala o fim do que se chamou de “revolução digital” que começou no princípio dos anos 80 mediante a digitalização cada vez maior do real: a escrita, o som, a imagem fixa e animada. Esse amplo movimento histórico se deu paralelamente ao desenvolvimento das redes de telecomunicação e tornou possível o advento da internet, ou seja, a circulação exponencial dos dados na rede: as condições de acesso à informação, o comércio e a relação com os outros através dos correios eletrônicos e das redes sociais.

Hoje, esta arquitetura que não parou de se desenvolver e se consolidar está solidamente instalada em escala global e permite o que chamo de “a era inteligente da técnica”. Nosso tempo instaura uma relação com a técnica que já não está prioritariamente fundada sobre uma ordem protética, ou seja, como uma potência mecânica superior e mais resistente que a de nosso corpo, mas sim como uma potência cognitiva em parte superior á nossa. Há robôs imateriais “inteligentes” que coletam massas abissais de dados, os interpretam à velocidade da luz ao mesmo tempo em que são capazes de sugerir soluções supostamente mais pertinentes e inclusive de agir em nosso lugar como ocorre com o “trading algorítmico”, por exemplo. 

Em seu último ensaio, “A humanidade aumentada, a administração digital do mundo”, você expõe um mundo cartografado de maneira constante pelos sistemas digitais. Você mostra a emergência de uma espécie de humanidade paralela – as máquinas – destinadas a administrar o século XXI. Uma pergunta se impõe: o que fica então de nossa humanidade? 

- Desde o Renascimento, nosso potencial humano se fundou sobre a primazia humana constituída pela faculdade de julgar, a faculdade de decisão e, por conseguinte, da responsabilidade individual que funda o princípio da Lei. A assistência das existências por sistemas “inteligentes”, além de representar uma evolução cognitiva, redefine de fato a figura do humano como senhor de seu destino em benefício de uma delegação progressiva de nossos atos para outros sistemas. Uma criação humana, as tecnologias digitais, contribui paradoxalmente para debilitar o que é próprio ao ser humano, ou seja, a capacidade de decidir conscientemente sobre todas as coisas. Esta dimensão em curso se amplificará nos próximos anos. 

Você se refere ao surgimento de um componente “orgânico-sintético que repele toda dimensão soberana e autônoma”. Em resumo, o mundo, nossas vidas, está sob o comando do que você chama de “a governabilidade algorítmica”. O ser humano deixou de administrar. 

- Não se trata de que já não administra, mas sim de que o fará cada vez menos em benefício de amplos sistemas supostamente mais eficazes em termos de optimização e de segurança das situações individuais e coletivas. Isso corresponde a uma equação que está no coração da estratégia da IBM. Esta empresa implementa arquiteturas eletrônicas capazes de administrar por si mesmas a regulação dos fluxos de circulação do tráfego nas estradas, ou a distribuição de energia em certas cidades do mundo. Isso é possível graças à coleta e ao tratamento ininterrupto de dados: os estoques de energia disponíveis, as estatísticas de consumo, a análise dos usuários em tempo real. 

Estas informações estão conectadas com algoritmos capazes de lançar alertas, de sugerir iniciativas ou assumir o controle decidindo por si mesmo certas ações: aumento da produção, compras automatizadas de energia nos países vizinhos, o corte do fornecimento em certas zonas. 

Isso equivale a uma espécie de perda maior de soberania. 

- A meta consiste em buscar a optimização e a segurança em cada movimento da vida. Por exemplo, fazer que uma pessoa que passa perto de uma loja de calçados possa se beneficiar com a oferta mais adequada ao seu perfil, ou que alguém que passeia em uma zona supostamente perigosa receba um alerta sobre o perigo. 

Vemos aqui o poder que se delega à técnica, ou seja, o de orientar cada vez com mais liberdade a curva de nossas existências. Esse é o aspecto mais inquietante e mais problemático da relação que mantemos com as tecnologias contemporâneas. 

O escândalo de espionagem que explodiu com o caso Prism, o dispositivo mediante o qual a NSA espiona todo o planeta, expôs algo terrível: não só nossas vidas, nossa intimidade, são acessíveis, mas elas estão digitalizadas, convertidas em Big Data, duplicadas. 

- Prism revelou dois pontos cruciais: em primeiro lugar, a amplitude abismal, quase inimaginável, da coleta de informações pessoais: em segundo, a colusão entre as empresas privadas e as instâncias de segurança do Estado. Este tipo de coleta demonstra a existência de certa facilidade para apoderar-se dos dados, guardá-los e depois analisá-los para instaurar funcionalidades de segurança. A estreita relação que liga os gigantes da rede com a NSA deveria estar proibida pela lei, salvo em ocasiões específicas. De fato, não é tanto a liberdade o que diminui, mas sim partes inteiras de nossa vida íntima. 

O meio ambiente digital favoreceu o aprofundamento inédito na história do conhecimento das pessoas. Este fenômeno está impulsionado pelas empresas privadas que coletam e exploram essas informações, frequentemente recuperadas pelas agências de segurança e também por cada um de nós mediante as ondas que disseminados permanentemente, às vezes sem consciência disso, às vezes de maneira deliberada. Por exemplo, através da exposição da vida privada nas redes sociais. 

O caso NSA-Prism representa um marco na história. De alguma maneira, mesmo que as pessoas tenham reagido de forma passiva, perdemos a inocência digital. Você acredita que ainda persiste a capacidade de revelar-se nesta governabilidade digital? 

- Haverá um antes e um depois do caso Prism. Ele mostrou até que ponto a duplicação digital de nossas existências participa da memorização e de sua exploração. Isso ocorreu em apenas 30 anos sob a pressão econômica e das políticas de segurança sem que tenha sido possível instaurar um debate sobre o que estava em jogo. Esse é o momento para tomar consciência, para empreender ações positivas, para que os cidadãos e as democracias se apropriem do que está em jogo, cujo alcance concerne à nossa civilização. 

A ausência da Europa no caso deste roubo planetário tem sido tão escandalosa quanto covarde. Você, no entanto, está convencido de que o Velho Mundo pode desempenhar um papel central. 

- Parece-me que a Europa, em nome de seus valores humanistas históricos, em nome de sua extensa tradição democrática, deve influir na relação de forças geopolíticas da internet e favorecer a edificação de uma legislação e de uma regulamentação claras. O termo “Big Data”, para além das perspectivas comerciais que possui, indica esse momento histórico no qual todos estamos copiados sob a forma de dados que podem ser explorados em uma infinidade de funcionalidades. 

Trata-se de uma nova inteligibilidade do mundo que emerge através de gigantescas massas de dados. Trata-se de uma ruptura cognitiva e epistemológica que, me parece, deve ser acompanhada por uma “carta ética global” e marcos legislativos transnacionais. 

Em seu livro você se refere a uma figura mítica do cinema, Hal, o sistema informático da nave Discovery, que aparece no filme 2001, uma Odisseia no Espaço. Hal é, para você, a figura que encarna nosso futuro tecnológico através da inteligência artificial. 

- Hal é um sistema eletrônico hiper-sofisticado que representa a personagem principal do filme de Stanley Kubrick. Hal é um puro produto da inteligência artificial, capaz de coletar e analisar todas as informações disponíveis, de interpretar as situações e agir por conta própria em função das circunstâncias. 

Exatamente como certos sistemas existentes no “trading algorítmico” ou no protocolo do Google. Hal não corresponde mais a uma figura imaginária e isolada, mas sim a uma realidade difusa chamada infinitamente a infiltrar setores cada vez mais amplos de nossa vida cotidiana. 

Nessa mesma linha, para você, se situa o Iphone ou os Smartphones. Não se trata de joguinhos, mas sim de um quase complemento existencial. 

- Creio que a aparição dos Smartphones em 2007 corresponde a um acontecimento tecnológico tão decisivo como o da aparição da internet. Os Smartphones permitem a conexão sem ruptura espaço-temporal. Com isso, os Smartphones expõem um corpo contemporâneo conectado permanentemente, ainda mais na medida em que pode ser localizado via GPS. Através dele também se confirma o advento de um “assistente robotizado” das existências por meio dos inúmeros aplicativos capazes de interpretar uma grande quantidade de situações e de sugerir a cada indivíduo as soluções supostamente mais adaptadas. 

Esses objetos, que são táteis, nos fazem manter uma relação estreita com o tato. Mas, ao mesmo tempo em que tocamos, as coisas se tornam invisíveis: toda a informação que acumulamos desaparece na memória dos aparatos: fotos, vídeos, livros, notas, cartas. Estão, mas são invisíveis. 

- De fato, esse duplo movimento deveria nos interpelar. Nossa relação com os objetos digitais se estabelece segundo ergonomias cada vez mais fluidas, o que alenta uma espécie de crescente proximidade íntima. A anunciada introdução de circuitos em nossos tecidos biológicos amplificará o fenômeno. Por outro lado, essa “familiaridade carnal” vem acompanhada por uma distância crescente, por uma forma de invisibilidade do processo em curso. 

Isso é muito emblemático no que diz respeito aos Data Centers que contribuem para modelar as formas de nosso mundo e escapam a toda visibilidade. É uma necessidade técnica. No entanto, essa torção assinala o que está em jogo em nosso meio ambiente digital contemporâneo: por um lado, uma impregnação contínua dos sistemas eletrônicos; por outro, uma forma de opacidade sobre os mecanismos que o compõem. 

Os poderes públicos, principalmente na Europa, são incapazes de administrar o universo tecnológico, de enquadrá-lo com leis ou fixar-lhe limites. A ignorância reina, mas a tecnologia termina por se impor, do mesmo modo que as finanças, a todo o espectro político. 

- Estamos vivendo no interior de um regime temporal que se torna exponencial, prioritariamente mantido pela indústria que impõe suas leis. 

O próprio dos regimes democráticos é sua faculdade deliberativa, sua capacidade coletiva para escolher conscientemente as regras que orientam o curso das coisas. Esse componente está hoje eminentemente fragilizado. 

Sem nostalgia, eu diria que vamos ter que lidar ativamente e sob diversas formas com a amplitude do que está em jogo eticamente, tanto agora como no futuro, sob a indução desta “tecnologização” de nossas existências. Tanto nas escolas como nas universidades. 

Creio que é urgente ensinar o código, a composição algorítmica, a inteligência artificial. Creio que são os professores de “humanidade digital” que deveriam ingressar nas escolas e contribuir para despertar as consciências e ajudar a encontrar as perspectivas positivas que estão se abrindo com este movimento. 

Tradução: Marco Aurélio Weissheimer

Postado no site Carta Maior em 11/11/2013
Vídeos inseridos por mim




2001 Uma odisseia no espaço : o computador Hal 9000 assume o controle 

2001 Uma odisseia no espaço : o computador Hal 9000 precisa ser desativado para que o protagonista do filme reassuma o controle


Nenhum comentário :

Postar um comentário

Related Posts Plugin for WordPress, Blogger...
"