Máquinas inteligentes irão à guerra antes de saber diferenciar civis de terroristas, diz o cientista inglês
Peter Moon
O britânico Noel Sharkey teme pelo futuro da humanidade. Pesquisador de robótica da Universidade de Sheffield, em Londres, Sharkey acredita que as máquinas inteligentes chegarão ao campo de batalha sem estar prontas para o desafio. Das 4 mil máquinas voadoras e terrestres em ação no Iraque e no Afeganistão, todas, sem exceção, são controladas a distância por um operador. O próximo passo é a liberdade total para que decidam sozinhas o que fazer. “Elas têm a mira infalível, mas ainda falta inteligência para guerrear por conta própria”, diz.
Peter Moon – Quais as conseqüências dessa nova corrida armamentista?
Noel Sharkey – Um clima de competição poderá levar a um desenvolvimento mais rápido do uso de robôs matadores autônomos, o que vai elevar enormemente o risco à vida de pessoas inocentes ao redor do mundo e aumentar o perigo de erros trágicos.
Moon – Os robôs usados pelo Pentágono servem para patrulhar cidades, desarmar explosivos e fazer vôos de reconhecimento. Qual é o próximo passo?
Sharkey – Já existem pelo menos quatro robôs carregando armas no Iraque, mas em todos os casos existe um ser humano comandando a máquina a distância e decidindo sobre a aplicação da força letal. Existe uma grande determinação entre os militares americanos de operar o mais rápido possível robôs totalmente autônomos que não terão um humano no comando.
Moon – Isso vai acontecer?
Sharkey – Isso não vai desembocar no cenário de O Exterminador do Futuro. O exterminador era um robô altamente inteligente. Os robôs atuais não são tão espertos. Eles têm a mira infalível, mas ainda falta inteligência para guerrear por conta própria. É aí que reside o problema. Daí minha preocupação com a segurança. Nas mãos de estranhos, eles vão matar inocentes.
Moon – Há outros riscos?
Sharkey – O problema é que não poderemos colocar o gênio de volta na lâmpada. Uma vez que as novas armas passarem a existir, será relativamente fácil copiá-las. Com a queda dramática no custo da construção de robôs (alguns, de guerra, custam US$ 400) e a disponibilidade de componentes em qualquer loja de eletrônicos, quanto tempo vai levar antes que terroristas comecem a construir seus próprios robôs? Por isso, é urgente a necessidade de a comunidade internacional avaliar os riscos potenciais dessas novas armas.
Moon – Não apenas os americanos, mas o Reino Unido, a França, a Rússia, a China e Israel estão desenvolvendo veículos não-tripulados de combate aéreo. O próximo passo será substituir os pilotos de combate por computadores?
Sharkey – Sim. Em dezembro, o vice-diretor para Sistemas Aéreos Não-Tripulados do Departamento de Defesa dos Estados Unidos disse que “não há nenhuma chance de uma máquina controlada a distância operar em um combate aéreo ofensivo ou defensivo. Ele tem de ser um sistema completamente autônomo”. Mas pode levar até 20 anos para que isso se torne realidade, embora possa acontecer muito mais cedo se a tecnologia estiver pronta.
Moon – O senhor acha que a máquina poderá se tornar mais inteligente que o homem?
Sharkey – Não sei, mas não tenho nenhum motivo para acreditar que isso possa acontecer. Os pesquisadores de inteligência artificial prevêem a iminência do surgimento de máquinas inteligentes desde 1956. Eu sou um cientista e ainda não vi nenhuma evidência disso. Talvez seja correto o que Herbert Dreyfus, da Universidade Berkeley, afirmou em 1972 em seu livro What Computers Can’t Do?. Ele diz que “os pesquisadores de inteligência artificial estão escalando uma árvore pensando que um dia vão chegar à Lua”.
Moon – Em maio de 1997, o supercomputador Deep Blue, da IBM, venceu um torneio contra o campeão mundial de xadrez Garry Kasparov. A derrota do homem é uma prova de que a máquina está se tornando inteligente?
Sharkey – Não, eu não acho. O problema com jogar xadrez foi um dos primeiros a ser encarado nos primórdios da inteligência artificial nos anos 50. O que mudou com o Deep Blue foi a tecnologia. A IBM usou maciça computação em paralelo para criar um programa de busca na memória realmente rápido. Isso significa que o Deep Blue podia efetuar buscas em um nível mais profundo que o do cérebro humano. Foi uma grande conquista da engenharia e um marco na história da inteligência artificial. Mas o feito do Deep Blue não foi uma demonstração de inteligência no mesmo sentido humano da inteligência. O que torna o xadrez tão simbólico é o fato de os humanos possuírem pouca capacidade de armazenamento rápido e de recuperação de memória em comparação com os computadores. Quando se usa um mecanismo de busca incrivelmente rápido com acesso ilimitado à memória, isso não é inteligência. Uma boa analogia é comparar a britadeira com a força humana. Não dizemos que uma britadeira é mais forte que um ser humano. Ela simplesmente multiplica nossa força física através do uso de vantagens mecânicas e de um motor potente.
Moon – O físico inglês Stephen Hawking defende a modificação genética de nossa espécie. A idéia é que, assim, poderíamos melhorar e nos manter tão inteligentes quanto as máquinas. O que o senhor acha disso?
Sharkey – Esse não é meu campo de especialidade, mas vejo muitos avanços científicos na área da biotecnologia e da genética, o que me leva a ter certeza de que o melhoramento genético do ser humano é plausível. Mas eu não me colocaria em favor de tal sugestão.
Moon – Por quê?
Sharkey – O que me preocupa é que essa possibilidade só estará disponível para os ricos, que obterão assim uma geração de superioridade. Os pobres não terão recursos para melhorar. Isso poderá levar à criação de uma nova elite e de um sistema de castas. Além do mais, se for possível melhorar as pessoas, também será possível piorá-las – o que pode ser usado com fins políticos.
Moon – O senhor acredita que poderemos expandir nossa civilização tecnológica ao mesmo tempo que salvaremos o mundo da fome, da superpopulação e da destruição ambiental?
Sharkey – Há dias em que sou otimista. Há dias em que sou pessimista. Eu realmente espero que possamos solucionar todos esses problemas. Uma coisa de que tenho certeza é que, se pegássemos todo o dinheiro e os recursos que estão sendo desperdiçados na criação de meios cada vez mais sofisticados de nos matar, teríamos condições de resolver todos esses problemas rapidamente.
Publicado originalmente em ÉPOCA, em 20/02/2009.
Peter Moon
O britânico Noel Sharkey teme pelo futuro da humanidade. Pesquisador de robótica da Universidade de Sheffield, em Londres, Sharkey acredita que as máquinas inteligentes chegarão ao campo de batalha sem estar prontas para o desafio. Das 4 mil máquinas voadoras e terrestres em ação no Iraque e no Afeganistão, todas, sem exceção, são controladas a distância por um operador. O próximo passo é a liberdade total para que decidam sozinhas o que fazer. “Elas têm a mira infalível, mas ainda falta inteligência para guerrear por conta própria”, diz.
Noel Sharkey – Um clima de competição poderá levar a um desenvolvimento mais rápido do uso de robôs matadores autônomos, o que vai elevar enormemente o risco à vida de pessoas inocentes ao redor do mundo e aumentar o perigo de erros trágicos.
Moon – Os robôs usados pelo Pentágono servem para patrulhar cidades, desarmar explosivos e fazer vôos de reconhecimento. Qual é o próximo passo?
Sharkey – Já existem pelo menos quatro robôs carregando armas no Iraque, mas em todos os casos existe um ser humano comandando a máquina a distância e decidindo sobre a aplicação da força letal. Existe uma grande determinação entre os militares americanos de operar o mais rápido possível robôs totalmente autônomos que não terão um humano no comando.
Moon – Isso vai acontecer?
Sharkey – Isso não vai desembocar no cenário de O Exterminador do Futuro. O exterminador era um robô altamente inteligente. Os robôs atuais não são tão espertos. Eles têm a mira infalível, mas ainda falta inteligência para guerrear por conta própria. É aí que reside o problema. Daí minha preocupação com a segurança. Nas mãos de estranhos, eles vão matar inocentes.
Moon – Há outros riscos?
Sharkey – O problema é que não poderemos colocar o gênio de volta na lâmpada. Uma vez que as novas armas passarem a existir, será relativamente fácil copiá-las. Com a queda dramática no custo da construção de robôs (alguns, de guerra, custam US$ 400) e a disponibilidade de componentes em qualquer loja de eletrônicos, quanto tempo vai levar antes que terroristas comecem a construir seus próprios robôs? Por isso, é urgente a necessidade de a comunidade internacional avaliar os riscos potenciais dessas novas armas.
Moon – Não apenas os americanos, mas o Reino Unido, a França, a Rússia, a China e Israel estão desenvolvendo veículos não-tripulados de combate aéreo. O próximo passo será substituir os pilotos de combate por computadores?
Sharkey – Sim. Em dezembro, o vice-diretor para Sistemas Aéreos Não-Tripulados do Departamento de Defesa dos Estados Unidos disse que “não há nenhuma chance de uma máquina controlada a distância operar em um combate aéreo ofensivo ou defensivo. Ele tem de ser um sistema completamente autônomo”. Mas pode levar até 20 anos para que isso se torne realidade, embora possa acontecer muito mais cedo se a tecnologia estiver pronta.
Moon – O senhor acha que a máquina poderá se tornar mais inteligente que o homem?
Sharkey – Não sei, mas não tenho nenhum motivo para acreditar que isso possa acontecer. Os pesquisadores de inteligência artificial prevêem a iminência do surgimento de máquinas inteligentes desde 1956. Eu sou um cientista e ainda não vi nenhuma evidência disso. Talvez seja correto o que Herbert Dreyfus, da Universidade Berkeley, afirmou em 1972 em seu livro What Computers Can’t Do?. Ele diz que “os pesquisadores de inteligência artificial estão escalando uma árvore pensando que um dia vão chegar à Lua”.
Moon – Em maio de 1997, o supercomputador Deep Blue, da IBM, venceu um torneio contra o campeão mundial de xadrez Garry Kasparov. A derrota do homem é uma prova de que a máquina está se tornando inteligente?
Sharkey – Não, eu não acho. O problema com jogar xadrez foi um dos primeiros a ser encarado nos primórdios da inteligência artificial nos anos 50. O que mudou com o Deep Blue foi a tecnologia. A IBM usou maciça computação em paralelo para criar um programa de busca na memória realmente rápido. Isso significa que o Deep Blue podia efetuar buscas em um nível mais profundo que o do cérebro humano. Foi uma grande conquista da engenharia e um marco na história da inteligência artificial. Mas o feito do Deep Blue não foi uma demonstração de inteligência no mesmo sentido humano da inteligência. O que torna o xadrez tão simbólico é o fato de os humanos possuírem pouca capacidade de armazenamento rápido e de recuperação de memória em comparação com os computadores. Quando se usa um mecanismo de busca incrivelmente rápido com acesso ilimitado à memória, isso não é inteligência. Uma boa analogia é comparar a britadeira com a força humana. Não dizemos que uma britadeira é mais forte que um ser humano. Ela simplesmente multiplica nossa força física através do uso de vantagens mecânicas e de um motor potente.
Moon – O físico inglês Stephen Hawking defende a modificação genética de nossa espécie. A idéia é que, assim, poderíamos melhorar e nos manter tão inteligentes quanto as máquinas. O que o senhor acha disso?
Sharkey – Esse não é meu campo de especialidade, mas vejo muitos avanços científicos na área da biotecnologia e da genética, o que me leva a ter certeza de que o melhoramento genético do ser humano é plausível. Mas eu não me colocaria em favor de tal sugestão.
Moon – Por quê?
Sharkey – O que me preocupa é que essa possibilidade só estará disponível para os ricos, que obterão assim uma geração de superioridade. Os pobres não terão recursos para melhorar. Isso poderá levar à criação de uma nova elite e de um sistema de castas. Além do mais, se for possível melhorar as pessoas, também será possível piorá-las – o que pode ser usado com fins políticos.
Moon – O senhor acredita que poderemos expandir nossa civilização tecnológica ao mesmo tempo que salvaremos o mundo da fome, da superpopulação e da destruição ambiental?
Sharkey – Há dias em que sou otimista. Há dias em que sou pessimista. Eu realmente espero que possamos solucionar todos esses problemas. Uma coisa de que tenho certeza é que, se pegássemos todo o dinheiro e os recursos que estão sendo desperdiçados na criação de meios cada vez mais sofisticados de nos matar, teríamos condições de resolver todos esses problemas rapidamente.
Publicado originalmente em ÉPOCA, em 20/02/2009.
Comentários
Postar um comentário