A raça humana

Bostrom acredita que entramos em uma nova era tecnológica capaz de ameaçar nosso futuro de uma forma nunca vista antes. Estas são "ameaças que não temos qualquer registro de haver sobrevivido".

O diretor do instituto compara as ameaças existentes a uma arma perigosa nas mãos de uma criança. Ele diz que o avanço tecnológico superou nossa capacidade de controlar as possíveis consequências.

Experimentos em áreas como biologia sintética, nanotecnologia e inteligência artificial estão avançando para dentro do território do não intencional e do imprevisível.

Em termos de riscos biológicos, ele se preocupa com boas intenções mal aplicadas, como experimentos visando promover modificações genéticas e desmantelar e reconstruir estruturas dos genes.

O pesquisador Daniel Dewey, também do instituto, fala de uma "explosão de inteligência", em que o poder de aceleração de computadores se tornaria menos previsível e menos controlável.

"A inteligência artificial é uma das tecnologias que deposita mais e mais poder em pacotes cada vez menores", afirma o perito americano, um especialista em super inteligência artificial que trabalhou anteriormente no Google.