Leopold Aschenbrenner, que já foi pesquisador de segurança na OpenAI, escreveu recentemente um manifesto projetando a trajetória futura da inteligência artificial.
Sua exposição detalhada, “Consciência Situacional: A Década à Frente”, investiga a próxima era da AGI. Ele acredita que a AGI ultrapassará a inteligência humana até 2027.
A “explosão de inteligência” tem um impacto profundo na segurança nacional e na dinâmica do poder global, apresentando implicações significativas. Altera fundamentalmente a forma como as nações irão interagir e competir.
Aschenbrenner observa o duplo impacto da AGI: impulsionar as economias através de avanços tecnológicos e arriscar o controlo autoritário através da vigilância em massa.
Ele alerta que os primeiros países a aproveitar a AGI poderão obter vantagens militares e económicas sem precedentes.
Ele sugere que a superinteligência será em breve uma pedra angular das estratégias de defesa nacional.
Consequentemente, ele apela aos EUA para que priorizem o desenvolvimento da AGI como uma questão de segurança nacional.
Ele prevê uma iniciativa liderada pelo governo semelhante a projectos históricos de imensa escala e ambição.
A urgência de desenvolver medidas de segurança robustas para proteger os avanços da IA contra a espionagem internacional e a utilização indevida é um tema recorrente na análise de Aschenbrenner.
Ele prevê desafios de segurança significativos à medida que as nações lutam para garantir recursos para o desenvolvimento da AGI, potencialmente levando a tensões geopolíticas.
Como tal, ele defende regulamentações internacionais rigorosas e diretrizes éticas para garantir o desenvolvimento seguro e equitativo da IA em todo o mundo.
O manifesto de Aschenbrenner gerou discussões dentro e fora da comunidade tecnológica.
Reflete uma compreensão crescente do impacto transformador – e potencialmente perturbador – da AGI na sociedade e nas relações internacionais.
As suas ideias estão a contribuir para um diálogo essencial sobre como a humanidade pode navegar pelas promessas e perigos desta era que se aproxima.
Em suma, o objetivo é aproveitar o potencial da AGI, salvaguardando simultaneamente os valores e as liberdades humanas.