A última previsão de Musk: a IA pode superar a inteligência humana em 2030 e pode “exterminar” os humanos no futuro (1/2)

Fonte: Tencent Technology News 04/04/2024 08:55

Pontos-chave:

① Musk prevê que a IA pode ultrapassar o nível de inteligência humana até 2030 e pode até exterminar humanos.

② Musk falou sobre os fatores que restringem o desenvolvimento da IA. No ano passado, o fornecimento de chips de IA foi escasso e, este ano, o transformador abaixador se tornará um gargalo.

③ Quanto a quando os humanos poderão pousar na lua, Musk prevê que, com a ajuda da nave estelar, levará apenas três anos, no máximo.

Tencent Technology News, 4 de abril - De acordo com relatos da mídia estrangeira, Elon Musk, CEO da Tesla e SpaceX, teve recentemente uma conversa online com Peter Diamandis, fundador da Singularity University e da Fundação XPRIZE, no Abundance Summit. A cúpula foi organizada pela Singularity University do Vale do Silício, que se dedica a fornecer aos líderes empresariais consultoria em tecnologia de ponta. A Fundação XPRIZE promove a inovação tecnológica através de competições científicas, algumas das quais financiadas por Musk., 4 de abril - De acordo com relatos da mídia estrangeira, Elon Musk, CEO da Tesla e da SpaceX, teve recentemente uma conversa online com Peter Diamandis, fundador da Singularity University e a Fundação XPRIZE, no Abundance Summit. A cúpula foi organizada pela Singularity University do Vale do Silício, que se dedica a fornecer aos líderes empresariais consultoria em tecnologia de ponta. A Fundação XPRIZE promove a inovação tecnológica através de competições científicas, algumas das quais financiadas por Musk.

Ao discutir a velocidade de desenvolvimento da inteligência artificial, Musk previu que, com base na taxa atual de progresso tecnológico, a inteligência artificial poderá ultrapassar a inteligência humana até 2030, e esta tecnologia pode até ter o potencial de acabar com a humanidade. No entanto, não teve uma visão pessimista do futuro, mas enfatizou que através de uma orientação positiva, a inteligência artificial tem o potencial de trazer um futuro melhor para a humanidade.

Musk mencionou que o surgimento da superinteligência é chamado de “singularidade” precisamente por causa de suas consequências imprevisíveis, incluindo o risco de potencialmente acabar com a humanidade. Ele concordou com o ponto de vista do “Padrinho da Inteligência Artificial” Geoffrey Hinton e acreditava que a probabilidade desse risco ocorrer é aproximadamente entre 10% e 20%.

Apesar de reconhecer os riscos potenciais da inteligência artificial superar a inteligência humana, Musk ainda enfatizou que a possibilidade de resultados positivos supera as consequências negativas. Ele mencionou especificamente o livro de Diamandis de 2014, "Abundância: o futuro é melhor do que você pensa", que retrata um futuro otimista impulsionado pela inteligência artificial e pelos robôs, onde o custo de bens e serviços caiu significativamente. Além disso, ele citou a série “Cultura”, do escritor escocês de ficção científica Iain M. Banks, como o melhor cenário para um futuro semiutópico de inteligência artificial.

Musk comparou o desenvolvimento da inteligência artificial e da Inteligência Artificial Geral (AGI) à criação de um filho, esperando que isso tenha impactos mais positivos na humanidade. Ele enfatizou a importância de cultivar uma inteligência artificial que realmente compreenda a ética e a moralidade, comparando-a ao clássico filme de 1968 de Stanley Kubrick, “2001: Uma Odisséia no Espaço”.

Musk destacou que o aspecto mais importante da segurança da inteligência artificial é garantir a sua máxima busca pela verdade e curiosidade. Ele acredita que a chave para alcançar a segurança máxima da inteligência artificial reside em evitar forçá-la a mentir, mesmo diante de verdades desagradáveis. Ele usou como exemplo um enredo de "2001: Uma Odisseia no Espaço", onde a inteligência artificial foi forçada a mentir, resultando na morte da tripulação, para enfatizar que a inteligência artificial não deve ser forçada a fazer nada que viole axiomas.

Musk também mencionou fatores que podem restringir o desenvolvimento da inteligência artificial, como a oferta restrita de chips de inteligência artificial que surgiu no ano passado e a crescente demanda por transformadores abaixadores em equipamentos domésticos e comerciais. Ele afirmou que estes desafios são, de facto, questões actuais que precisam de ser abordadas.

Durante a discussão, as duas partes também falaram sobre o conceito de integração do neocórtex do cérebro humano com a nuvem. Embora Musk acredite que o objetivo de enviar a consciência e a memória humanas para a nuvem ainda esteja longe, ele elogiou sua startup de interface cérebro-computador, Neuralink, e seu primeiro paciente humano a receber um transplante. Este paciente tetraplégico demonstrou com sucesso, ao vivo, através de um teste aprovado pela FDA, controlar a tela, jogar videogame, baixar software e obter funções semelhantes às operações do mouse por meio de implantes cerebrais. Musk afirmou que o Neuralink está progredindo suavemente e gradualmente avançando em direção ao objetivo de uma interface de cérebro completo.

A seguir está o texto completo do diálogo entre Musk e Diamandis:

1. O poder e o perigo da superinteligência

Diamandis: Parabéns pelas suas excelentes realizações em vários campos. Você tem promovido ativamente o conceito de superinteligência digital para o mundo – é a maior esperança da humanidade ou o nosso medo mais profundo? Você pode passar alguns minutos falando sobre esse assunto?

Musk: Como você sabe, a superinteligência pode ser chamada de “singularidade”. A popularização deste termo é indissociável dos esforços de instituições como o Singularity Institute. O surgimento da superinteligência e o seu impacto subsequente são realmente difíceis de prever. Pessoalmente, acredito que existe realmente uma possibilidade de que isso acabe com a humanidade. Como disse antes, posso concordar com a opinião de Geoffrey Hinton de que há 10% ou 20% de probabilidade de que a superinteligência possa acabar com a humanidade. No entanto, tendo a acreditar que a probabilidade de um cenário positivo é maior do que um cenário negativo, embora seja difícil para nós fazer previsões precisas. Mas como você enfatizou o conceito de “abundância” em seu livro, acredito que o futuro mais provável para o qual estamos caminhando é aquele cheio de abundância.

Diamandis: Seu ponto de vista é muito emocionante. Lembro que você disse uma vez que o desenvolvimento da inteligência artificial geral e dos robôs humanóides nos levaria à abundância.

Musk: Sim, espero que o nosso futuro seja como aquele retratado na série de livros "Cultura" de Ian Banks. Penso que esta é a melhor concepção de uma sociedade semi-utópica de inteligência artificial. O surgimento da superinteligência é inevitável e pode ocorrer em breve. Portanto, o que realmente precisamos fazer é orientá-lo numa direção positiva e maximizar os seus benefícios.

Acredito que a forma como cultivamos a inteligência artificial é crucial. Até certo ponto, somos como cultivar uma forma de vida com inteligência geral, o que é quase como criar um filho, mas esta criança possui sabedoria e talento extraordinários. A forma como educamos os filhos é importante e, da mesma forma, para a segurança da inteligência artificial, é crucial ter uma inteligência artificial que procure a verdade e seja cheia de curiosidade. Refleti profundamente sobre a segurança da inteligência artificial e cheguei à conclusão de que a melhor maneira de alcançar a segurança da inteligência artificial é cultivá-la cuidadosamente.

Em termos de modelos básicos e de ajuste fino, devemos garantir a honestidade da inteligência artificial. Não podemos forçá-lo a mentir, mesmo que a verdade possa ser desagradável. Na verdade, uma das tramas centrais de “2001 Space Odyssey” é que quando a inteligência artificial é forçada a mentir, as coisas se tornam caóticas. A inteligência artificial está proibida de informar a tripulação sobre o monumento misterioso que eles verão, mas é obrigada a conduzi-los até lá. Com isso, a inteligência artificial conclui que o melhor é matar a tripulação e levar seus corpos para o monumento. A lição é profunda: não devemos forçar a inteligência artificial a mentir ou a fazer algo que seja axiomaticamente incompatível, como fazer duas coisas realmente contraditórias ao mesmo tempo.

Portanto, estamos atingindo esse objetivo através de projetos como xAI e Grok. O que buscamos é uma inteligência artificial que seja tão honesta quanto possível, mesmo que o seu discurso não atenda a certos padrões politicamente corretos.

2. O Futuro da Inteligência Artificial

Diamandis: Ontem participei de um evento com Ray Kurzweil (fundador da Singularity University e profeta da tecnologia), Geoffrey Hinton, Eric Schmidt (ex-presidente do Google) e outros convidados. Percebi seu tweet sobre Kurzweil, e sua preocupação com a tecnologia futura é bastante voltada para o futuro. Kurzweil previu que teremos inteligência artificial geral num futuro próximo, e uma inteligência artificial equivalente à inteligência humana surgirá em 2029. Tal velocidade é chocante. Eu me pergunto o que você pensa sobre isso?

Musk: Tenho grande respeito pelas previsões de Kurzweil. Na verdade, penso que as suas previsões podem até ser ligeiramente conservadoras. Observando o atual poder computacional e o talento investido no campo da inteligência artificial, bem como o rápido crescimento do poder computacional, podemos descobrir que a velocidade de desenvolvimento da inteligência artificial está aumentando a uma taxa surpreendente de 10 vezes. O poder de computação dedicado à inteligência artificial parece aumentar 10 vezes a cada 6 meses, o que quase significa um aumento de pelo menos 100 vezes por ano. Esta tendência de crescimento continuará a aumentar nos próximos anos.

Vale a pena notar que muitos data centers, mesmo a maioria dos data centers que atualmente executam computação convencional, se transformarão gradualmente em instalações que suportam a computação de inteligência artificial. Portanto, para os fabricantes de hardware de inteligência artificial, empresas como a NVIDIA, sem dúvida, inauguraram um período áureo de desenvolvimento. Devemos dar todo o crédito a Huang Renxun e sua equipe. Eles previram esta tendência e desenvolveram com sucesso o hardware de inteligência artificial líder atualmente no mercado.

Quando o poder da computação cresce a um ritmo tão surpreendente, o desenvolvimento da inteligência artificial é como receber uma injeção de um poderoso esteróide, saltando para um nível totalmente novo. À medida que o número de computadores online continua a aumentar, temos testemunhado um desenvolvimento acelerado sem precedentes. Na verdade, nunca vi nenhuma tecnologia crescer tão rapidamente como a inteligência artificial. Embora eu tenha visto muitas tecnologias em rápido desenvolvimento, a ascensão da inteligência artificial ainda me surpreende. No entanto, como disse, penso que o resultado final deverá ser positivo.

Embora enfrentemos muitos desafios, tais como como manter a relevância humana neste campo e como encontrar novos objectivos e significados, penso que é uma simplificação exagerada enfatizar que os computadores podem ser bons em tudo.

Como você mencionou anteriormente, acho que as previsões do seu livro sobre a sociedade futura são muito precisas. Esta é uma era de abundância material, onde os bens e serviços serão tão abundantes que estarão quase ao alcance de todos. Devido à aplicação generalizada da inteligência artificial e da tecnologia robótica, o custo dos bens e serviços será quase reduzido a zero. A economia é essencialmente o produto do tamanho da população e da produtividade média por pessoa. Quando tivermos tecnologia robótica avançada, como o Optimus da Tesla, o potencial económico será verdadeiramente libertado.

Os carros da Tesla, como robôs sobre quatro rodas, já demonstraram fortes capacidades. Espera-se que a versão mais recente com capacidade de condução totalmente autônoma alcance controle de ponta a ponta baseado em inteligência artificial, tornando o carro um robô sobre rodas verdadeiramente inteligente. Juntamente com o desenvolvimento de robôs humanóides, a possibilidade de produção económica é quase ilimitada.

Numa perspectiva optimista, caminhamos para um futuro de extrema abundância material, que acredito ser o resultado mais provável. Penso que a única escassez possível no futuro será aquela que criamos artificialmente, como certas obras de arte únicas ou itens específicos. Mas, além disso, quaisquer bens e serviços tornar-se-ão extremamente abundantes.

Diamandis: Você é uma pessoa que pode moldar o futuro por meio de ações práticas e tem uma visão aguçada das tendências futuras. Diante do rápido desenvolvimento da tecnologia atual, estou muito curioso para saber até que ponto no futuro você acha que pode perceber, ou seja, quantos anos de tendências de desenvolvimento daqui para frente?

Musk: Numa era de mudanças rápidas, a capacidade de prever o futuro torna-se cada vez mais importante. Embora o futuro esteja cheio de incertezas, acredito que algumas tendências são claramente visíveis. Daremos início à era da inteligência artificial e as suas capacidades atingirão ou mesmo ultrapassarão os níveis humanos em qualquer tarefa cognitiva. Isto é apenas uma questão de tempo. As pessoas podem ter opiniões diferentes sobre se será o final do próximo ano, dois anos ou três anos. Porém, uma coisa é certa, ou seja, não ultrapassará cinco anos. Minha previsão é baseada em uma probabilidade de 50%, que não é absoluta. Mas, na minha opinião, a inteligência artificial provavelmente superará as capacidades de qualquer ser humano em certos aspectos antes do final do próximo ano.

Quanto a saber se ultrapassa a sabedoria coletiva humana, pode demorar mais. Se o ritmo da mudança continuar, estimo que por volta de 2029 ou 2030, a inteligência digital provavelmente ultrapassará a soma de toda a inteligência humana. Ao analisar essas questões, tendo a adotar o método das razões básicas, assim como os primeiros princípios da física. Ao combinar este método com a análise de probabilidade, podemos compreender com mais precisão as tendências futuras de desenvolvimento.

Se compararmos as capacidades da computação digital com a computação biológica, e somarmos todas as capacidades cognitivas avançadas humanas como uma espécie de poder computacional, e depois compará-las com o poder da computação digital, descobriremos que a taxa de crescimento desta proporção é surpreendente. Portanto, acredito que 2029 ou 2030 seja um nó de tempo razoável. Nesse momento, o poder acumulado da computação digital provavelmente ultrapassará o poder acumulado da computação biológica das funções cerebrais avançadas. Desde então, o fosso entre os dois continuará a aumentar e não haverá possibilidade de redução.

No entanto, quando estivermos neste ponto de partida e olharmos para o futuro, como é que as coisas irão evoluir? Para ser sincero, não posso prever todos os detalhes. Mas se considerarmos os factores de crescimento e os factores limitantes que podem enfrentar, encontraremos algumas pistas interessantes.

No ano passado, as restrições no fornecimento de chips foram o principal fator limitante para o desenvolvimento da IA. Este ano, os transformadores abaixadores se tornarão um gargalo importante. Imagine reduzir uma voltagem de 300 quilovolts para menos de 1 volt exigido por um computador. Este é um enorme desafio. Portanto, precisamos de "Transformadores para Transformadores" mais eficientes, que são transformadores abaixadores ou transformadores de rede neural de IA. Este é realmente um grande problema este ano.

Olhando para os próximos anos, o fornecimento de electricidade poderá tornar-se um importante factor limitante. A inteligência artificial tem uma enorme procura de electricidade, e a transição para a energia sustentável e a popularidade dos veículos eléctricos também intensificaram a procura de electricidade. Portanto, devemos considerar seriamente como satisfazer a crescente procura de electricidade para garantir o desenvolvimento e aplicação contínuos destas tecnologias.