- Vitalik Buterin destacou riscos específicos de AGI, pedindo soluções direcionadas para adoção segura de tecnologia.
- O cofundador da Ethereum defendeu a descentralização e a autocustódia para proteger os ecossistemas criptográficos e de IA.
O lançamento do modelo mais recente da OpenAI, O3, reacendeu as discussões em torno da busca pela Inteligência Geral Artificial (AGI).
Com uma pontuação impressionante de 87,5% no benchmark ARC-AGI – uma métrica chave para avaliar o progresso em direção à inteligência geral – o O3 marca um avanço significativo no desenvolvimento da IA.
No entanto, juntamente com o entusiasmo, persistem preocupações sobre os riscos potenciais que a AGI pode representar se ultrapassar as capacidades cognitivas humanas.
Buterin sobre os riscos potenciais da AGI
Comentando sobre o mesmo, Ethereum [ETH] o cofundador Vitalik Buterin compartilhou recentemente sua perspectiva sobre os riscos potenciais associados à AGI.
Postando no X, Buterin oferecido informações valiosas sobre como a IA poderia evoluir para alcançar escalabilidade e adoção generalizada.
Ele enfatizou a importância de enfrentar os desafios significativos que a AGI pode trazer à medida que se torna mais integrada nas aplicações convencionais.
Ele observou,
Fonte: Vitalik Buterin/X
Aqui, Buterin argumentou contra a visão da AGI como uma entidade abstrata imparável, defendendo, em vez disso, um foco em vetores de ataque específicos.
Ele destacou ainda os riscos potenciais.
Isso inclui a exploração de vulnerabilidades de software pela AGI, a disseminação de informações erradas para manipular humanos, a implantação de agentes biológicos digitais, a tomada de controle de infraestrutura física ou a superação total da inteligência humana.
Como tudo isso começou?
Para contextualizar, suas observações vieram em resposta a Observações de Balaji sobre o ritmo acelerado dos avanços tecnológicos, gerando discussões mais profundas sobre as implicações do desenvolvimento da AGI.
No mesmo tópico, Buterin destacado que a criptomoeda é “apenas uma parte de uma história maior”. Ele enfatizou a sua interligação com estratégias mais amplas de crescimento e desenvolvimento.
O executivo também compartilhou um diagrama intrincado contrastando o “mundo dos átomos” físico com o “mundo dos bits” digital, ilustrando a interação entre esses domínios.
Fonte: Vitalik Buterin/X
O que mais?
Buterin também destacou a importância de garantir a segurança das tecnologias emergentes. O executivo destacou que a autocustódia “não é o resultado padrão no atual ecossistema criptográfico”.
Além disso, ele enfatizou os riscos do controle centralizado nos ecossistemas criptográficos e de IA. Os usuários geralmente dependem de entidades centralizadas como exchanges, o que pode levar a vulnerabilidades como hacks e má gestão.
Destacando os perigos representados por atores maliciosos, incluindo golpistas que utilizam ferramentas como o bot de IA de Elon Musk, Buterin defendeu uma estrutura descentralizada.
Isso destacou que tO cofundador prevê uma Internet das Coisas Artificial onde as chaves privadas dão aos usuários controle total, reduzindo possíveis ataques a tecnologias como casas inteligentes.
Portanto, concluindo com um apelo decisivo à ação, Buterin enfatizou como a adoção generalizada neste caso é possível e disse:
“Temos que nos esforçar explicitamente para isso.”
