ÉTopSaber Notícias e Criptomoedas

Redes sociais

Notas de Davos: 10 coisas que você deve saber sobre IA

Davos Ai.jpg

Compartilhe:

A seguir está uma postagem de convidado de John deVadoss.

Davos em janeiro de 2024 foi sobre um tema – IA.

Os fornecedores estavam vendendo IA; os estados soberanos divulgavam a sua infra-estrutura de IA; intergovernamental as organizações estavam a deliberar sobre as implicações regulamentares da IA; os chefes corporativos estavam exaltando a promessa da IA; titãs políticos debatiam as conotações de segurança nacional da IA; e quase todo mundo que você conheceu no calçadão principal estava falando eloqüentemente IA.

E, no entanto, havia uma corrente de hesitação: seria este o verdadeiro negócio? Aqui estão 10 coisas que você deve saber sobre IA – o bom, o ruim e o feio – coletadas de algumas de minhas apresentações no mês passado em Davos.

  1. O termo preciso é IA “generativa”. Por que “generativo”? Embora as ondas anteriores de inovação em IA se baseassem todas na aprendizagem de padrões a partir de conjuntos de dados e na capacidade de reconhecer esses padrões na classificação de novos dados de entrada, esta onda de inovação baseia-se na aprendizagem de grandes modelos (também conhecidos como “coleções de padrões”). e ser capaz de usar esses modelos para gerar texto, vídeo, áudio e outros conteúdos de forma criativa.
  2. Não, a IA generativa não é alucinante. Quando grandes modelos previamente treinados são solicitados a criar conteúdo, eles nem sempre contêm padrões totalmente completos para direcionar a geração; nos casos em que os padrões aprendidos são apenas parcialmente formados, os modelos não têm outra escolha senão “preencher as lacunas”, resultando no que observamos como as chamadas alucinações.
  3. Como alguns de vocês devem ter observado, os resultados gerados não são necessariamente repetíveis. Por que? Porque a geração de novos conteúdos a partir de padrões parcialmente aprendidos envolve alguma aleatoriedade e é essencialmente uma atividade estocástica, o que é uma forma elegante de dizer que os resultados generativos da IA ​​não são determinísticos.
  4. A geração não determinística de conteúdo, de fato, prepara o terreno para a proposta de valor central na aplicação de IA generativa. O ponto ideal para uso está em casos de uso em que a criatividade está envolvida; se não houver necessidade ou exigência de criatividade, então o cenário provavelmente não será apropriado para IA generativa. Use isso como um teste decisivo.
  5. A criatividade nos pequenos proporciona níveis muito elevados de precisão; o uso de IA generativa na área de desenvolvimento de software para emitir código que é então utilizado por um desenvolvedor é um ótimo exemplo. A criatividade em grande escala força os modelos generativos de IA a preencher lacunas muito grandes; é por isso que, por exemplo, você tende a ver citações falsas quando pede para escrever um artigo de pesquisa.
  6. Em geral, a metáfora para a IA generativa em geral é o Oráculo da Delphi. As declarações oraculares eram ambíguas; da mesma forma, os resultados generativos da IA ​​podem não ser necessariamente verificáveis. Faça perguntas sobre IA generativa; não delegue ações transacionais à IA generativa. Na verdade, esta metáfora vai muito além da IA ​​generativa, abrangendo toda a IA.
  7. Paradoxalmente, os modelos generativos de IA podem desempenhar um papel muito significativo nos domínios da ciência e da engenharia, embora estes não estejam tipicamente associados à criatividade artística. A chave aqui é emparelhar um modelo de IA generativo com um ou mais validadores externos que servem para filtrar os resultados do modelo, e para o modelo usar esses resultados verificados como novas entradas imediatas para os ciclos subsequentes de criatividade, até que o sistema combinado produza o resultado desejado.
  8. O amplo uso de IA generativa no local de trabalho levará a uma Grande Divisão moderna; entre aqueles que usam a IA generativa para melhorar exponencialmente a sua criatividade e os seus resultados, e aqueles que abdicam do seu processo de pensamento para a IA generativa, e gradualmente tornam-se marginalizados e inevitavelmente dispensados.
  9. Os chamados modelos públicos estão em sua maioria contaminados. Qualquer modelo que tenha sido treinado na Internet pública foi, por extensão, treinado no conteúdo das extremidades da web, incluindo a dark web e muito mais. Isto tem graves implicações: uma é que os modelos provavelmente foram treinados em conteúdo ilegal, e a segunda é que os modelos provavelmente foram infiltrados por conteúdo de cavalo de Tróia.
  10. A noção de barreiras de proteção para IA generativa é fatalmente falha. Conforme afirmado no ponto anterior, quando os modelos estão contaminados, quase sempre há maneiras de incitar criativamente os modelos a contornar os chamados guarda-corpos. Precisamos de uma abordagem melhor; uma abordagem mais segura; aquele que leva à confiança do público na IA generativa.

Ao testemunharmos o uso e o mau uso da IA ​​generativa, é imperativo olhar para dentro e lembrar-nos que a IA é uma ferramenta, nem mais, nem menos, e, olhando para o futuro, garantir que moldamos adequadamente as nossas ferramentas, para que os nossos ferramentas nos moldam.

A postagem Notas de Davos: 10 coisas que você deve saber sobre IA apareceu primeiro em CriptoSlate.

Fonte

Leave a Comment