A seguir está uma postagem de convidado de John deVadoss.
Davos em janeiro de 2024 foi sobre um tema – IA.
Os fornecedores estavam vendendo IA; os estados soberanos divulgavam a sua infra-estrutura de IA; intergovernamental as organizações estavam a deliberar sobre as implicações regulamentares da IA; os chefes corporativos estavam exaltando a promessa da IA; titãs políticos debatiam as conotações de segurança nacional da IA; e quase todo mundo que você conheceu no calçadão principal estava falando eloqüentemente IA.
E, no entanto, havia uma corrente de hesitação: seria este o verdadeiro negócio? Aqui estão 10 coisas que você deve saber sobre IA – o bom, o ruim e o feio – coletadas de algumas de minhas apresentações no mês passado em Davos.
- O termo preciso é IA “generativa”. Por que “generativo”? Embora as ondas anteriores de inovação em IA se baseassem todas na aprendizagem de padrões a partir de conjuntos de dados e na capacidade de reconhecer esses padrões na classificação de novos dados de entrada, esta onda de inovação baseia-se na aprendizagem de grandes modelos (também conhecidos como “coleções de padrões”). e ser capaz de usar esses modelos para gerar texto, vídeo, áudio e outros conteúdos de forma criativa.
- Não, a IA generativa não é alucinante. Quando grandes modelos previamente treinados são solicitados a criar conteúdo, eles nem sempre contêm padrões totalmente completos para direcionar a geração; nos casos em que os padrões aprendidos são apenas parcialmente formados, os modelos não têm outra escolha senão “preencher as lacunas”, resultando no que observamos como as chamadas alucinações.
- Como alguns de vocês devem ter observado, os resultados gerados não são necessariamente repetíveis. Por que? Porque a geração de novos conteúdos a partir de padrões parcialmente aprendidos envolve alguma aleatoriedade e é essencialmente uma atividade estocástica, o que é uma forma elegante de dizer que os resultados generativos da IA não são determinísticos.
- A geração não determinística de conteúdo, de fato, prepara o terreno para a proposta de valor central na aplicação de IA generativa. O ponto ideal para uso está em casos de uso em que a criatividade está envolvida; se não houver necessidade ou exigência de criatividade, então o cenário provavelmente não será apropriado para IA generativa. Use isso como um teste decisivo.
- A criatividade nos pequenos proporciona níveis muito elevados de precisão; o uso de IA generativa na área de desenvolvimento de software para emitir código que é então utilizado por um desenvolvedor é um ótimo exemplo. A criatividade em grande escala força os modelos generativos de IA a preencher lacunas muito grandes; é por isso que, por exemplo, você tende a ver citações falsas quando pede para escrever um artigo de pesquisa.
- Em geral, a metáfora para a IA generativa em geral é o Oráculo da Delphi. As declarações oraculares eram ambíguas; da mesma forma, os resultados generativos da IA podem não ser necessariamente verificáveis. Faça perguntas sobre IA generativa; não delegue ações transacionais à IA generativa. Na verdade, esta metáfora vai muito além da IA generativa, abrangendo toda a IA.
- Paradoxalmente, os modelos generativos de IA podem desempenhar um papel muito significativo nos domínios da ciência e da engenharia, embora estes não estejam tipicamente associados à criatividade artística. A chave aqui é emparelhar um modelo de IA generativo com um ou mais validadores externos que servem para filtrar os resultados do modelo, e para o modelo usar esses resultados verificados como novas entradas imediatas para os ciclos subsequentes de criatividade, até que o sistema combinado produza o resultado desejado.
- O amplo uso de IA generativa no local de trabalho levará a uma Grande Divisão moderna; entre aqueles que usam a IA generativa para melhorar exponencialmente a sua criatividade e os seus resultados, e aqueles que abdicam do seu processo de pensamento para a IA generativa, e gradualmente tornam-se marginalizados e inevitavelmente dispensados.
- Os chamados modelos públicos estão em sua maioria contaminados. Qualquer modelo que tenha sido treinado na Internet pública foi, por extensão, treinado no conteúdo das extremidades da web, incluindo a dark web e muito mais. Isto tem graves implicações: uma é que os modelos provavelmente foram treinados em conteúdo ilegal, e a segunda é que os modelos provavelmente foram infiltrados por conteúdo de cavalo de Tróia.
- A noção de barreiras de proteção para IA generativa é fatalmente falha. Conforme afirmado no ponto anterior, quando os modelos estão contaminados, quase sempre há maneiras de incitar criativamente os modelos a contornar os chamados guarda-corpos. Precisamos de uma abordagem melhor; uma abordagem mais segura; aquele que leva à confiança do público na IA generativa.
Ao testemunharmos o uso e o mau uso da IA generativa, é imperativo olhar para dentro e lembrar-nos que a IA é uma ferramenta, nem mais, nem menos, e, olhando para o futuro, garantir que moldamos adequadamente as nossas ferramentas, para que os nossos ferramentas nos moldam.
A postagem Notas de Davos: 10 coisas que você deve saber sobre IA apareceu primeiro em CriptoSlate.
