Ellen Loeshelle da Qualtrics: escolha sua IA com base no problema que você está tentando resolver

Jul 11, 2023

Em conjunto com o nossoArtigo Número do Mêssobre a disposição do consumidor em interagir com soluções baseadas em inteligência artificial (IA), No Jitter conversou comPara Ellen Loeshe,Qualtrics 'Diretor de Desenvolvimento de Produtos de IA. Ela compartilhou seus insights sobre uma variedade de tópicos de IA que são apresentados aqui em formato de perguntas e respostas.

NJ: Você pode falar sobre o ímpeto para passar do tipo de IA usado na categoria “conversacional” – processamento de linguagem natural (PNL) e compreensão de linguagem natural (NLU) – para IA generativa (Gen AI) e os grandes modelos de linguagem ( LLMs) que os alimentam?

Para Ellen Loeshe : PNL é realmente o termo abrangente para a utilidade desses algoritmos. LLMs são apenas um conjunto de ferramentas nesta caixa de ferramentas que usaríamos para processamento de linguagem natural ou compreensão de linguagem natural. Não os vejo como totalmente dicotômicos.

Quando você faz PNL, há vários tipos diferentes de ferramentas que você pode usar para entender, processar, interpretar, gerar linguagem – algumas tão simples quanto escrever regras ou expressões regulares ou outras coisas assim. Existem também recursos mais básicos de aprendizado de máquina que estão no mercado há muito tempo. E então você tem os modelos de aprendizagem profunda, os grandes modelos de linguagem, etc.

O que descobrimos com os grandes modelos de linguagem é que eles têm um desempenho realmente impressionante na geração de linguagem semelhante à humana - não é perfeito. Em primeiro lugar, nem sempre é preciso, mas parece o mais nativo de tudo que já vi.

Portanto, os LLMs estão proporcionando uma espécie de “salto em frente” em precisão, capacidade de identificação, etc., de que outras estratégias de PNL realmente não tiveram o mesmo impacto ou pelo menos geraram o mesmo tipo de entusiasmo. É um dos movimentos desde que estou no espaço que parece tectônico.

Mas ainda estamos no meio de um ciclo de hype. Estou sempre tentando expressar minhas próprias reações e as reações de todos os outros e dizer, ok, tecnologia à parte, qual é o burburinho e como podemos nos manter equilibrados com muito do que está acontecendo?

NJ: Ok, mas por que os LLMs têm um desempenho melhor do que as abordagens mais tradicionais da PNL?

Loeshelle : Muitos cientistas de dados não sabem realmente por que são tão melhores, mas a maior pista que temos até agora está na palavra grande. O tamanho dos conjuntos de treinamento para LLMs é muito maior do que qualquer outra coisa que usamos historicamente. Portanto, os LLMs têm mais prática, mais experiência com padrões de linguagem reais, em comparação com outras abordagens que usamos no passado, que eram baseadas em conjuntos de linguagens menores ou otimizadas para custo e não para desempenho. Ainda estamos naquele espaço estranho em que os LLMs têm, em muitos casos, um custo proibitivo para as empresas usarem ou construírem os seus próprios. Isso terá que mudar.

NJ: Há algum aprendizado de “tipos mais antigos” de IA que possa ser aplicado a esses casos de uso mais recentes?

Loeshelle : Totalmente. Eu estava até lendo um artigo interessante no fim de semana sobre o papel que as ontologias desempenham – você pode pensar em uma ontologia basicamente como uma taxonomia de termos ou conceitos e, muitas vezes, [essas taxonomias] são hierárquicas. Esses tipos de coisas podem informar um modelo generativo como entrada.

Portanto, sou muito apaixonado pelo fato de que não existe uma tecnologia que sirva para todas as pessoas. Devemos escolher o tipo de algoritmo com base no problema que estamos tentando resolver e também nas restrições de nosso negócio. O custo é obviamente enorme. Se eu não puder pagar, talvez não valha a pena os 2% extras de precisão. Talvez eu devesse usar algo que funcionou historicamente para mim antes.

Mas usá-los juntos geralmente, na minha opinião, produzirá um resultado melhor a uma taxa mais econômica. Minha filosofia aqui na Qualtrics é que a Gen AI é uma ferramenta que podemos aproveitar quando faz sentido e nos oferece vantagens únicas. Mas não é a única ferramenta. Não é algo que estamos fazendo apenas por fazer.