Os homens (e mulheres) por trás das máquinas: Dr. Sanjay Rajagopalan

Patrick Donachie | 05 de junho de 2023

Embora o Dr. Sanjay Rajagopalan esteja envolvido até o pescoço em IA generativa como diretor de design e estratégia da Vianai Systems, ele é um engenheiro por formação - começando sua carreira na Caterpillar, construindo sistemas de transmissão para grandes equipamentos de movimentação de terra.

Embora esse trabalho e o desenvolvimento de finserv AI possam parecer distantes, Rajagopalan acredita que inovações como o ChatGPT diminuíram a barreira para qualquer um experimentar o poder da IA, desde que esteja disposto a tentar.

Relacionado: Como a IA está ajudando os consultores financeiros agora?

"A melhor maneira de um profissional de produto alavancar esse poder recém-descoberto é colocar a mão na massa", disse ele. "O mínimo que você pode fazer é pular e experimentar, experimentar e tentar fazê-lo rapidamente para que funcione em sua área específica."

A última escavação de Vianai é hila, divulgando-a como o “primeiro assistente de bate-papo com IA” para profissionais financeiros. O Vianai está oferecendo acesso gratuito em sua fase de pesquisa, com cerca de 2.000 usuários em "várias profissões financeiras", segundo um porta-voz.

Relacionado: Hype ou não? Episódio 3: Inteligência Artificial

Dr. Vishal Sikka fundou a Vianai Systems em 2019, que atualmente conta com cerca de 110 funcionários espalhados pela Europa, Israel e Estados Unidos. Sikka foi ex-diretor da SAP, onde conheceu Rajagopalan. O relacionamento de Rajagopalan com os membros seniores da Vianai remonta a décadas, com um grupo central trabalhando continuamente em conjunto em diferentes empresas e contextos.

Embora os produtos da Vianai tenham sido lançados desde o início, hila é o primeiro lançado desde que o "tsunami" do ChatGPT atingiu o mundo e, embora a equipe reinventasse seus produtos antigos para incorporar a nova tecnologia, eles queriam ir além. Uma equipe de quatro pessoas passou de uma ideia "no papel" para hila a um protótipo funcional em semanas, de acordo com Rajagopalan.

"Queríamos começar algo completamente do zero e reimaginá-lo neste novo mundo, em vez de adaptá-lo a algo que foi construído no velho mundo", disse ele.

Um benefício de usar o hila em comparação com o ChatGPT é que o último é treinado em informações antes de novembro de 2022, mas os consultores precisam de informações mais atualizadas de chamadas de ganhos, notícias e documentos regulatórios. (Embora muitas empresas estejam agora cientes desse déficit, Rajagopalan disse que a Vianai estava na vanguarda para lidar com isso.)

Embora muitos fiquem impressionados com a capacidade da IA ​​generativa, os grandes sistemas de linguagem realmente apenas preveem a próxima palavra e, com um corpus tão grande de informações, o mundo mais provável também tende a fazer sentido, de acordo com Rajagopalan. Mas quando isso não funciona, pode falhar em grandes formas, conhecidas como "alucinações".

"Às vezes, saía dos trilhos, e saía dos trilhos com extrema confiança", disse Rajagopalan. "As pessoas fariam uma pergunta... e dariam uma resposta extremamente confiante que estava completamente errada. Agora você tem uma informação na qual pode ter que agir para tomar sua decisão de investimento. Isso é obviamente inaceitável."

hila reduz o número de alucinações para "quase zero", de acordo com Rajagopalan. Quando há apenas uma resposta correta, o modelo de hila simplesmente gera uma consulta ao banco de dados, permitindo que os usuários obtenham respostas específicas usando linguagem natural.

A ferramenta também permite que os usuários carreguem um documento e usem o hila para gerar uma resposta a partir dos dados incluídos nele em linguagem natural. Por exemplo, pode-se pedir a hila para resumir os pontos-chave em um longo relatório, o que não é possível com uma pesquisa por palavra-chave.

"A única maneira de fazer isso antes era pedir a outra pessoa", disse Rajagopalan. "Agora, você pode pedir ao sistema para resumir o documento para você, e ele pode fazer um bom trabalho."

Mais informações sobre formatos de texto