Novas funcionalidades LLM e ferramenta de criação de agentes são adicionadas às atualizações do Google Vertex AI.

Outras melhorias englobam a implementação de técnicas de aterramento e a introdução de agentes virtuais no Google Search por meio do Vertex AI e do construtor de agentes Vertex AI.

O Google apresentou na sua conferência anual do Google Cloud Next novos modelos de idiomas grandes (LLMs) e uma nova funcionalidade de construção de agentes em sua plataforma de IA e aprendizado de máquina Vertex AI.

O LLM apresenta uma demonstração do Gemini 1.5 Pro, que oferece suporte a um ambiente com 1 milhão de tokens.

A empresa afirmou que a ampliação do suporte para o contexto permite a análise natural de grandes conjuntos de dados relacionados a uma solicitação específica. Ela mencionou ter recebido feedback de empresas indicando que essa ampliação do suporte pode eliminar a necessidade de ajustes finos em modelos ou de geração aumentada de respostas para modelos existentes.

Além disso, o Gemini 1.5 Pro em Vertex AI terá a capacidade de processar áudio em tempo real, como fala e áudio de vídeos.

O Google afirmou que a capacidade de processamento de áudio oferece aos usuários uma análise abrangente, fornecendo informações em texto, imagens, vídeos e áudio.

O modelo Pro também terá suporte para transcrição, o que permitirá pesquisar o conteúdo de áudio e vídeo, de acordo com a empresa.

O provedor de serviços de nuvem lançou novas funcionalidades para sua linha de produtos Imagen 2 de LLMs, como a possibilidade de editar fotos e criar vídeos curtos de 4 segundos, conhecidos como “imagens ao vivo”, a partir de instruções em texto.

Enquanto o recurso de imagens texto-para-voz está em fase de teste, os recursos de edição de fotos foram normalmente disponibilizados juntamente com uma opção de marca d’água digital, que possibilita aos usuários marcar as imagens criadas pela inteligência artificial.

Outras melhorias do Vertex AI incluem a inclusão do CodeGemma, um novo modelo leve da família proprietária Gemma.

Com o objetivo de auxiliar as empresas na implementação de modelos de aterramento para obter respostas mais precisas, o Google possibilitará que equipes empresariais apliquem LLMs no Google Search, assim como em seus próprios dados por meio do Vertex AI.

A empresa mencionou que os modelos de simulação são restritos pelos dados de treinamento, os quais podem ficar desatualizados rapidamente e não abranger as informações necessárias para situações empresariais. Ela também destacou que a integração com o Google Search pode aprimorar consideravelmente a precisão das respostas.

Ampliação dos recursos de MLops na plataforma Vertex AI.

O fornecedor de serviços em nuvem ampliou as funcionalidades do MLops no Vertex AI para auxiliar as organizações com atividades de machine learning.

Uma das funcionalidades aprimoradas é a Gestão de Prompt do Vertex AI, a qual auxilia equipes corporativas a testar diferentes prompts, transferi-los e monitorar seu desempenho juntamente com os parâmetros.

Segundo a empresa, a Vertex AI Prompt Management oferece uma coleção de sugestões utilizadas por equipes, com recursos como controle de versão, possibilidade de recuperar solicitações antigas e sugestões geradas por inteligência artificial para aprimorar o desempenho imediato.

O recurso de gerenciamento de prompt possibilita que as empresas comparem as diferentes versões de prompt para analisar o efeito de pequenas alterações nas saídas, o que possibilita que as equipes façam anotações.

Outras habilidades aprimoradas englobam ferramentas de avaliação, como a Avaliação Rápida, que permitem avaliar o desempenho do modelo durante o processo de design imediato. A Avaliação Rápida está atualmente em fase de visualização.

Além de incluir novas funcionalidades nos modelos, a empresa ampliou a disponibilidade de armazenamento de dados para a API Gemini, Imagen e Embeddings no Vertex AI em 11 novos países: Austrália, Brasil, Finlândia, Hong Kong, Índia, Israel, Itália, Polônia, Espanha, Suíça e Taiwan.

Vertex AI anuncia a chegada de um novo desenvolvedor de agentes.

Com o objetivo de concorrer com concorrentes como Microsoft e AWS, o Google Cloud introduziu uma nova opção de construtores de agentes que utilizam inteligência artificial generativa.

Chamado de Construtor de Agentes Vertex AI, o serviço sem necessidade de codificação combina o Vertex AI Search com os recursos de conversação da empresa para fornecer diversas ferramentas que permitem a criação mais rápida de agentes virtuais, com suporte dos Gemini LLMs da Google.

A oferta sem código se destaca por seu sistema RAG integrado, o Vertex AI Search, que permite que os agentes sejam treinados mais rapidamente do que com as técnicas tradicionais de RAG, que são complexas e demoradas.

A empresa afirmou que basta alguns cliques para começar a correr, e com os elementos já preparados, a plataforma facilita a criação, manutenção e gestão de implementações mais complexas.

As APIs RAG incorporadas na oferta podem auxiliar os programadores a realizar verificações em entradas de aterramento de forma rápida.

Para projetos mais avançados, o construtor de agentes Vertex AI oferece a capacidade de pesquisa vetorial para desenvolver sistemas RAG utilizando incorporações personalizadas.

Além disso, os programadores também podem utilizar as saídas de modelo de terra no Google Search para aprimorar as respostas.

A variedade de ferramentas disponíveis na oferta de código não abrange as extensões, funcionalidades e conectores de dados do Vertex AI.

Enquanto as extensões de IA da Vertex são módulos pré-construídos reutilizáveis para vincular um LLM a uma API ou ferramenta específica, as funcionalidades do Vertex AI auxiliam os desenvolvedores na definição de um conjunto de funções ou APIs, permitindo que o Gemini selecione de forma inteligente, para uma consulta específica, a API ou função correta para chamar, juntamente com os parâmetros de API adequados, conforme explicado pela empresa.

Os conectores de dados auxiliam na integração de informações provenientes de aplicativos empresariais e de terceiros, como ServiceNow, Hadoop e Salesforce, possibilitando a conexão entre aplicações inovadoras e sistemas corporativos amplamente utilizados.

Além das novidades do Vertex AI, a empresa introduziu o Gemini em sua plataforma de inteligência de negócios, o Looker.

A inclusão da Gemini no Looker trará novas funcionalidades, tais como análise de conversação, criação de relatórios e fórmulas, suporte LookML, e automatização da visualização e criação de slides no Google.

Outras melhorias no conjunto de opções de análise de dados envolvem a introdução de uma versão gerenciada do Apache Kafka para o BigQuery, juntamente com consultas contínuas para o mesmo serviço durante a visualização.