O LangChain funciona "encadeando" diferentes componentes para criar um fluxo de trabalho coeso para aplicativos com tecnologia de LLM. Essa abordagem modular divide sistemas complexos de IA baseados em linguagem em partes reutilizáveis. Quando um usuário envia uma consulta, o LangChain pode processar essa entrada em uma série de etapas.

Por exemplo, um fluxo de trabalho típico pode envolver:

1. Receber a consulta do usuário.
2. Processar a consulta, transformando-a ou usando-a para pesquisar informações relevantes em fontes de dados externas.
3. Recuperar os dados necessários, o que pode envolver a conexão com bancos de dados, APIs ou outros repositórios. O LangChain oferece vários carregadores de documentos para integrar dados de inúmeras fontes.
4. Passar as informações recuperadas, junto com a consulta original, para um LLM.
5. O LLM gera uma resposta com base no contexto fornecido e na entrada do usuário.
6. A resposta gerada é retornada ao usuário.

Essa abordagem de encadeamento permite que os desenvolvedores definam uma sequência de ações que o aplicativo vai realizar para lidar com a solicitação de um usuário e criar uma resposta. Ao simplificar essas etapas em componentes, o LangChain facilita a criação de aplicativos que precisam de várias interações com um LLM ou recursos externos. O framework também oferece maneiras de trabalhar com diferentes LLMs, dando aos desenvolvedores a liberdade de escolher o melhor modelo para o aplicativo específico.

Saiba como usar o LangChain com a Vertex AI.

O LangChain oferece um conjunto de recursos projetados para facilitar o desenvolvimento de aplicativos com tecnologia de LLM. Esses recursos são organizados em torno de conceitos básicos que ajudam a gerenciar interações com modelos, conectar a dados e orquestrar comportamentos complexos.

• Integração de dados versátil: integra-se perfeitamente a diversas fontes de dados, de bancos de dados estruturados a textos não estruturados, para uma compreensão e análise abrangentes da linguagem.
• Recuperação e armazenamento em cache de dados eficazes: recupera e armazena em cache dados de maneira eficiente, garantindo acesso mais rápido aos dados de linguagem e minimizando a latência durante a inferência do modelo.

• Suporte a várias cadeias: permite a operação simultânea de vários modelos de linguagem em uma única cadeia de execução, melhorando a colaboração e a coordenação.
• Topologia de encadeamento flexível: ajuda os usuários a configurar e otimizar a organização dos modelos de linguagem nas cadeias para uma execução eficiente e alocação ideal de recursos.

• Comunicação e interação entre vários agentes: o LangChain oferece suporte à criação e implantação de vários agentes de compreensão de linguagem, permitindo a colaboração e coordenação complexas entre modelos
• Coordenação centralizada de agentes: oferece coordenação e supervisão centralizadas para agentes de compreensão de linguagem, garantindo uma distribuição de tarefas eficiente e gerenciamento de recursos em sistemas multiagentes

• Memória externa extensível: incorpora módulos de memória externa personalizados, permitindo que os usuários ampliem e personalizem o gerenciamento de memória para atender a requisitos específicos.
• Alocação adaptativa de contexto: o LangChain usa algoritmos adaptativos para a alocação de memória, otimizando a utilização de recursos para armazenamento e recuperação eficientes de contexto.