Come accedere ai passaggi intermedi di un agente in LangChain?

Come Accedere Ai Passaggi Intermedi Di Un Agente In Langchain



LangChain è il framework per la creazione di modelli di chat o modelli linguistici che hanno la capacità di rispondere a domande nel linguaggio umano. L'utente inserisce la stringa nel linguaggio naturale e il modello la comprende per generare la risposta. Osservando la struttura da una prospettiva esterna, si ritiene che i modelli di chat svolgano solo queste azioni/compiti. Tuttavia, contiene più passaggi intermedi che dovrebbero funzionare in un ordine specifico per ottenere prestazioni ottimali.

Contorno rapido

Questo post dimostrerà quanto segue:

Come accedere ai passaggi intermedi di un agente in LangChain?

Per costruire l'agente in LangChain, l'utente deve configurare i suoi strumenti e la struttura del modello per ottenere il numero di passaggi coinvolti nel modello. L'agente è responsabile dell'automazione dei passaggi intermedi come pensieri, azioni, osservazioni, ecc. Per sapere come accedere ai passaggi intermedi di un agente nella LangChain, segui semplicemente i passaggi elencati:







Passaggio 1: installazione dei framework

Prima di tutto è sufficiente installare le dipendenze di LangChain eseguendo il seguente codice nel Python Notebook:



pip installa langchain_experimental



Installa il modulo OpenAI per ottenere le sue dipendenze utilizzando il file pip comando e usali per costruire il modello linguistico:





pip installa openai

Passaggio 2: impostazione dell'ambiente OpenAI

Una volta installati i moduli, configurare il file Ambiente OpenAI utilizzando la chiave API generata dal proprio account:



importare Voi
importare getpass

Voi. circa [ 'OPENAI_API_KEY' ] = getpass. getpass ( 'Chiave API OpenAI:' )

Passaggio 3: importazione delle librerie

Ora che abbiamo installato le dipendenze, usale per importare le librerie da LangChain:

da langchain. agenti importare carica_strumenti
da langchain. agenti importare inizializza_agente
da langchain. agenti importare Tipo agente
da langchain. llms importare OpenAI

Passaggio 4: creazione di LLM e agente

Una volta importate le librerie, è il momento di utilizzarle per creare il modello linguistico e gli strumenti per l'agente. Definire la variabile llm e assegnarla con il metodo OpenAI() contenente gli argomenti temperature e model_name. IL ' utensili La variabile ' contiene il metodo load_tools() con gli strumenti SerpAPi e llm-math e il modello del linguaggio nel suo argomento:

llm = OpenAI ( temperatura = 0 , nome del modello = 'testo-davinci-002' )
utensili = carica_strumenti ( [ 'serpapi' , 'llm-matematica' ] , llm = llm )

Una volta configurati il ​​modello linguistico e gli strumenti, è sufficiente progettare l'agente per eseguire i passaggi intermedi utilizzando gli strumenti nel modello linguistico:

agente = inizializza_agente (
utensili ,
llm ,
agente = Tipo agente. ZERO_SHOT_REACT_DESCRIPTION ,
prolisso = VERO ,
ritorno_passi_intermedi = VERO ,
)

Passaggio 5: utilizzo dell'agente

Ora, metti alla prova l'agente ponendo una domanda nell'input del metodo agent() ed eseguendolo:

risposta = agente (
{
'ingresso' : 'Chi è la fidanzata di Leo DiCaprio e qual è la loro differenza di età'
}
)

La modella ha lavorato in modo efficiente per ottenere il nome della fidanzata di Leo DiCaprio, la sua età, l'età di Leo DiCaprio e la differenza tra loro. La seguente schermata mostra diverse domande e risposte cercate dall'agente per arrivare alla risposta finale:

Lo screenshot sopra non mostra il funzionamento dell'agente e come arrivare a quella fase per trovare tutte le risposte. Passiamo alla sezione successiva per trovare i passaggi:

Metodo 1: tipo di restituzione predefinito per accedere ai passaggi intermedi

Il primo metodo per accedere al passaggio intermedio è utilizzare il tipo di ritorno predefinito offerto da LangChain utilizzando il seguente codice:

stampa ( risposta [ 'passi_intermedi' ] )

La seguente GIF mostra i passaggi intermedi in un'unica riga, il che non è del tutto positivo per quanto riguarda l'aspetto della leggibilità:

Metodo 2: utilizzo dei “dump” per accedere ai passaggi intermedi

Il metodo successivo spiega un altro modo per ottenere i passaggi intermedi utilizzando la libreria dump del framework LangChain. Utilizza il metodo dumps() con l'argomento Pretty per rendere l'output più strutturato e facile da leggere:

da langchain. carico . scarico importare discariche

stampa ( discariche ( risposta [ 'passi_intermedi' ] , bello = VERO ) )

Ora abbiamo l'output in una forma più strutturata che è facilmente leggibile dall'utente. È inoltre suddiviso in più sezioni per avere più senso e ciascuna sezione contiene i passaggi per trovare le risposte alle domande:

Si tratta di accedere ai passaggi intermedi di un agente in LangChain.

Conclusione

Per accedere ai passaggi intermedi di un agente in LangChain, installa i moduli per importare librerie per costruire modelli linguistici. Successivamente, configura gli strumenti per inizializzare l'agente utilizzando gli strumenti, llm e il tipo di agente in grado di rispondere alle domande. Una volta configurato l'agente, testarlo per ottenere le risposte e quindi utilizzare il tipo predefinito o la libreria dump per accedere ai passaggi intermedi. Questa guida ha approfondito il processo di accesso ai passaggi intermedi di un agente in LangChain.