Última versión de LlamaIndex Desde los conceptos básicos hasta las técnicas avanzadas en Python – (Parte 3)

Última versión de LlamaIndex - Python - (Parte 3)

Esta es la tercera parte de una serie de LlamaIndex. Debes leer la parte 2.

En la segunda parte de esta serie, hablamos sobre Document Store, Service Contexts, LLM Predictor y más. Si no has tenido la oportunidad de leerlo, por favor échale un vistazo.

LLM Predictor

LLMPredictor es parte del modelo de lenguaje para obtener la respuesta en texto (Completación).

A continuación puedes ver que se ha configurado una clase llamada LLMPredictor

list_index.service_context.llm_predictor

<llama_index.llm_predictor.base.LLMPredictor at 0x7f076a4e1db0>

La clase LLM de LlamaIndex proporciona una interfaz unificada para definir módulos LLM, ya sea de OpenAI, Hugging Face o LangChain.

Originalmente, era un envoltorio para la clase LLMChain de LangChain, pero se desarrolló como un módulo independiente.

LLM – LlamaIndex 🦙 0.7.9

Elegir el modelo de lenguaje grande (LLM) adecuado es uno de los primeros pasos que debes considerar al construir cualquier LLM…

gpt-index.readthedocs.io

A continuación hay una lista de módulos y, además de OpenAI, también puedes utilizar Anthropic, Hugging Face, Palm, etc.

Módulos – LlamaIndex 🦙 0.7.9

OpenAI Agent + Query Engine Experimental Cookbook

gpt-index.readthedocs.io

Puedes verificar los atributos de LLMPredictor a continuación.

list_index.service_context.llm_predictor.__dict__

{'_llm': OpenAI(model='text-davinci-003', temperature=0.0, max_tokens=None, additional_kwargs={}, max_retries=10), 'callback_manager': <llama_index.callbacks.base.CallbackManager at 0x1fdbee5b040>}

Como LLM, se utiliza la clase OpenAI, y esta es la responsable del procesamiento principal.

type(list_index.service_context.llm_predictor.llm)

llama_index.llms.openai.OpenAI

Puedes verificar los atributos de la clase OpenAI a continuación.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

Inteligencia Artificial

La burbuja de la IA generativa estallará pronto

Debido a la exageración insostenible, las valoraciones poco realistas, las limitaciones de la tecnología actual y los...

Inteligencia Artificial

Por qué Meta está regalando su modelo de IA extremadamente poderoso

El debate sobre la IA que divide al mundo tecnológico, explicado.

Inteligencia Artificial

Este boletín de inteligencia artificial es todo lo que necesitas #59

Esta semana los cambios en los términos de servicio de Zoom (desde marzo) se pusieron en foco después de los temores ...

Inteligencia Artificial

EU AI Act ¿Un paso prometedor o una apuesta arriesgada para el futuro de la IA?

La Ley de la UE sobre IA es la primera ley de regulación internacional sobre IA. Su objetivo es garantizar el desarro...

Aprendizaje Automático

Salesforce presenta XGen-7B Un nuevo 7B LLM entrenado en secuencias de hasta 8K de longitud para 1.5T Tokens.

Con los recientes avances tecnológicos en inteligencia artificial, los Modelos de Lenguaje Grande, o LLMs en resumen,...

Aprendizaje Automático

El Programa MIT-Takeda entra en su cuarto año con una cosecha de 10 nuevos proyectos.

El programa aprovecha la experiencia en investigación del MIT y el conocimiento industrial de Takeda para investigar ...