This content originally appeared on DEV Community and was authored by Enrique Aguilar Martinez
Introducción RAG en Azure OpenAI
Introducción
Este repositorio contiene el código y las instrucciones para crear un modelo RAG (Retrieval Augmented Generation) utilizando Azure OpenAI.
Presentación de RAG (Retriever-Augmented Generation) en Azure OpenAI
Introducción
RAG (Retriever-Augmented Generation) es un enfoque que combina la búsqueda de información relevante con la generación de texto, mejorando la capacidad de los modelos de lenguaje para generar respuestas más informadas y precisas. En el contexto de Azure OpenAI , RAG permite integrar bases de datos externos, documentos y otros recursos de información en tiempo real, mejorando la interacción con el modelo y la calidad de las respuestas.
Objetivos
Explicar cómo funciona RAG en Azure OpenAI.
Demostrar cómo implementar una solución de RAG utilizando los servicios de Azure.
Discutir los beneficios y aplicaciones del enfoque RAG.
¿Qué es RAG?
RAG es una técnica que combina dos componentes clave:
Recuperador : Un componente de búsqueda que recupera información relevante de una base de datos o un conjunto de documentos.
Generador : Un modelo de lenguaje, como GPT, que usa la información recuperada para generar respuestas más precisas y contextuales.
Flujo de trabajo de RAG
Consulta inicial : El usuario envía una consulta al sistema.
Recuperación de información : El sistema utiliza un modelo de búsqueda para recuperar los fragmentos de información más relevantes.
Generación de respuesta : El modelo generador toma esa información y produce una respuesta más coherente y precisa.
Azure OpenAI y RAG
Uso de Azure OpenAI
Azure OpenAI es una plataforma que facilita el acceso a modelos de OpenAI como GPT-3, GPT-4, Codex y DALL·E, a través de una API escalable y segura. En el contexto de RAG, Azure OpenAI puede servir como el componente generador que usa los datos recuperados para producir respuestas.Integración con Servicios de Búsqueda
Azure Cognitive Search es uno de los servicios de Azure que se puede integrar para recuperar datos de fuentes externas, como documentos, bases de datos y sitios web. La combinación de este servicio con Azure OpenAI permite implementar un sistema de RAG eficiente.Ventajas de usar Azure
Escalabilidad : La plataforma Azure está diseñada para manejar grandes volúmenes de datos y consultas.
Seguridad : Azure proporciona herramientas robustas de seguridad y cumplimiento normativo.
Fácil integración : La integración de servicios de búsqueda y generación es sencilla utilizando los SDK y API de Azure.
Implementación de un modelo RAG en Azure OpenAI
az search service create --name my-search-service --resource-group my-resource-group --sku Standard
az search index create --name my-index --service-name my-search-service --fields "title, content"
Crear recurso de búsqueda de Azure AI
sh
$rgName = "rg-openai-course2"
$aiSearchName = "ai-search-swc-demo2"
$aiServiceName = "ai-services-swc-demo2"
$location = "swedencentral"
1. Crear un grupo de recursos
az group create -n $rgName -l $location
2. Crear un servicio de búsqueda
az search service create -n $aiSearchName -g $rgName --sku free
3. Obtener la clave de administrador
az search admin-key show --service-name $aiSearchName -g $rgName
# {
# "primaryKey": "4wIdp9wU2xwTM5ltGro4wNF1VPXwPcrrHMuoy47CYeAzSxxxxxxxx",
# "secondaryKey": "oa1LM4JA47W4lby8wa8cfOvBKif8I4CidFMTHG71yPAzxxxxxxx"
# }
Crear un recurso de servicios de Azure AI
az cognitiveservices account create -n $aiServiceName -g $rgName --kind AIServices --sku S0 --location $location
Obtenga la URL del punto final, las claves y el ID del recurso
az cognitiveservices account show -n $aiServiceName -g $rgName --query properties.endpoint
# "https://swedencentral.api.cognitive.microsoft.com/"
az cognitiveservices account keys list -n $aiServiceName -g $rgName
# {
# "key1": "78f5592e1f70494dabd1a4040a61a96a",
# "key2": "4f23266a2eb0475c8a0112044e03c4d1"
# }
az cognitiveservices account show -n $aiServiceName -g $rgName --query id
# "/subscriptions/38977b70-47bf-4da5-a492-xxxxxxxxx/resourceGroups/rg-openai-course2/providers/Microsoft.CognitiveServices/accounts/ai-services-swc-demo"
Creando implementación para el modelo ChatGPT 4o
az cognitiveservices account deployment create -n $aiServiceName -g $rgName `
--deployment-name gpt-4o `
--model-name gpt-4o `
--model-version "2024-05-13" `
--model-format OpenAI `
--sku-capacity "148" `
--sku-name "Standard"
Crear el modelo de incrustación
Reemplace ` con \ si está usando Linux o MacOS.
az cognitiveservices account deployment create -n $aiServiceName -g $rgName `
--deployment-name text-embedding-3-large `
--model-name text-embedding-3-large `
--model-version "1" `
--model-format OpenAI `
--sku-capacity "227" `
--sku-name "Standard"
Cree el hub y un proyecto en Azure AI Studio
Crear el Hub
az extension add -n ml
az extension update -n ml
az ml workspace create --kind hub -g $rgName -n hub-demo
Crear el proyecto
Aún no se admite la creación de un nuevo proyecto mediante la CLI de Azure como se muestra a continuación. Puede crear un proyecto mediante Azure AI Studio.
$hubId=$(az ml workspace show -g $rgName -n hub-demo --query id -o tsv)
az ml workspace create --kind project --hub-id $hubId -g $rgName -n project-demo
Crea el archivo connection.yml
Cree un archivo connection.ymlcon el siguiente contenido para vincularlo AI Servicesa Hub. Asegúrese de reemplazar los valores con los suyos.
name: ai-service-connection
type: azure_ai_services
endpoint: https://swedencentral.api.cognitive.microsoft.com/
api_key: 246cbcb9e3194fd5a09935a8418fe99a
ai_services_resource_id: /subscriptions/38977b70-47bf-4da5-a492-88712fce8725/resourceGroups/rg-openai-course2/providers/Microsoft.CognitiveServices/accounts/ai-services-swc-demo2
Implemente la conexión utilizando el siguiente comando.
az ml connection create --file connection.yml -g $rgName --workspace-name hub-demo
Confirmar los recursos
Confirme que tiene los siguientes recursos en su Azure Portal.
This content originally appeared on DEV Community and was authored by Enrique Aguilar Martinez
Enrique Aguilar Martinez | Sciencx (2025-02-05T20:56:44+00:00) RAG on Azure OpenAI. Retrieved from https://www.scien.cx/2025/02/05/rag-on-azure-openai/
Please log in to upload a file.
There are no updates yet.
Click the Upload button above to add an update.