TsgcAIOpenAIEmbeddings es el lado de ingesta y consulta de la generación aumentada por recuperación. Divide un corpus en chunks, pide un vector de embedding para cada uno, los escribe en el almacén vectorial que le asignes y devuelve el texto guardado más próximo para cualquier consulta.
Generación de embeddings con un almacén intercambiable. Asigna un componente de base de datos vectorial a Database y todo el proceso de ingesta, troceado en chunks, embedding, agrupación en lotes y escritura, se ejecuta con una sola llamada.
TsgcAIOpenAIEmbeddings
Embeddings y consultas RAG
Win32 y Win64
sgcAI es autónomo. Este componente se incluye dentro de sgcAI junto con el runtime sgcWebSockets Core sobre el que está construido.
Asigna un almacén vectorial, llama una vez a CreateEmbeddingsFromFile y después busca contexto para cada pregunta del usuario.
uses
sgcAI, sgcAI_OpenAI_Embeddings, sgcAI_DB_Vector_File;
var
oEmbeddings: TsgcAIOpenAIEmbeddings;
oDB: TsgcAIDatabaseVectorFile;
vContext: string;
begin
oDB := TsgcAIDatabaseVectorFile.Create(nil);
oDB.VectorFileOptions.InputFilename := 'corpus.sgcif';
oDB.VectorFileOptions.VectorFilename := 'corpus.sgcvf';
oEmbeddings := TsgcAIOpenAIEmbeddings.Create(nil);
oEmbeddings.OpenAIOptions.ApiKey := 'sk-...';
oEmbeddings.EmbeddingsOptions.Model := 'text-embedding-3-small';
oEmbeddings.EmbeddingsOptions.ChunkSize := 4096;
oEmbeddings.Database := oDB;
oEmbeddings.OnCreateEmbeddingsProgress := EmbeddingsProgress;
// One pass over the corpus, done once.
oEmbeddings.CreateEmbeddingsFromFile('manual.txt');
// Then, per question, retrieve the nearest chunk.
vContext := oEmbeddings.GetEmbedding('How do I reset the device?', '');
end;
procedure TForm1.EmbeddingsProgress(Sender: TObject;
aPosition: Int64; var aContinue: Boolean);
begin
ProgressBar1.Position := aPosition;
aContinue := not CancelRequested;
end;// includes: sgcAI.hpp, sgcAI_OpenAI_Embeddings.hpp, sgcAI_DB_Vector_File.hpp
TsgcAIDatabaseVectorFile *oDB = new TsgcAIDatabaseVectorFile(NULL);
oDB->VectorFileOptions->InputFilename = "corpus.sgcif";
oDB->VectorFileOptions->VectorFilename = "corpus.sgcvf";
TsgcAIOpenAIEmbeddings *oEmbeddings = new TsgcAIOpenAIEmbeddings(NULL);
oEmbeddings->OpenAIOptions->ApiKey = "sk-...";
oEmbeddings->Database = oDB;
oEmbeddings->CreateEmbeddingsFromFile("manual.txt");
String vContext = oEmbeddings->GetEmbedding("How do I reset the device?", "");Los miembros que usarás más a menudo.
Database acepta cualquier componente de almacén vectorial. Usa TsgcAIDatabaseVectorFile para un archivo local o TsgcAIDatabaseVectorPinecone para un índice gestionado. El código de ingesta no cambia.
Model vale text-embedding-3-small por defecto. ChunkSize controla cómo se divide el corpus, WaitStoringData regula el ritmo de las escrituras en el almacén y User etiqueta las peticiones.
CreateEmbeddings indexa una cadena y CreateEmbeddingsFromFile indexa un archivo completo. Ambos abren un lote en el almacén, envían un vector por chunk y luego lo cierran.
GetEmbedding genera el embedding de una consulta y devuelve el texto guardado más próximo, que es la cadena que pegas en el prompt como contexto.
OnCreateEmbeddingsStart informa del tamaño total, OnCreateEmbeddingsProgress informa de la posición y lleva un indicador de continuación para poder cancelar una ingesta larga, y OnCreateEmbeddingsStop cierra la ejecución.
OnBeforeCreateEmbedding puede inspeccionar y rechazar una petición concreta, y OnAfterCreateEmbedding te entrega la petición y la respuesta, algo útil para auditar el gasto en tokens.
Fuentes oficiales de los servicios y protocolos que utiliza este componente.
| Ayuda en líneaReferencia completa de la API y guía de uso de los componentes sgcAI. | Abrir | |
| Todos los componentes sgcAIConsulta la matriz completa de características de los 15 componentes. | Abrir | |
| Descargar prueba gratuitaIndexa tus propios documentos y consúltalos sin conexión. | Abrir | |
| PreciosLicencias Single, Team y Site, código fuente completo. | Abrir |