TsgcAIOpenAIEmbeddings ist die Ingest- und Abfrageseite von Retrieval Augmented Generation. Die Komponente teilt einen Korpus in Chunks auf, fordert für jeden davon einen Embedding-Vektor an, schreibt sie in den Vektorspeicher, den du zuweist, und liefert zu jeder Abfrage den nächstgelegenen gespeicherten Text zurück.
Embeddings-Erzeugung mit austauschbarem Speicher. Weise Database eine Vektordatenbank-Komponente zu und die gesamte Ingest-Pipeline aus Chunking, Embedding, Batching und Schreiben läuft mit einem einzigen Aufruf.
TsgcAIOpenAIEmbeddings
Embeddings und RAG-Abfrage
Win32 und Win64
sgcAI ist eigenständig. Diese Komponente wird in sgcAI zusammen mit der sgcWebSockets Core Runtime ausgeliefert, auf der sie aufbaut. Du musst also keine Basislizenz kaufen.
Weise einen Vektorspeicher zu, rufe CreateEmbeddingsFromFile einmalig auf und hole dann zu jeder Nutzerfrage den passenden Kontext.
uses
sgcAI, sgcAI_OpenAI_Embeddings, sgcAI_DB_Vector_File;
var
oEmbeddings: TsgcAIOpenAIEmbeddings;
oDB: TsgcAIDatabaseVectorFile;
vContext: string;
begin
oDB := TsgcAIDatabaseVectorFile.Create(nil);
oDB.VectorFileOptions.InputFilename := 'corpus.sgcif';
oDB.VectorFileOptions.VectorFilename := 'corpus.sgcvf';
oEmbeddings := TsgcAIOpenAIEmbeddings.Create(nil);
oEmbeddings.OpenAIOptions.ApiKey := 'sk-...';
oEmbeddings.EmbeddingsOptions.Model := 'text-embedding-3-small';
oEmbeddings.EmbeddingsOptions.ChunkSize := 4096;
oEmbeddings.Database := oDB;
oEmbeddings.OnCreateEmbeddingsProgress := EmbeddingsProgress;
// One pass over the corpus, done once.
oEmbeddings.CreateEmbeddingsFromFile('manual.txt');
// Then, per question, retrieve the nearest chunk.
vContext := oEmbeddings.GetEmbedding('How do I reset the device?', '');
end;
procedure TForm1.EmbeddingsProgress(Sender: TObject;
aPosition: Int64; var aContinue: Boolean);
begin
ProgressBar1.Position := aPosition;
aContinue := not CancelRequested;
end;// includes: sgcAI.hpp, sgcAI_OpenAI_Embeddings.hpp, sgcAI_DB_Vector_File.hpp
TsgcAIDatabaseVectorFile *oDB = new TsgcAIDatabaseVectorFile(NULL);
oDB->VectorFileOptions->InputFilename = "corpus.sgcif";
oDB->VectorFileOptions->VectorFilename = "corpus.sgcvf";
TsgcAIOpenAIEmbeddings *oEmbeddings = new TsgcAIOpenAIEmbeddings(NULL);
oEmbeddings->OpenAIOptions->ApiKey = "sk-...";
oEmbeddings->Database = oDB;
oEmbeddings->CreateEmbeddingsFromFile("manual.txt");
String vContext = oEmbeddings->GetEmbedding("How do I reset the device?", "");Die Member, zu denen du am häufigsten greifst.
Database nimmt jede beliebige Vektorspeicher-Komponente entgegen. Verwende TsgcAIDatabaseVectorFile für eine lokale Datei oder TsgcAIDatabaseVectorPinecone für einen verwalteten Index. Der Ingest-Code bleibt derselbe.
Model steht standardmäßig auf text-embedding-3-small. ChunkSize steuert, wie der Korpus aufgeteilt wird, WaitStoringData taktet die Schreibvorgänge in den Speicher und User kennzeichnet die Anfragen.
CreateEmbeddings indexiert einen String und CreateEmbeddingsFromFile indexiert eine ganze Datei. Beide öffnen einen Batch im Speicher, schieben einen Vektor pro Chunk hinein und schließen ihn danach wieder.
GetEmbedding bettet eine Abfrage ein und liefert den nächstgelegenen gespeicherten Text zurück, also genau den String, den du als Kontext in den Prompt einfügst.
OnCreateEmbeddingsStart meldet die Gesamtgröße, OnCreateEmbeddingsProgress meldet die Position und führt ein Continue-Flag mit, damit sich ein langer Ingest abbrechen lässt, und OnCreateEmbeddingsStop schließt den Durchlauf ab.
OnBeforeCreateEmbedding kann eine einzelne Anfrage prüfen und ablehnen, und OnAfterCreateEmbedding übergibt dir Anfrage und Antwort, was sich gut für die Kontrolle des Token-Verbrauchs eignet.
Maßgebliche Quellen zu den Diensten und Protokollen, die diese Komponente nutzt.
| Online-HilfeVollständige API-Referenz und Anwendungsleitfaden für die sgcAI-Komponenten. | Öffnen | |
| Alle sgcAI-KomponentenDurchstöbere die vollständige Funktionsmatrix aller 15 Komponenten. | Öffnen | |
| Kostenlose Testversion herunterladenIndexiere deine eigenen Dokumente und frage sie offline ab. | Öffnen | |
| PreiseSingle-, Team- und Site-Lizenzen, vollständiger Quellcode, kein Basisprodukt erforderlich. | Öffnen |