Arayüz: TextGenerationStreamBestOfSequence

Özellikler

bitiş _ nedeni

• finish_reason: TextGenerationStreamFinishReason

Üretim bitme nedeni

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:37

---

oluşturulan _ metin

• generated_text: string

Oluşturulan metin

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:35

---

oluşturılan _ jetonlar

• generated_tokens: number

Oluşturulan jeton sayısı

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:39

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

Prompt jetonları

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:43

---

seed

• Optional seed: number

Örnekleme etkinleştirildiyse örnekleme tohumu

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:41

---

tokens

• tokenler: TextGenerationStreamToken[]

Oluşturulan jetonlar

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:45

Update on GitHub