Arayüz: TextGenerationStreamDetails

Özellikler

en iyi _ dizileri

• Optional best_of_sequences: TextGenerationStreamBestOfSequence[]

best_of parametresi kullanılırken ek diziler

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:68

---

bitiş _ nedeni

• finish_reason: TextGenerationStreamFinishReason

Üretim bitme nedeni

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:58

---

oluşturılan _ jetonlar

• generated_tokens: number

Oluşturulan jeton sayısı

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:60

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

Prompt jetonları

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:64

---

seed

• Optional seed: number

Örnekleme etkinleştirildiyse örnekleme tohumu

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:62

---

tokens

• tokenler: TextGenerationStreamToken[]

Tanımlandığı yer

inference/src/tasks/nlp/textGenerationStream.ts:66

Update on GitHub