Interface : TextGenerationStreamBestOfSequence

Propriétés

fin _ raison

• finish_reason : TextGenerationStreamFinishReason

Raison de fin de génération

Défini dans

inference/src/tasks/nlp/textGenerationStream.ts:37

---

généré _ texte

• generated_text : string

Texte généré

Défini dans

inference/src/tasks/nlp/textGenerationStream.ts:35

---

jetons générés

• generated_tokens : number

Nombre de jetons générés

Défini dans

inference/src/tasks/nlp/textGenerationStream.ts:39

---

prefill

• préremplissage : TextGenerationStreamPrefillToken[]

Jetons de prompt

Défini dans

inference/src/tasks/nlp/textGenerationStream.ts:43

---

seed

• Optional seed : number

Graine d'échantillonnage si l'échantillonnage a été activé

Défini dans

inference/src/tasks/nlp/textGenerationStream.ts:41

---

tokens

• jets : TextGenerationStreamToken[]

Jetons générés

Défini dans

inference/src/tasks/nlp/textGenerationStream.ts:45

Update on GitHub