본문으로 건너뛰기

Tokenizer

The component that splits raw text into tokens the model can process, and converts them back to text.

관련 리소스