Learn R Programming

whisper (version 0.1.0)

byte_to_token: Convert Byte to BPE Token

Description

GPT-2/Whisper uses a specific byte-to-unicode mapping.

Usage

byte_to_token(byte)

Value

Character token

Arguments

byte

Integer byte value (0-255)