t27.aiEnglish

T27: наш собственный формат чисел

Вы узнаете

Как три трита дают больше уровней, чем 4-битное число с плавающей точкой, и чего это стоит в обычных битах.

У 4-битного числа с плавающей точкой вроде E2M1 — элемента форматов NVFP4 и MXFP4 — 16 кодов, и два из них означают ноль. У трёх сбалансированных тритов 3 x 3 x 3 = 27 состояний. T27 — наш формат, который использует их все: 27 уровней стоят там, где на самом деле лежат веса обученной сети, и один общий масштаб на блок весов. На троичной памяти это больше уровней в том же объёме. Упакованный в обычные двоичные биты, он получается больше, а не меньше, и виджет показывает оба счёта.

Попробуйте

Проведите вес по всему диапазону и найдите, где E2M1 округляет хуже, чем T27; затем прочитайте таблицу хранения в битах.

Открыть интерактивный урок →

T27 cell: 27 seats in 3 trits against FP4's 16 codes in 4 bits
T27 cell: 27 seats in 3 trits against FP4's 16 codes in 4 bits ↗

Все уроки