Тернарное железо для ИИ
Я проектирую числовые форматы и железо, которое их считает: от статьи на arXiv через RTL, укладывающийся в логику Artix-7 без единого аппаратного умножителя, до отправки дизайна на изготовление через SKY130 — целиком на инструментах, которые любой поставит бесплатно. Каждая цифра ниже измерена, и рядом с ней названо, чего она не доказывает.
Float, у которого экспонента — сбалансированное троичное число, а поля фиксированы: платить за декодирование режима не нужно. Прежде здесь стояла в 2.1 раза меньшая ошибка при 16 битах и в 2.6 при 32 — обе цифры отозваны: оракул неверно отрицал отрицательные коды, а бюджет был номинальный, а не равная ширина хранения. При равной ширине это ничья, а не выигрыш.
Единственная измеренная асимметрия в железе: полный сумматор TNF(4,8) — 397 LUT против 15 251 у настоящего base-3 сумматора tekum8, то есть 38×, причём TNF шире. Декод 1 LUT против 542. Post-synthesis для xc7, без place-and-route, без кремния.
Сравнения не задают общий рейтинг форматов: разрядность и диапазон входят в условия каждого результата.
Прямой проход, градиент и обновление весов в RTL, без хоста в контуре: сеть учит XOR на FPGA, 4 из 4, побитово от спецификации до бинарной FPGA.
Тот же исходник, что работает на плате, прошёл открытый ASIC-процесс: GDS получен, тест на уровне вентилей и precheck пройдены.
У блочного формата масштаб и элементная часть имеют разные ограничения. Результаты для GF-T не переносятся на общий рейтинг форматов.
±40 в степенях двойки, примерно ±12 декад. Фиксированные поля покупают дешёвый тракт и равномерную точность ценой диапазона; это ограничение указано рядом со сравнением.
Замеры сняты на Xilinx Artix-7 на открытом флоу. Это не многоугловая характеризация, и для ASIC числа будут другими.
Каждая цифра сайта с замером, который её породил, — и отдельно то, чем результаты не являются.
Побитовая сверка вашего RTL с независимой моделью, тайминг и ресурсы на живой плате. Первый модуль бесплатно.
Раскладка полей, точность против takum, стоимость в железе и честный список того, где он проигрывает.
Статьи выходят здесь раньше, чем где-либо ещё, с пруфами и открытыми вопросами.
Вводный модуль верификации бесплатный, и отчёт ваш — публикуйте или оставьте себе.