t27.aiEnglish

Таблицы модели на плате

Вы узнаете

Как компьютер кормит плату работой через последовательный мост, почему важен размер окна и что плата посчитала.

Арифметику делает плата; компьютер отправляет ей работу через последовательный USB-мост. Ответы платы ждут в маленьком приёмном буфере микросхемы моста, и если держать в полёте больше запросов, чем помещается их ответов, ответы теряются. Окно поменьше убрало потери и не замедлило прогон. По этой линии плата перемножила все троичные матрицы весов небольшой языковой модели, и каждая строка совпала с эталоном бит в бит. Сам текст генерирует Mac, который делает всё, кроме троичных скалярных произведений: плата — это калькулятор, а не вся модель.

Попробуйте

Тяните окно, пока ведро не переполнится, и запомните самое большое окно, которое помещается; затем сравните два настоящих прогона.

Открыть интерактивный урок →

The bucket under the tap: a 512-byte UART buffer and 19-byte answers
The bucket under the tap: a 512-byte UART buffer and 19-byte answers ↗

Все уроки