Канадский чип-стартап Taalas представил радикально новый подход к вычислениям искусственного интеллекта: вместо GPU компания предлагает «впаивать» конкретные ИИ-модели непосредственно в архитектуру кремниевого чипа. Первое коммерческое решение, получившее название HC1, интегрирует в себя популярную модель Llama 3.1 8B, демонстрируя при этом фантастические результаты.
Суть идеи Taalas заключается в полной специализации оборудования под конкретный алгоритм. Инженеры буквально переносят нейронную сеть модели на структуру транзисторов чипа. Это позволяет существенно снизить затраты, так как чип не требует дорогой памяти HBM, сложной упаковки или экстремального жидкостного охлаждения. При этом Taalas удалось достичь производительности в 10 раз выше, чем у топовых ускорителей современности, а стоимость производства — в 20 раз ниже.
Сам чип HC1 производится на мощностях TSMC по 6-нанометровому техпроцессу и имеет внушительную площадь 815 мм2, что сопоставимо с Nvidia H100.
Главная особенность подхода Taalas одновременно является и его слабым местом — отсутствие гибкости. Поскольку модель «зашита» в железо, на таком чипе невозможно запустить другой алгоритм. Оборудование становится узкоспециализированным инструментом.
Несмотря на жесткую привязку к конкретной нейросети, решение Taalas выглядит крайне привлекательным для крупных ИТ-компаний, которым важна максимальная скорость работы в реальном времени. Стартап заявляет, что может превратить любую новую модель в «железный» чип всего за два месяца.