LLM на 28,9 млн параметров, работающий на микроконтроллере $8 ESP32.


Что это на самом деле означает:
> ESP32 — это чип внутри дешёвых IoT-гаджетов, а не плата для разработки с GPU
> 28,9 млн параметров — это ничто по меркам лабораторий, но огромно для части с запасом всего в несколько килобайт оперативной памяти
> полное выполнение инференса на устройстве: без облачного вызова, без сетевого ожидания
Edge AI всё чаще подают как дорогое «железо». Это — другой вектор. Порог теперь на уровне денег от диванной подушки.
Посмотреть Оригинал
post-image
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено