CrankGPT — офлайн-чатбот с ИИ, который питается от ручной рукоятки и работает без дата-центров. Команда Squeez Labs собрала устройство на Raspberry Pi с 8 ГБ RAM и запустила на нем локальные модели Meta и Google.
Идея звучит как шутка для людей, которые уже собрали тревожный чемоданчик. Но внутри есть вполне серьезная инженерная мысль. Большинство ИИ-чатботов требуют облака, стабильного интернета и чужих серверов. CrankGPT отвечает локально, поэтому пользователь не отправляет запросы в дата-центр большой IT-компании.
Как устроен CrankGPT
CrankGPT работает от ручного привода: пользователь крутит рукоятку, устройство получает энергию и запускает локальную обработку запросов. Внутри стоит Raspberry Pi с 8 ГБ оперативной памяти, а небольшие модели Meta и Google отвечают за распознавание речи и генерацию ответа.
Разработчики показали демо, где коробка отвечает на вопросы о колибри и переводит фразы между языками. Интернет для этого не нужен. Внешний блок питания тоже не нужен, если у пользователя хватает терпения и мышц.
- Питание: ручная рукоятка, без розетки и внешнего аккумулятора
- Платформа: Raspberry Pi с 8 ГБ RAM
- ИИ-модели: компактные локальные модели Meta и Google
- Функции: распознавание речи, ответы на запросы, перевод между языками
- Режим работы: полностью офлайн, без подключения к облаку
С точки зрения домашнего ПК это выглядит скромно. 8 ГБ памяти сегодня не удивляют даже в бюджетном ноутбуке. Но для маленькой локальной модели это рабочий объем, если не ждать от нее уровня больших облачных систем.
Устройство не пытается заменить ChatGPT или Gemini в сложных задачах. Оно показывает другой подход: ИИ может жить на слабом железе, если модель достаточно компактна, а сценарий понятен. Для перевода, коротких справок и базовых вопросов этого уже хватает.
Зачем вообще крутить ручку ради ИИ
Проект Squeez Labs бьет сразу по двум больным местам современной ИИ-индустрии: приватности и энергопотреблению. Облачные чатботы обрабатывают запросы на удаленных серверах, а рост нагрузки толкает компании к новым дата-центрам, которым нужны электричество и вода для охлаждения.
Ручная тяга здесь, конечно, подана с юмором. На шуточной странице CrankGPT авторы предлагают апгрейд до версии с велотренажером. Для тяжелых запросов они иронично описывают вариант с целым залом людей на педалях.
Но сама линия развития не шуточная. Squeez Labs говорит о задаче сделать ИИ меньше, дешевле и быстрее. Тогда модели смогут чаще работать на локальных устройствах, а не только в облаке.
Apple уже показала похожую границу на примере новых функций Siri: часть задач можно считать на устройстве, а сложные запросы уходят на серверы. Это нормальная архитектура для мощного ассистента. Но пользователю приходится доверять инфраструктуре компании, даже если запросы дополнительно защищают.
У локального ИИ другой компромисс. Он слабее в сложных рассуждениях, хуже держит большой контекст и требует аккуратной оптимизации. Зато данные остаются рядом с пользователем, а устройство не зависит от тарифа, покрытия сети и состояния удаленного сервиса.
Для массового рынка CrankGPT пока скорее инженерный арт-объект. Никто не побежит менять смартфон на коробку с рукояткой. Но такие проекты хорошо напоминают, что ИИ не обязан жить только в стойках серверов с мегаваттами питания.
Авторы проекта формулируют это почти как завещание для железячников: «Если электронику держать сухой и при разумной температуре, нет причин, по которым эта штука не проработает сто лет, хотя свежая SD-карта точно понадобится».
