Домашний AI-кластер из любого барахла

Exo - интересная разработка для автоматического создания AI-кластера из повседневных устройств.
Объединяет iPhone, iPad, Android, Mac, Linux в единый мощный GPU кластер.
Поддерживает LLaMA и другие популярные модели.
Оптимально распределяет задачи на основе топологии сети и ресурсов.
Автоматически обнаруживает устройства без ручной настройки.
Предоставляет API, совместимый с ChatGPT, для запуска моделей.
Использует peer-to-peer архитектуру вместо master-worker.
Доступ к моделям через библиотеку exo с использованием peer handles.
Запускает endpoint на http://localhost:8000.

Поддерживает различные движки вывода и стратегии разделения модели по слоям между устройствами.

В примере на видео кластер из:
- iPhone 15 Pro Max
- iPad Pro M4
- Galaxy S24 Ultra
- MacBook Pro M2 and M3 Pro
- 2 x MSI NVIDIA GeForce RTX 4090 SUPRIM

Старое железо теперь не выкидываем.

#Exo #DIY #AICluster
-------
@tsingular

LeRobot складывает майки.

Недавно писал про новый DIY фреймворк от HuggingFace и вот они продемонстрировали пример практического использования конструктора.

· Нейронка предсказывает будущее положение манипуляторов по данным с камеры
· Камеры iPhone и MacBook Pro
· Стоят руки по $300 за штуку
· Обучение на около100 примерах движений занимает несколько часов на Apple Silicon

Вот я сегодня когда писал про то, что стартапам нужно думать в парадигме AI-First, - так вот это как раз оно.
Мыслить любое развитие нужно исходя из использования робототехники и ИИ.
Брать и пробовать. Тут пока непаханое поле экспериментов.
Сделайте уже стартап с роботами, которые будут собирать и складывать носки там, например :)

#HuggingFace #LeRobot #DIY
———
@tsingular

🤖 DIY Фьюжн: Как построить ядерный реактор на кухне (с помощью AI)

Чел собрал нейтронный фьюжн-реактор прямо у себя на кухне, используя AI как консультанта. 🔬

Технические детали:
- 30кВ/10мА электростатический преципитатор
- Вакуум 3 мТорр (это в 253,333 раз глубже атмосферного!)
- Bubble-детектор для подсчета нейтронов
- Самодельный дейтерий из тяжелой воды через электролиз

Самое крутое — весь процесс получения дейтерия обошелся всего в $112 ($32 за hydrocar PEM + $80 за 50г D2O). Из этого получилось целых 56 литров D2 газа! 🧪

Автор активно использовал Claude для:
- Отладки процессов
- Проверки безопасности
- Следования сложным инструкциям

Конечно, это не промышленный реактор, но как демонстрация возможностей AI-ассистированного DIY — просто 🔥

Сборка шла на стриме 36 часов подряд.
До этого он же пару месяцев назад собрал плазменный реактор.
Самое интересное, что он особо во всем этом не разбирался настолько детально, просто задавал вопросы Клоду.
Самостоятельное изучение предмета заняло бы тысячи, если не десятки тысяч часов.

Страшно, конечно, что любой энтузиаст может подобное с биологией провернуть и мы будем с ностальгией вспоминать летучих мышей ещё.

#AIinScience #DIY #реактор #NuclearFusion
———
@tsingular