Це не на iPhone,
Pixel)

38. Жива. Зараз це розкіш.

Літо планую провести більше в Києві без виїздів (які зараз не особливо щось дають без задавнених рішень нагорі, окрім чергового шансу потрапити під дрон, а це було і не раз) і впорядкувати ряд речей планів, зокрема:

* Створити ГО, яка дасть змогу розширювати компетенції та об’єднуватися з однодумцями, посилюючи один одного.
* Розширити юридичну допомогу та захист прав військових, їхніх близьких, громадян з Оболоні та всіх інших.
* Зробити підсумки до 7 років служби у ВРУ (сприймаю це радше як варіант служби). Зокрема підсумувати результати опіки та відповідальності за Оболонь.
* Зібрати докупи різні пропозиції, ідеї, які дарувала роками комітетам, Кабміну, ОП та зареєструвати кілька законопроєктів мрії як мінімум для історії, якщо вже у владі такі нерішучі чи втомлені до назрілих змін — про СБУ, військову реформу, службу тощо.
* Реєструвати і наполягати надалі!
* Опанувати роботу з ШІ, зокрема з локальними моделями задля безпеки та конфіденційності наших з вами даних.
* Нарешті запустити YouTube канал.
* Створити сайт.
* Опублікувати підсумки, ідеї, плани на сайті. Налагодити там зворотній звʼязок.
* Навчитися керувати дроном.
* Відновити навички з такмеду.
* Освоїти якісно свою особисту зброю, подаровану свого часу Будановим.
* Стабілізувати вагу та навчитися стабільно бігати.
* Розібратися з особистим хоч трохи.
* Розібратися зі своїм візуальним стилем.
* Малювати!
* Перезапустити Instagram про побут без політики.
* Ще ряд речей.

Все це для того, щоб підлатати дещо виснажений дах і стати ще ефективнішою в захисті ваших інтересів, стійкості попри розвиток колапсу навколо.
Боротись за стратегію!
І добити Сирського (не фізично).

А це все для української держави і нас усіх.
Слава Україні! Слава нації!
Люблю вас.

Знайомтесь, це Афіна) Назвала так.

Наважилася на купівлю ШІ-комп’ютера для офісу. Перш за все, щоб обробляти дані за допомогою ШІ локально, без хмарних підписок. Цей комп’ютер недешевий, але безпека наших із вами даних має ціну, і всі, хто зі мною працюють, можуть бути впевнені, що в моєму офісі цінується конфіденційність, а особисті звернення громадян чи делікатні військові розробки та оновлення не зливають тихо в ChatGPT. Так, маю підписку, але вона мінімальна та обмежена.

Останнім часом більше користуюся ШІ-сервісом від Proton. Він простіший за передових провайдерів, проте має зрозумілу політику і шифрування, схоже на те, як шифруються чати у WhatsApp чи Signal. Базується на LLM, великих мовних моделях ШІ, розміщених на серверах компанії. Тобто не має власної фундаментальної моделі, а використовує комбінацію доступних для широкої аудиторії рішень.

Але для автоматизації та агентських функцій (це коли формуєш собі цифрового помічника з можливістю використання ним програм, даних та проактивної поведінки) він не підходить.

Водночас вивчати та вникати в розвиток штучного інтелекту зараз треба всім. Це про вимоги часу та про те, що в недалекому майбутньому люди поділяться на тих, хто став модератором і керівником ШІ; тих, хто став залежним користувачем ШІ та підміняє ним функції свого мозку; тих, хто відстає, не маючи доступу до ШІ з різних причин; і тих, хто буде протистояти прогресу та опиниться в маргінальних популяціях, які вже зараз існують і свідомо не використовують автомобілі чи засоби мобільного зв’язку.

Комп’ютер має процесор NVIDIA® GB10 Grace Blackwell Superchip із 128 гігабайтами об’єднаної пам’яті. Встановлена NVIDIA DGX OS на базі Ubuntu (Linux ❤️). Це проєкт Ubuntu on ARM, системи для ARM-архітектури, яку використовує і новий процесор NVIDIA. Він випущений як рішення для локального запуску ШІ, близьке за концепцією до процесорів Apple Silicon у MacBook та iPhone. І хоча провідні MacBook швидші (і дорожчі, до речі), але вони досі слабші для запуску великих локальних моделей ШІ та роботи з довгим контекстом.

Простими словами: коли ви робите запит, далі йде обробка та «мислення» моделі, а вже потім ШІ вам відповідає. Відповідь може бути дуже швидкою, але, якщо ви бажаєте використовувати ШІ в дослідженнях та покращенні складних рішень, найважливішим є саме етап якості аналізу, «мислення». Даний мінікомп’ютер дає можливість використовувати доволі великий контекст (наприклад, опрацювати сотні сторінок), не втрачаючи його, і тримати планку якості. І все це локально.

Також технології NVIDIA та інші дають змогу розгорнути автономного ШІ-помічника, натренувавши його на власних базах даних. Без зливання інформації в хмару.

Шлях непростий. Ціна — як у потриманого автомобіля: офіційно обійшовся приблизно у 4 тисячі доларів.
❗Буду його декларувати.

Та за цими технологіями майбутнє, і з помічниками їх освоюватимемо. Саме в напрямку усвідомленої роботи та модерації ШІ, а не сліпого споживання з порушенням принципів конфіденційності.

Можливо, можна було знайти краще рішення. Так, хмарні Claude і ChatGPT сильніші, і їх треба досліджувати та використовувати. Та все ж у буремні часи науково-технічного стрибка і воєн спокійніше мати локальну платформу. Звісно, із системою резервного копіювання та дублювання даних, як без цього.

Коротше, знайомтесь: це Афіна та маленький початковий звіт про неї, адже куплена на ваші податки й буде покращувати роботу вашого нардепа 🫡

Далі триматиму в курсі та ділитимусь враженнями.

P.S. Не реклама, і ще не знаю, як працюватиме і що вийде.

Отже, друга частина про Афіну, ШІ-комп’ютер на базі NVIDIA® GB10 Grace Blackwell Superchip.

Зізнаюсь, півдоби присвятила вивченню та тестуванню. Поділюся спостереженнями і що далі. Зразу скажу: пишу власні враження, не є розробником, лише споживачем, проте і не зовсім новачок у роботі з Linux. Linux використовую як користувач ще з часів навчання в медуніверситеті, коли Windows не подобався, піратські програми й систему використовувати не хотіла, а макбуки не були поширені та доступні. Тоді сама через інтернет знайшла альтернативу та встановила Ubuntu на свій Dell. І хоча налаштовувати було незвично й складно, зрештою з того часу звикла і безперервно використовую Linux-дистрибутиви ВСІ ці роки. Далі з’явився перший MacBook, модель 2013 року. Але постійно і досі є один комп’ютер на Linux (зараз на прекрасній Fedora Kinoite), а один — Mac. Тож середовище було знайоме, і консоль (ввід команд без графічного інтерфейсу) не страшна, але все це лише на перший погляд. Адже в Афіни архітектура ARM, і кількість програм поки що дуже обмежена, а нюансів багато.

Та спочатку про безпеку та позиціонування. Система не має української локалізації, окрім англійської тим не менше є повна підтримка російської мови… Дивно. Звісно, вибрала англійську. На робочому столі вас зустрічає посилання на сайт з інструкціями для встановлення цифрових помічників, навчання моделей тощо. Так от, для налаштування взаємодії з цифровим помічником пропонують… Telegram. Так, в офіційній інструкції NVIDIA пропонують підключити NemoClaw до Telegram-бота.

Як розумію, система не дає можливості встановити користувацьке шифрування, як це можна зробити у звичайних дистрибутивах, зокрема якщо взяти не настільки прив’язану до екосистеми NVIDIA платформу, а AMD Ryzen AI Max+ 395 з 128 гігабайтами пам’яті, але на звичній архітектурі x86-64 (це класичний варіант чіпа, на який можна встановити будь-який Linux і Windows). Розробники покладаються радше на вбудоване апаратне шифрування накопичувача, але воно майже не піддається контролю з боку користувача. Можна окремо після первинного налаштування зашифрувати диски вручну, але ще не пробувала цього робити, і, за відгуками, то доволі проблемно. Отже, попри орієнтацію на локальну автономну AI-інфраструктуру, вже є кілька моментів щодо безпеки.

Прошивка в Asus Ascent GX10 модифікована порівняно з нативною і ще має ряд проблем. У мене комп’ютер один раз не запустився просто так. На форумах радять перепрошити компʼютер на оригінальний варіант від NVIDIA, але доступ до UEFI/BIOS (це базове середовище керування комп’ютером до запуску ОС, де можна, наприклад, вибрати диск для завантаження) з помилками і моя спроба поки була невдалою.

Із хорошого. Це мініатюрний комп’ютер розміром із маленький Wi-Fi-роутер чи пів книжки. Він тихий, шум ненав’язливий, стабільно тримає навантаження і дає змогу працювати з великими локальними моделями довго, без перегріву й без різкого падіння якості опрацювання контексту.

Так, для початку я завантажила GPT-OSS-120B. Це локальна велика мовна модель (LLM) від розробників ChatGPT на 120 млрд параметрів. Як вже писала, що значать ці характеристики? Сотні сторінок аналітичної обробки в рамках одного чату без різкого падіння якості тощо. Я тестово завантажила 16 документів по кілька десятків сторінок кожен, які містили публікації на тему військової реформи, складні за змістом. GPT-OSS-120B все «переварив», зробив узагальнення, відповідав на специфічні питання тощо. Далі попросила створити сайт і отримала сотні рядків коду без зависань.

Швидкість обробки була посередня: умовно, поставила завдання і пішла заварювати чай. Але, як писала вище, якість опрацювання контексту рівномірна. Модель не збивалася, не повторювалася, надавала рівні відповіді однакової якості — що на початку, що в кінці чату. У людини такий обсяг роботи зайняв би не 30 хвилин, а пару днів.

Загалом, компʼютер розрахований, що можна створити ланцюжок послідовних автоматизованих завдань і отримати результат за кілька годин опрацювання, наприклад. Весь цей час він буде працювати на одному рівні продуктивності за умови стабільного електропостачання, звісно. Бачу також, що він гарно може бути в тандемі з обізнаним фахівцем у варіанті повного дня зайнятості обох. Людина як модератор, ШІ-компʼютер як виконавець-помічник.

Адже.

Щоб налаштувати навіть елементарні операції, вам все треба писати через консоль на кожному етапі базового запуску: просто завантажити сервіс Ollama для локального ШІ, завантажити модель, встановити графічний інтерфейс, який виглядає як чат у браузері Firefox (так, хто не звик до нього, ще один момент: багато інструментів тут працюють через браузер Firefox, а вибір альтернативи обмежений; мені було добре, бо Firefox маю як основний браузер з моменту його появи, і я ніколи його не змінювала, були й є додаткові, але основний завжди він). Компʼютер видає якісь помилки, неточності, потребує уточнення на форумах NVIDIA, Reddit тощо і… звісно, допомоги хмарних ШІ як ІТ-консультантів для розгортання інфраструктури:)

Ще кілька днів протестую і остаточно визначуся, чи залишати Афіну. Треба не забувати про баланс часу, зусиль, коштів і результату.

Є ще варіанти взяти рішення від Apple чи AMD, а це повернути тощо.

Чи уживатися з Афіною і поступово виліпити з неї, що треба (тоді повністю її перепрошиватиму).

P.S. Зразу виникли думки, що така несподівана підтримка російського може бути про деяку співпрацю в корпоративному середовищі і про використання технологій задля побутови локальних рішень та обхід санкційного, безпековго обмеження хмарних підписок… Бентежно. Чіп та операційна системи американські.

Таке

Помер ще один нардеп поточного скликання. Степан Кубів. Досвідчений, багато разів протягом української історії не залишався байдужим. Співчуття рідним та близьким.

Ярослав Куц, адвокат "ряженого" співака Тараса Тополі, вніс 4 млн грн за Єрмака. Фортеця Бахмут, коротше.

Саме Куц є адвокатом Тополі у справі проти мене за те, що написала про Тополю і його побігеньки з фіктивною службою.

Шабунін повідомив, що списався через ВЛК 👀

Третя і заключна частина про Афіну, комп’ютер на базі NVIDIA для ЛОКАЛЬНОГО ШІ.

Афіну повернула. Причини:

* сира прошивка;
* повільна робота;
* стаціонарний форм-фактор обмежує використання;
* потребує щоденної опіки та налаштування, а отже, обізнаного персоналу або ж мого особистого часу, що не є профільним напрямком роботи;
* як зазначала раніше, дрібниці, але російська мова та Telegram-бот, рекомендований для взаємодії з цифровим помічником, не радують;
* водночас Linux on ARM-конфігурація обмежує у виборі альтернативного програмного забезпечення;
* так, це Linux, але основна архітектура та особливості є закритою і належать компанії NVIDIA, а не open source;
* співвідношення ціни та якості, враховуючи вищеописане та враження в попередніх публікаціях, не виправдане.

Але не відмовляюся від ідеї сформувати локальну ШІ-інфраструктуру. Досвід дав можливість остаточно зрозуміти, що потрібно для мого офісу і які пріоритети. Дійсно, роботу з нечутливими даними, такими як законодавча та публічна діяльність, можна значно покращити з використанням хмарної архітектури, а для локального опрацювання залишаються деякі чутливі документи та звернення громадян, які можна закрити простішими технічними рішеннями.

Вивчаю, що можна організувати на базі AMD Ryzen AI (Strix Halo) або ж придбати Apple Mac Mini тощо як стабільний споживчий варіант.

Триматиму в курсі. Дякую всім, хто відгукнувся, допоміг і проконсультував. Було дуже цікаво і багато чого прояснилося.

Отже, нічого декларувати.
Rozetka, дяка за терпіння.

Воєнкорка Діана Буцко:

«Зараз 167 формують під Сирського і максимально людей туди забирають», — написав мені вчора один офіцер.

На його бригаду прийшов наказав віддавати людей у нову бригаду, що формується.

Сьогодні Тарас Чмут написав, що формуються аж дві механізовані бригади, але Повернись живим декларує, що не буде з ними працювати.

«Збройні сили планують сформувати 2 нові механізовані бригади. Попри тотальну неукомплектованість двох сотень інших бригад. Попри тотальний дефіцит якісних командирів та старшин. Потри величезну незакриту потребу в ОВТ, дронах, транспорті, НРК та іншому майні. Попри численні заяви різних посадових осіб, що цього не буде», — написав Чмут.

«Найприкріше в цьому, що формуєш [підрозділ], накопичуєш сили, людей навчаєш і все може піти коту під хвіст. Коли мені кажуть, що людей можуть просто вкрасти, опускаються руки», — зазначив мій співрозмовник.

Ну що ж, до кінця року чекаємо на 170ті бригади. Хоча не факт. Генштаб, аби трішки знизити критичний запал публіки, знайшов новий спосіб. Деякі нові бригади ховають поміж «старих» чисел. Так, друга нова бригада буде під номером №50. Але сховати таку цікаву тему не так уже й просто 🤫

"Дешеві розвідувальні дрони як відповідь на загрозу перехоплення"

• Поява у російських військ дронів-перехоплювачів різко скоротила термін служби розвідувальних БПЛА: замість сотень годин польоту вони тепер можуть бути знищені вже після одного-кількох вильотів;

• Військові стикаються з дилемою: ризикувати втратою дорогого безпілотника ($40-80 тис.) заради розвідки або зберігати техніку, залишаючись без інформації, що змушує шукати нові тактичні рішення;

• Виробники обирають один із двох шляхів: розробляти дорогі дрони зі системами ухилу від перехоплення або створювати масові, дешеві та одноразові розвідувальні БПЛА, втрату яких не є критичною для бюджету.

Джерело: https://oboronka.mezha.ua/deshevi-krila-rozvidniki-311408/

В "Скелі" вбивають людей

В "Скелі" сказали, що він виліз на сосну і впав. І вмер.