Продолжаю подробнее рассказывать про уровни ИИ. В предыдущей статье мы поговорили про реактивные машины. Сегодня, про ИИ с ограниченной памятью (текущий уровень развития, то, где мы сейчас):

Что такое ИИ с ограниченной памятью?
Если реактивные машины действуют только на основе текущих (входных) данных, то ИИ с ограниченной памятью — способен запоминать и использовать прошлый опыт. Думайте про это примерно как про разницу между шахматистом, который знает только правила игры, и шахматистом, который помнит свои предыдущие партии и учится на них

Как работает ИИ с ограниченной памятью?
a) Получает входные данные
b) Сверяет их с сохранёнными образцами или опытом
c) Принимает решение с учётом как текущих данных, так и прошлого опыта
d) Сохраняет результаты текущего взаимодействия для будущего использования

Главным и отличным примером ИИ с ограниченной памятью являются современные чат-боты и языковые модели (LLM - large language model)

Наши модельки, такие как GPT, Claude, Grok, Bard и тд:
a) Могут помнить контекст текущей беседы (хотелось бы ПОБОЛЬШЕ контекста)
b) Обучены на огромном массиве текстов и используют эту память для генерации ответов
c) Поддерживают связный диалог, обращаясь к ранее упомянутой информации

НО, у них есть существенные ограничения:
a) Не могут запоминать информацию между разными сессиями общения (точнее, могут, но разными хаками)
b) Не способны самостоятельно обновлять свою базу знаний
c) Не имеют настоящего понимания мыслей, эмоций или намерений

Не обманывайтесь, когда вам кажется, что они почти люди. Они просто имитируют человеческое общение, подставляя нужные токены, используя массивы текстов и данных, на которых их обучали, они всё ещё далеки от третьего уровня ИИ (теория разума)

В чём отличие таких ИИ от реактивных машин?

a) запоминают прошлый опыт, в то время как реактивные машины работают только с текущими данными
b) могут адаптироваться к новым условиям, а реактивные машины всегда действуют по одним и тем же правилам
c) совершенствуются со временем на основе опыта, а реактивные машины не меняются после создания
d) могут предсказывать будущие события на основе прошлого, реактивные машины только реагируют на то, что происходит прямо сейчас (на основе входных данных)

Итог

ИИ с ограниченной памятью — это технология, которая УЖЕ окружает нас повсюду (и с каждым годом будет все больше изменений).

Следующий уровень — ИИ с теорией разума, который сможет не только учиться на опыте, но и понимать мысли, убеждения и намерения других. До него еще не скоро, надеюсь 🥶

И о них мы поговорим в следующем посте

#ии

Вот вам вечерний котичек под конец рабочей недели. Всем хороших выходных 😘

#юмор

Нас уже больше 500 человек 😮
За 15 дней
Круто, растем
Спасибо! 🥰

Как все успевать 😴

Несколько человек за последние месяцы меня спрашивало - "как ты успевашь так много"? Основная работа, несколько (3+) проектов помимо работы, свой мини-блог, жена. Я постоянно отшучивался в ответ, но после последнего раза задумался - а может написать, что и как? Может быть, хоть кому-то будет полезно - и это будет отлично 😇

Я не какой-то там гуру оптимизаций, не использую никаких специальных техник, просто стараюсь действовать по плану и следовать некоторым правилам.

* Всегда делаю в воскресенье верхнеуровневый планнинг на неделю вперед
* Каждый вечер – составляю подробный план на следующий день, веду все в гугл календаре
* Заметки - важное, списки, задачи - лучше описывать в заметках - чтобы ничего не забыть. Да, в такое время живем, без этого - никак
* Если понимаю в течение дня, что что-то не очень важно, но записано на сегодня – смело двигаю на следующий день – тут нужна гибкость, не бояться пересматривать приоритеты и двигать менее важные задачи "на потом". Иногда бывает так, что "потом" не наступает, и их просто не нужно делать - профит
* Все, что можно делегировать - лучше делегировать (подчиненные, коллеги, специалисты, друзья, родственники) поначалу страшно и сложно - доверьтесь чутью)
* 5-10 минут перерыв каждые 2 часа - иначе концентрация теряется, ну и все - минус время
* Прокрастинация – зло. Мне очень сложно с ней. Нужно бороться и индивидуально понять, как победить – тут не подскажу, не спец - надо посидеть подумать, какие триггеры есть, и отработать их
* Обязательно спать 7+ часов – тут все просто. сон - это основа основ
* Не забывать отдыхать – выделяйте время для отдыха и любимых занятий, помогающих перезагрузиться. Я, например, пару раз в неделю на несколько часов езжу в компьютерный зал и скидываю там все напряжение

Главное - планировать и планировать и еще раз планировать. И соблюдать планы. И не прокрастинировать 😊

#простомысли

Поставил себе цель сегодня - сделать небольшой проект чисто на ИИ через cursor agent, не написав ни строчки кода самостоятельно (только домен и сервер купил вне cursor'a).

В итоге - оно готово, но почти целый день ушел. Завтра напишу про это, расскажу экспириенс.

cпойлер - не все так круто пока что 🥶

#простомысли

Как сделать вебсайт при помощи ИИ, ни написав ни строчки кода? 🤖🐥

Вчера жена попросила сделать ей сайт-портфолио. Это просто сайт визитка модели, с параметрами фигуры, каруселью фотографий и ссылками на соц сети. Тех задание в лучших традициях любимых клиентов - "сделай красиво, и чтобы хорошо работало".🐙

Варианты: 1) написать самому - леньскука 2) заюзать фигму или другой сервис - можно, но... 3) это шанс потестить cursor ide на реальном примере - конечно же, это наш вариант

Решил писать полностью с нуля полностью при помощи cursor ide agent, не написав ни строчки кода сам. Единственное, что разрешил себе сделать вне курсора - это купить домен и виртуальную машину. За пример взял https://www.mgm-models.de/women/mainboard/573-milena-ioanna

Вводные понятны, поехали!

Начинаем с выбора ИИ модели - конечно, беру свою любимую claude sonnet 3.7 в режиме extended thinking. Стэк предлагаю выбрать агенту самому, потому что, в целом, мне большой разницы нет - код писать я буду не сам, и поддерживать там будет особо нечего. Агент выбирает react и next js. Каркас проекта готов за 5 минут. Скармливаю агенту сайт-пример, тужится несколько минут - выдает мне отвратительный результат. Начинаю с ним разбираться по верстке, правим там и тут, и сталкиваюсь с первой (и единственной, по идее) проблемой - агент почему-то долго тупит с логикой анимации карусели, фото то выезжают криво, то появляется какое-то дерганье - часа 2-3 убил на этом моменте.

Наконец, карусель готова, но фото грузятся очень долго даже на локальном компе - пишу агенту соптимизировать фото - устанавливает нужные библиотеки, пишет нужные скрипты - сжимает фото почти без потери качества - профит, теперь работает быстро.

Дальше, занимаемся палитрой и цветами - увы, спарсить цвета с сайта примера - не вышло. Подбирали методом тыка с агентом.

Вспоминаю, что забыл про мобильную верстку, но тут проблем не возникло - быстро сверстали, пофиксили пару багов на дескптопной.

Все, код готов, результатом я доволен - отправляю агента подключиться к виртуальной машине, и задеплоить туда все наше счастье. Тут все проходит отлично - на удивление - все настроено, собрано, задеплоено почти с первого раза. Также без проблем выпускаем сертификат и прописываем конфигурации nginx.

Кстати, коммитить и пушить в гит агент тоже может, может фотки искать на компе сам - я просто сказал "найди фотки жены в папке на рабочем столе и используй их" - он сам пошел, потыркался, поискал - нашел и копирнул. Тесты интерфейса/юнит - тоже пишет отлично. Я просил его в конце написать тесты на такой сайт, которые он сам посчитает нужным - прогонять их, пока они не пройдут, и потом удалить - он действительно нашел сам пару багов, поправил их - и дропнул тесты

Потратил где-то 5 часов на все про все. И да, человек без опыта в разработке, конечно, не смог бы сесть и так же быстро все написать. Но думаю, освоить какие-то базовые вещи типа что такое домен, днс, виртуальные машины - не супер сложная задача для людей

Результат: https://sagadeeva.com

Итог: конечно, в фигме я бы сделал это быстрее, часа за два. НО, камон, я просто давал команды, и все работает. Крутое чувство, и заставляет задуматься, в какую сторону развиваться текущим разработчикам

ps: буду теперь пробовать подключать в текущие большие проекты, на real-world инженерных задачах - сложнее, чем просто сайтик сверстать. Интересно, как он там себя проявит.

pps: Я реально под очень большим впечатлением. Это же, по сути, меняет вообще весь подход к работе разработчиков. Буду обязательно думать, как применить это у себя в командах

#простомысли

Айтишника переводят с удаленки в офис 😳

#простомысли

Как учиться, когда нейросети знают всё? Образование в эпоху ИИ 🧑‍🎓

Частенько сталкиваюсь с вопросом о том, насколько актуально и ценно сейчас школьное образование - во время, когда любую работу можно за пару секунд получить с помощью ChatGPT, Claude, Gemini, Grok, DeepSeek и тд. Есть ли смысл вообще учиться? Точно да. Но как заставить детей впитывать знания, как раньше, а не просто списывать у ИИ моделек?

Думаю, что образование, как оно есть сейчас (например, в рф) - устарело, и нужно менять подходы. На что вообще стоит сделать упор сейчас:
* переориентация заданий на применение знаний, а не их воспроизведение: проектное обучение, где важен не только результат, но и процесс - включая промежуточные этапы работы, обсуждения и взаимодействие в группе
* больше устных презентаций и защит работ - нужно демонстрировать именно понимание темы. Например, у доски отвечать на вопросы и объяснять свой ход мыслей
* учить наизусть больше - это полезно для мозга)
* бОльший акцент на развитии soft skills — коммуникация, сотрудничество, креативность - это, опять же, к проектной работе и конкретным кейсам применения знаний. Нужно учиться коммуницировать, тестировать идеи, развивать критическое мышление и аналитические способности
* кстати, немаловажно то, что у преподавателей есть проблема - отсутствие обучения, переподготовки. Да и желание изучать новое, в том числе ИИ - разбираться с ним - отсутствует. А незнание, как мы знаем - равно недоверие и страх

То есть, я бы не ограничивал применение ИИ, а, наоборот, старался бы обучить детей, как этично и грамотно им пользоваться. И учил бы правильно интерпретировать ответы, полученные от ИИ - и применить их на практике

И нужно действовать быстро. Мне кажется, что те страны, которые быстро адаптируются и научат людей смолоду грамотно использовать ИИ - очень-очень сильно вырвутся вперед. Счет идет точно не на года. Хороший пример - Эстония, первой из стран массово внедряет AI в школы. По данным OpenAI, в Эстонии ChatGPT уже пользуется каждый четвертый житель. Ровно то, что я и говорю) Правильно делают

Что думаете об этом?)

#простомысли #ии

Как работают современные LLM (large language models) - ChatGPT и прочие 🤖

Мы много говорим о современных чат-ботах, ChatGPT и аналоги - но еще не говорили про то, как оно устроено под капотом, как модели вообще "думают"? На самом деле - они не думают в привычном нам понимании, они скорее подбирают токены и слова. Архитектура таких моделей называется трансформер.

Ниже постараюсь простыми словами объяснить, как сам это понимаю:

1. Разбиение текста на токены

Прежде чем обрабатывать текст, трансформер разбивает его на маленькие части — токены. Токен может быть:
* целым словом: "трансформер"
* частью слова: "транс" + "формер"
* знаком пунктуации: "."
* часто встречающимся сочетанием букв: "ing" в английском

Например, фраза "Искусственный интеллект работает с текстами" может быть разбита на токены: ["Искус", "ственный", " интел", "лект", " работ", "ает", " с", " текст", "ами"].

Этот шаг нужен, чтобы модель работала с текстом эффективно, слова для нее - слишком длинно

2. Перевод токенов в числа

Моделька не понимает слова напрямую, поэтому каждый токен превращается в вектор — набор чисел. Представьте, что каждое слово — это точка в многомерном пространстве (само пространство и работу с ним приложил к посту), и слова с похожим смыслом находятся рядом в этом пространстве:
* кошка и котёнок имеют похожие векторы
* кошка и автомобиль — сильно различающиеся

3. Механизм внимания: связи между словами

Это ключевая фишка трансформеров: модель оценивает, насколько важно каждое слово в предложении для понимания другого слова

Создаются "карты внимания", показывающие, какие связи между словами значимы. Например, в предложении "Мария, которая живёт в Москве, любит кофе" модель связывает "любит" с "Мария", а не с "Москва"

Технически каждое слово получает "веса внимания" для всех других слов в тексте, определяющие их важность в данном контексте

4. Слои трансформера

Трансформер состоит из множества слоёв:
* в первых слоях обрабатываются базовые связи между словами
* в средних слоях — грамматические конструкции и фразы
* в глубоких слоях — абстрактные концепции и общий смысл

Каждый слой преобразует векторы слов, последовательно обогащая их контекстной информацией

Итого:

Когда модель обрабатывает запрос от пользователя:
* берёт запрос и превращает его в последовательность векторов
* пропускает эти векторы через все слои трансформера
* на выходе получает векторное представление запроса

Когда модель генерирует ответ:
* используя полученное векторное представление запроса, модель предсказывает наиболее вероятное следующее слово
* выбирает его из своего словаря токенов
* добавляет к существующему тексту
* повторяет эти шаги, теперь учитывая и новое слово, пока не сформирует полный ответ

Для простого понимания, представьте оркестр, где:
* токены — это отдельные музыканты
* векторы — музыкальные партии
* механизм внимания — дирижёр, определяющий, кто когда играет и как громко
* слои — это репетиции, на каждой из которых исполнение становится всё лучше
* итоговая генерация — это финальный концерт, где всё звучит гармонично

Большие языковые модели — это гигантские оркестры с миллиардами или триллионами музыкантов. Это очень упрощённо - но суть передает

К посту приложил визуализацию процесса "думания" - и потыкать можно тут - залипательно)

#ии #простомысли

Под утренний кофе (3-4 минуты) ☕️☕️

-------------------

1) Глава Google Deepmind (их лаба по ИИ) предсказал AGI (artificial general intelligence) через 5-10 лет

AGI - это концепция искусственного интеллекта, который способен понимать, обучаться и применять знания в широком спектре задач, подобно человеку

По его словам, все зависит от успехов в создании даже больше не языковых моделей, а моделей мира, способных работать шире - не только в цифровом мире, но и в материальном. А от языковых моделей - прямо жестко сильных прорыров ждать не стоит. Да, какие-то улучшения будут (контекст больше, понимание получше) - но не критичные

-------------------

2) Уровень интеллекта у людей рекордно упал

К такому выводу пришли ученые из Организации экономического сотрудничества и развития

Главная причина - это "лавина информации, которая накрывает современных людей. Они листают бесконечные ленты в соцсетях, им постоянно приходят уведомления, они стали тратить гораздо меньше времени на самостоятельный поиск информации в интернете и общение с другими людьми. Если раньше люди сами направляли свои действия, то теперь перешли к пассивному потреблению информации с постоянным переключением контекста.

Исследователи утверждают, что эти явления, которые набирают обороты в последние годы, негативно влияют на способность людей обрабатывать текстовую информацию, внимание, память и самоконтроль" (источник)

Тут вообще не спорю. Долго держать внимание у некоторых моих сверстников (я уж молчу про младшее поколение) - не получается - это прямо сильно заметно. Я тоже это с шортсами/тиктоками и тд связываю 🫥

-------------------

3) Китайская BYD представила систему для зарядки электромобилей «почти такой же быстрой, как на АЗС»

По словам компании, система позволит заряжать электрокары почти так же быстро, как заправлять автомобили с бензиновым двигателем. За 5 минут зарядки можно будет пополнить запас хода на более чем 400 км

Очень круто, я через несколько месяцев планирую машину покупать, и очень хочется электричку. Но мы планируем много путешествовать, а сейчас электрокары - это все же что-то больше про "покататься по городу". Но, видно, через пару лет все поменяется. Ну что ж, ждемс 😇

-------------------

4) (для технарей) Стрим, как два айтишника обсуждают заявление Дарио Амодеи "что через год 90% кода будет писать ИИ"

Немного нудный, в чисто технарском стиле. Но кто любит детали и погружаться поглубже - советую - мне было интересно

-------------------

Реакция = поддержка 🐾

@thats_it_ai_tech

#подутреннийкофе #новости

Вредит ли ChatGPT нашей планете? 🌱☘️🍃

Часто натыкаюсь на статьи/заявления: мол, все эти ваши ИИ - очень вредно для планеты, куда мы катимся, все плохо! Но все не доходили руки углубиться в эту тему. А тут коллега скинул занимательную статью с интересными графиками и выкладками. Как раз в тему. Обзор статьи ниже:

Если коротко - на самом деле текущие LLM ИИ модели - вредят не сильно. Влияние на окружающую среду незначительное, если сранивать с другими повседневными активностями:

1) Энергопотребление

Один запрос к ChatGPT потребляет около 3 Вт⋅ч энергии, что в 10 раз больше чем Google-поиск (0,3 Вт⋅ч)

Это эквивалентно:
* 2 минутам просмотра видео
* 3 минутам работы LED телевизора
* Загрузке 30 фото в социальные сети
* 15 футам поездки на седане
* 3 часам работы цифровых часов
* 2,5 секундам работы обогревателя

Один час просмотра Netflix равен по воздействию 300 запросам к ChatGPT

2) Общее воздействие (в сравнении с потреблением американских домохозяйств)

ChatGPT в целом потребляет энергию эквивалентную 20,000 американских домохозяйств, но обслуживает 300 миллионов пользователей ежедневно (на момент написания статьи, сейчас уже больше)

Для сравнения:
* Google Maps = 11,000 домохозяйств
* Fortnite = 23,000 домохозяйств
* Zoom = 150,000 домохозяйств
* Spotify = 200,000 домохозяйств
* Netflix = 800,000 домохозяйств
* YouTube = 1,000,000 домохозяйств

3) Обучение моделей

Обучение GPT-4 потребовало энергии эквивалентной 200 авиаперелетам между Нью-Йорком и Сан-Франциско
Это разовые затраты, после чего модель может обслужить миллиарды запросов

4) Использование воды для работы моделей

20-50 запросов к ChatGPT используют 0,5-1 л воды

Сравнение потребления воды:
* Отправка электронного письма = 10 мл
* Запрос к ChatGPT = 30 мл
* Час прослушивания музыки = 250 мл
* Час в Zoom = 1720 мл
* Просмотр 10 минут видео 4K на Youtube = 2580 мл

-------

В общем, видно, что в сравнении даже с листанием шортс/тиктоков - ничего страшного 😅

В конце автор говорит: используйте ИИ столько, сколько хотите. Не тратьте время на беспокойство об индивидуальном использовании ИИ с точки зрения климата - это отвлечение внимания от реальных экологических проблем. И ваш отказ от ChatGPT для экономии воды будет сравним с отказом от мобильного телефона

Источник https://andymasley.substack.com/p/individual-ai-use-is-not-bad-for (по ссылке много графиков для визуалов)

Ну хорошо, я и так не сильно парился, а теперь совесть совсем чиста 🍀🙂

-------------------

Реакция = поддержка 🐾

@thats_it_ai_tech

#обзорстатьи

Спектр эмоций: 😁😅😳😢😭

-------------------

Реакция = поддержка 🐾

@thats_it_ai_tech

#юмор