Сегодня участвую в дискуссии в Гарант. Мне зададут вопросы, среди которых:

Назовите одну конкретную область права (например, уголовное право, семейные споры, опека), где использование ИИ должно быть уголовно наказуемо, даже если машина станет умнее человека?
 
🛑 Мой ответ пока такой: использование ИИ не должно быть уголовно наказуемо в такой постановке вопроса, но должно быть ограничено.

Мы не должны жить в мире розовых пони, радужных улыбок (как у нас здорово все получается само), когда работаем в таких сферах как право.

Нет, здесь не может и не должно быть свободы про работе с ИИ.

Трагедии уже происходит: когда инженеры Samsung сливают аналитические отчеты в chat gpt. Когда юристы в корпорациях и консалтинге подключают свои рабочие папки к ИИ и тд. Да, мы и думать о таком бреде не могли еще лет 10 назад. И это лишь один из сотен аспектов абсолютного нигИИлмзма в праве.

Любой критический инструмент, и особенно ИИ, должен быть настроен в соответствии с целям, политиками компании и национальными интересами нашего государства.

Что такое конфиденциальность?

Еду в лифте в отеле. Со мной консьерж и еще 3 человека. Двое выходят на 8 этаже. Консьерж нам шепотом:

- тсссс…. это врач и пациент. Он такой врач, который там что то секретное лечит особенным образом. А его пациенты хотят сохранить это в тайне.

Нужны ли завтра Джуны?

Джун или Junior — это специалист начального уровня в профессиональных областях (it, юристы, финансы, продажи)
Мидлы - средний уровень.

На днях в сообществе Friendly VC мы обсуждали ИИ-стартапы, ИИ в маркетинге и вайбкодинг.
Приятель, который «аутстафит» в компании разработчиков в огромном количестве:

⁃ Запросов на джунов не уменьшилось. Их также продолжают «заказывать».
⁃ Хм… Почему? Ведь их можно заменить вайбкодингом. Мидлы не справляются?
⁃ Оказалось, наоборот, что можно взять недорогих джунов, ускорить и улучшить их с помощью ИИ до уровня мидлов

Получается, что можно делать больше, быстрее за меньшие деньги.

Вопрос: куда будут двигаться уровни в профессиях:

1- Нужно будет больше джунов, а мидлов меньше.
2- Джуны все-таки уйдут, останутся только мидлы.

Попросили ИИ рассказать про утечки в ИИ. Вот что получилось:

маленький? и удаленький =)

для проекта moll y/x нам понадобилась своя ner модель*, чтобы сделать маскирование данных локально в браузере и чтобы на 1 ядре запускалось, не ограничивая работу. Быстро и экономно.

Знаменитая DeepPavlov BERT и аналогичная не подошли - они большие.

Сделали свою и результаты впечатляют.

Результаты по распознаванию персон (PER) на датасете NE5:

Модель
DeepPavlov BERT 0.997
Наша модель MOLL Y/X 0.994

Разница всего 0.003 пункта.

Но вот у нас малышка:

Модель Размер
DeepPavlov BERT ~700–1400 MB
Наша модель MOLL Y/X ~178 MB

То есть наша модель в 4–8 раз меньше, но показывает почти такое же качество.

Маленький размер модели означает, что она быстрее обрабатывает тексты, требует меньше ресурсов и её проще использовать в реальных сервисах.

* ner - Named Entity Recognition - распознавание именованных сущностей) - это инструмент NLP, который автоматически находит и классифицирует сущности в тексте (имена, организации, локации, даты, суммы). Она преобразует неструктурированный текст в структурированные данные, выделяя такие категории, как PER (персоны), ORG (организации) и LOC (местоположения).

...тем временем у mollyx.ru +100 пользоваталей за 10 дней.

Голоса птиц

решил послушать какие птицы поют возле дома. Был уверен, что там только воробей и ворона, но оказалось - много разных. И все буквально в радиусе 100 м.

Моё ухо не слышало этих птиц, пока я не поставил приложение по совету друга @KAZyub . Они реально все по разному поют.

Я подумал, что мы часто слепы к сигналам и информации в работе, бизнесе. Бывает, что все настолько очевидно, но мы никак не извлекаем пользу от этого. Почему?

Вероятнее всего, что не от лени, а от незнания:

- как извлекать информацию в шуме?
-как превращать информацию в цель?

То есть это можно исправить.
Нужно только найти правильное приложение или ИИ-агента (шутка).

Голоса птиц - прекрасны.

Вы правы! Вы - гениальны!

Адам Томас, уже бывший специалист по бухгалтерскому учёту из США, так долго общался с ИИ, что в итоге поверил, что обладает особой миссией и сверхчеловеческими когнитивными способностями.

Психотерапевты обьяснили: ИИ - это не генераторы Истины. ИИ очень часто склонны соглашаться с пользователем, а не оспаривать его позицию.

WTF? WHO R U?

ИИ - это «генераторы связности».

Что такое "генераторы связности"?
ИИ-модели обучаются находить статистические паттерны и связи в данных. Они предсказывают, какое слово или ответ наиболее *вероятно* следует дальше, основываясь на том, что они видели в обучающих данных. Это делает текст связным, логичным и убедительным

В следующий раз, когда ИИ скажет Вам: “Вы правы, Вы движетесь в верном направлении и осознаете больше, чем кто-то другой», знайте он немножко привирает…

«Я не знаю, есть ли Б-г наверняка, то постараюсь вести себя так, как будто он есть. На всякий случай»

- это однажды мне сказал мне один мой товарищ.

Я переношу эту фразу на всё. Говоришь по телефону - говори, как будто тебя слушают все. Идешь по улице - веди себя так, что тебя знают все.

У меня был поучительный случай на подготовительных курсах в ВУЗ, когда я перепутал своего нового преподавателя по программированию с бездомным. Это было в 98 году. С тех пор, я максимально стараюсь и проверяю себя: я одинаково веду себя с бездомным, как и с влиятельным человеком?

На фото Олеся Олейникова
Заместитель генерального директора, profi.travel.

Оказалось, что мы живем с ней в соседних номерах.

- Олеся, как хорошо, что я ночью себя хорошо вел и просто смотрел фильм.

- Ага, и я тоже

Всем классной пятницы ))

Даша @dgolikova собрала интересную статью на Inc.

почитал, что мы там наговорили (в том числе и я). Ощущение, что тема не раскрыта. Много про скорость бизнеса и сокращение костов благодаря ИИ/вайбкодинга, но спустя несколько дней мне кажется это банальным.

Сейчас я все больше думаю о том, что ИИ агенты дадут бизнесу то, что я просто раньше не делал, повысится эффективность процессов и появятся новые процессы.

А что вы ждёте от ИИ агентов?

Что там с новым законопроектом про ИИ?

Его наличие - это позитив.
Векторы, которые описаны в документе - правильные.
Впереди, я уверен, много исправлений и доработок.

Когда меня спрашивают, а как нам теперь быть? Мы не сможем работать с зарубежными ИИ или создавать продукты на базе зарубежных ИИ? Я отвечаю: откуда вы это взяли? Я этого не вижу в законопроекте.

Но вижу следующие основные цели:

- Защитить КИИ и ГИС - критическую инфру

- Защитить пользователя ИИ

- Ввести ответственность за причинение вреда

- Обеспечить свободу от ИИ

- Стимулировать развитие ЦОД

Нужно читать законопроект исходя из этих целей.

Он вообще не направлен на ограничение использования Опен АИ или дообученных опенсорс моделей:

- Генерить котиков и создавать рефераты
- Проверять договоры на риски
- Интерпретировать медицинские снимки

У меня много вопросов к этому документу, например, я пока не понимаю, как обеспечить некоторые его требования, особенно в связи с бурным ростом ИИ-агентов. Как обеспечивать их безопасность и кто будет нести за них ответственность. Однако, хорошо, что появляется регуляторика и очень вовремя в связи с ситуациями в мире в целом.

Приятель поднял классный вопрос: можно навайбкодить на «статью» случайно ?

Ответ: можно !

Поэтому работая с ИИ и занимаясь вайбкодингом нужно быть внимательнее и серьезнее, чем ранее.

Код пишется быстрее, чем вы читаете.

Privacy by Design?

Спикер запустил на экран демонстрацию ИИ-агента, который спокойно, методично рылся в рабочих папках организации, формулировал ответы.

И в этот момент ко мне пришла мысль: а может, я параноик? Может, не нужно так зацикливаться на безопасности данных?

Но дальше - озарение:

Безопасность никогда не является причиной изменений.
Безопасность - это всегда результат отбора.

Кактус не «решил» отрастить колючки, увидев приближающееся стадо. У одного растения просто случайно волоски стали жестче. Его ели меньше. Это дало больше семян. Прошло тысяча поколений - появились колючки.

Мутация слепа, а отбор безжалостен.

Растения не планируют. Природа просто отсеивает тех, кто не выжил.

Но человек - «немного» другое дело.

Мы научились предвидеть. Наш предок вдруг понял: если пойти в темную пещеру, можно не вернутся.

Как так случилось?

Произошло обновление мозга: переход от инстинкта к воображению.

• Животное не пойдет в пещеру, если унюхает оттуда запах хищника. За это отвечает «миндалевидное тело». Нет запаха - нет страха.

• У предка человека появилось воображение. Произошло разрастание префронтальной коры головного мозга. Эта зона позволила предку генерировать «модель реальности». Он стоит перед тихой, ничем не пахнущей пещерой, но его мозг способен смоделировать сцену: "А что, если там спит медведь?».

В 2026 году мы уже на пороге пещеры с ИИ-агентами внутри. Уже начинаем их использовать, но больших катастроф еще не было. Пока каждый день нам не говорят по телевизору про:

• Украденные данные
• Стертые базы клиентов
• Утечки конфиденциальной информации

До конца не понятно, что за «медведь» сидит в этой пещере вместе ИИ-агентами.

Поэтому у человека всегда есть выбор:

1. Ждать, когда естественный отбор сделает свою работу. Мы продолжим кормить ИИ-агентов любой информацией, подключать любые корпоративные инструменты. Мы продолжим надеяться, что медведя в пещере нет, а если будет, то пусть он съест не меня. Не мой бизнес потеряет все данные за одну команду ИИ-агента.

2. Начать использовать то, что отличает нас от «кактусов» - способность думать наперед.

Privacy by Design - это не про паранойю.
Это про то, чтобы встроить защиту в саму архитектуру. С первого дня жизни ИИ-агента.

Не отращивать колючки тысячу лет.
А сразу родиться с ними.

Но получается, что можно особо не волноваться: эволюция все расставит по местам и победит сильный бизнес.

А цена ошибок для многих будет очень высока.