#неочевидный_инсайд

Если целый день концентрироваться на том, чтобы не заниматься хуйней, то успеваешь много сделать

Наверняка, у многих есть куча друзей, с которыми не получается видеться так как раньше.

Зато их можно позвать на чашечку кофе по зуму, это тоже, оказывается, приятно

Четыре этапа творческого процесса (три от психолога, физиолога и физика Германка фон Гельмгольца + один поновее от математика и физика Анри Пуанкаре)
1. Насыщение - сбор фактов
2. Инкубация - размышления над ними
3. Озарение - синтез идеи
4. Подтверждение - проверка на достоверность

Есть еще бонусный нулевой:
0. Первое прозрение - формулировка творческой задачи

"Если бы у меня был один час для решения какой-то проблемы и моя жизнь зависела бы от ее разрешения, я бы потратил первые 55 минут на то, чтобы сформулировать вопрос" (c) A. Эйнштейн

"Блин, а физики умные" (с) Коля

Каждый этап тут имеет свое целевое полушарие мозга

Левое - сфокусированное (детали, процесс)
Правое - расфокусированное (взаимосвязи, интеграция)

0 правое
1 левое
2 правое
3 правое
4 левое

Похоже, что самое важное с этими этапами , это научится понимать, когда и как переходить из одного состояния в другое

Индикатор перехода от насыщения к инкубации - мысли бегают по кругу, растерянность.

Сегодня такое несколько раз было, и я уходил посидеть на балконе, послушать музыку. Сработало. Но лучше бы пошел прогуляться

Как думаете, какая часть человеческого тела самая «честная» с точки зрения чтения невербальных сигналов?

Похоже, что стопы и ноги. Тут есть две причины:
1. Эволюционно ноги должны были очень быстро реагировать на опасность.
2. Всю жизнь мы учимся контролировать верхнюю, «социальную» часть тела, чтобы не выдавать истинных чувств. Особенно лицо.
«Ну не делай такую мину», «постарайся хотя бы сделать вид, что ты рад видеть дядю», «да у тебя все на лице написано».
Ноги никто не пытается контролировать.

Вывод: если мы хотим понять истинные чувства человека, стоит посмотреть на ноги

Последний месяц много использую GPT по работе и чет преисполнился.

Сейчас закину саммари одного разгона, записанного войсом Саше примерно с таким вайбом

Привет, я серчил надстройки на GPT и нашел интересную концепцию, в которой несколько ИИ агентов на основе GPT общаются друг с другом. Кажется, что она показывает значительные улучшения при применении, и это заставило меня задуматься о некоторых философских штуках.

Примеры мультиагентности в реальной жизни:
- Человеческий мозг, где различные структуры постоянно борются друг с другом за принятие решений.
- Групповые дискуссии и социальные взаимодействия с различными перспективами
- Политика и другие системы со сдержками и противовесами.

Я думаю, следующий этап развития ИИ моделей предполагает создание независимых агентов, которые работают вместе через четко определенный процесс коммуникации. В результате система перестает быть "черным ящиком", и в их диалоге мы сможем увидеть путь к итоговому ответу.

Преимущества мультиагентного подхода:
- Повышение контекста и прозрачности в системах ИИ
- Согласование с реальными примерами мультиагентного подхода
- Лучшее понимание рассуждений, стоящих за окончательным ответом

Например, если два агента имеют по 4 000 токенов общего контекста и 4 000 токенов индивидуального контекста, мы можем иметь не 8 000, а 12 000 токенов контекста. Это число будет увеличиваться с каждым дополнительным агентом.

Возможные проблемы и ограничения:
- Сложность коммуникации между агентами
- Возможное увеличение требуемых вычислительных ресурсов

Чтобы решить эти проблемы потенциальные решения или стратегии могут включать оптимизацию протоколов связи между агентами и разработку более эффективных методов распределения ресурсов.

В итоге, мультиагентный подход в надстройках GPT потенциально может привести к созданию более эффективных и прозрачных систем.

Прелесть этого текста, что он написан не мной. Я использовал идеи, описанные в нем, чтобы несколько разных агентов, роли которых играла GPT, сами его написали и отредачили. На входе практически нечитабельный текст speech-to-text'нутый из телеграм войса. А дальше итерации критик-фиксер-критик-фиксер. Еще попробовал ввести критика на критика, но в этой генерации он ничего дельного не сказал, а вот в прошлой чет даже доебался. Обе итерации кмк существенно улучшили текст, а самое главное, без моего явного участия.

Полную цепочку разговора можно глянуть тут:
https://nikolay-sheyko.notion.site/GPT-multi-agents-8f43d831c2c94716ba0d25e6d7d2397c?pvs=4

Хахаха, обожаю, когда мои псевдо-филисофские разгоны мэтчатся с реальностью

Утекли подробности про GPT-4.

Говорят, что это смесь из 8 экспертов, каждый по 220 млрд параметров. То есть в сумме 1.760 триллиона параметров! Соумит Чинтала (один из создателей PyTorch) тоже подтвердил слух.

Эксперты в этом случае — это просто копии модели GPT, на 220B параметров, которые тренировались отдельно и скорее всего на различных данных.

Во время инференса у них там какие-то хитрые трюки для того, чтобы выбрать ответы каких экспертов выдавать юзеру.

@ai_newz

- Что самое красивое?
- Порядок
- Что самое древнее?
- Бог
- Что самое большое?
- Пространство
- Что самое сильное?
- Необходимость
(с) Разговор с духом. Притча о семи мудрецах

Интересный критерий для принятия решения делать ли что-то -
прикинуть, хотелось бы жить в мире, в котором все так поступают в похожих ситуациях

Чтобы хоть какой-то был

У меня тут опять куча идей, которые я хочу провалидировать. Буду писать сюда про процесс.