📺 Kimi K3 запустили на 29 ГБ ОЗУ — скорость 0,50 ток/с

На Hacker News появился проект, который позволяет запустить модель Kimi K3 всего на 29 ГБ оперативной памяти. Скорость инференса составляет около 0,50 токена в секунду. Автор опубликовал код в репозитории sqliteai/waste.

Проект ориентирован на энтузиастов и разработчиков, которые хотят поэкспериментировать с современными языковыми моделями без дорогих серверных GPU. Вместо видеопамяти используются обычная RAM и CPU, что радикально снижает порог входа. Понятно, что 0,5 ток/с — это не для продакшена, но как демонстрация возможности локального инференса больших моделей решение показательное.

Подход особенно полезен для задач, где важны приватность и полный контроль над данными, а также для тестирования архитектур до покупки облачных мощностей. Репозиторий уже собрал более 200 голосов на Hacker News и 127 комментариев — сообщество активно обсуждает оптимизацию и дальнейшие эксперименты.

#AI #Kimi #LLM #GitHub #HackerNews

🟰Anthropic исследует математические способности Claude на примере дзета-функции Римана

Anthropic опубликовала исследование, посвящённое математическим возможностям своей модели Claude. В работе компания использует дзета-функцию Римана — одну из центральных тем аналитической теории чисел, тесно связанную с распределением простых чисел и знаменитой нерешённой гипотезой Римана.

Материал вызвал широкий отклик в техническом сообществе: на Hacker News запись набрала более 230 баллов и 150 комментариев. Разработчики и исследователи обсуждают, насколько глубоко языковые модели действительно понимают математику, а не просто воспроизводят заученные паттерны.

Это часть более масштабного тренда: AI-лаборатории всё чаще проверяют модели не на стандартных бенчмарках, а на сложных научных задачах, требующих многошаговых рассуждений. Тесты с дзета-функцией интересны тем, что здесь мало готовых примеров в обучающих данных — модели приходится комбинировать знания и методы.

Практический вопрос, который поднимают комментаторы: помогут ли такие исследования сделать Claude полезнее для математиков и учёных, или это лишь способ продемонстрировать прогресс в рассуждениях. Полный текст работы доступен на сайте Anthropic.

#AI #Claude #Anthropic #Math #Science #HackerNews

❗️Кто-то маскирует массовые сканы уязвимостей под AI-ботов вроде ClaudeBot

Специалисты по безопасности заметили необычную активность: злоумышленники запускают массовое сканирование веб-ресурсов, подделывая user-agent известных AI-краулеров — включая ClaudeBot от Anthropic. Об этом сообщается в отчёте KnownAgents, который попал на первую страницу Hacker News.

Атака строится на доверии: многие администраторы и системы защиты (CDN, WAF, файрволы) пропускают официальных ботов поисковых систем и ИИ-компаний, не проверяя их IP-адреса и сертификаты. Сканеры под чужим user-agent'ом обходят базовые защиты и собирают информацию о структуре сайта, открытых портах и потенциально уязвимых эндпоинтах.

Проблема усугубляется тем, что легитимные AI-краулеры и так создают повышенную нагрузку на серверы, и владельцы сайтов часто просто не могут отличить настоящего бота от подделки. В KnownAgents рекомендуют проверять не только user-agent, но и IP-адреса, публикуемые официально самими компаниями — например, Anthropic публикует список своих диапазонов, и любые запросы вне этих диапазонов следует считать подозрительными.

Пока неясно, кто стоит за сканами и какую именно цель преследуют злоумышленники — от сбора данных для последующих атак до банального перебора уязвимостей в автоматическом режиме. Но сам факт подделки AI-ботов подтверждает: доверять user-agent'у вслепую больше нельзя.

#Safety #AI #Security #ClaudeBot #CyberAttack #Vulnerability #HackerNews

❌ Несущая лексика Claude: какие слова нельзя убрать из промпта

На Hacker News появился разбор «load-bearing vocabulary» — словарного ядра, на котором буквально держатся ответы Claude. Автор проекта Луи Абрахам исследует, какие слова и формулировки в промпте критически влияют на качество генерации: если их убрать или заменить синонимом, результат модели заметно деградирует.

Идея в том, что некоторые выражения работают как несущие конструкции: они не просто украшают запрос, а задают структуру рассуждений модели. Например, фразы вроде «step by step», «let's think», «in other words» могут радикально менять поведение Claude. Проект показывает, как выявлять такие элементы и почему они так важны для стабильной работы с LLM.

Для разработчиков это практический инструмент: понимание «несущей лексики» помогает писать более надёжные промпты и эффективнее отлаживать агентные сценарии. Это не очередной список «магических фраз», а попытка системно разобраться, как модели Claude воспринимают инструкции.

#AI #Claude #LLM # #Prompts #HackerNews

❓ Почему не стоит доверять ИИ написание серьёзных текстов

Автор эссе на Substack Эрих Грюневальд утверждает: ИИ почти никогда не стоит использовать для написания содержательных текстов - статей, отчётов, меморандумов, продуманных писем. Даже если дать модели подробный план, надиктованные мысли и потом отредактировать результат.

Три аргумента. Первый: сам процесс письма - это и есть процесс мышления. Формулируя идею в словах, автор обнаруживает дыры в аргументации, противоречия и слабые места исследования. ИИ позволяет этого избежать. Второй: тексты моделей расплывчаты и ошибочны в трудноуловимых местах. Автор разбирает абзац Claude про контрабанду AI-чипов и находит десяток сомнительных формулировок - от бессмысленного «контроль экспорта силён настолько, насколько силён его правоприменитель» до финального пафосного вывода без информации. Третий: выдавать сгенерированный текст за свой - невежливо и вводит читателя в заблуждение.

При этом автор не против ИИ в целом: транскрибация, анализ данных, поиск, брейншторм, обратная связь по черновикам и даже редактура - всё это допустимо, если человек осознанно принимает или отклоняет каждую правку. Речь именно о делегировании написания текста.

#AI #LLM #Writing #Productivity #HackerNews