PYTHONOMANIA
273 subscribers
195 photos
3 videos
1 file
616 links
Откройте для себя мир Python в PYTHONOMANIA!

Идеально подходит как для начинающих, так и для опытных разработчиков. Присоединяйтесь к нам, чтобы достичь совершенства в Python!

Сайт: https://pythonomania.github.io/
Download Telegram
📱Presidio.

Presidio -
это SDK для защиты данных и деидентификации (проект от Microsoft). Это контекстно-зависимый, модульный и гибко настраиваемый сервис для поиска и скрытия персональных данных (PII) в текстах и изображениях.

Инструмент позволяет быстро находить и анонимизировать такую чувствительную информацию, как номера кредитных карт, имена, адреса, номера социального страхования, криптокошельки, телефоны, финансовые выписки и многое другое.

🔹Главные возможности:

🔘Умный поиск (Analyzer): Использует алгоритмы распознавания именованных сущностей (NER), регулярные выражения, логику на основе правил и проверку контрольных сумм с учетом контекста (поддерживает множество языков).

🔘Работа с изображениями (Image-Redactor): Специальный модуль умеет "замазывать" персональные данные не только в тексте, но и прямо на картинках, включая медицинские снимки формата DICOM.

🔘Кастомизация и расширяемость: Вы можете подключать собственные или внешние ML-модели для обнаружения специфических данных и настраивать правила анонимизации под конкретные бизнес-задачи.

🔘Масштабируемость: Инструмент легко интегрируется в любые пайплайны — от обычных скриптов на Python и аналитики в PySpark до микросервисов в Docker и Kubernetes.

🔘Структурированные данные: Наличие отдельного модуля Structured для работы с табличными и размеченными форматами.

⚠️Обратите внимание: поскольку Presidio использует автоматизированные механизмы обнаружения, он не дает 100% гарантии нахождения абсолютно всей конфиденциальной информации. В критически важных системах его следует применять в связке с дополнительными уровнями защиты.

❓Как начать:

Библиотека поделена на модули, вы можете установить только то, что вам нужно (например, анализатор и анонимизатор текстов):

pip install presidio-analyzer presidio-anonymizer


Также доступны готовые Docker-образы для быстрого развертывания.

#Python #Security #DataProtection #PII #Microsoft #MachineLearning #NLP #OpenSource #DevTools #АнализДанных

📱Ссылка на репозиторий:
https://github.com/microsoft/presidio
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍3⚡2
📱Remove-AI-Watermarks.

Remove-AI-Watermarks —
это универсальная утилита для удаления как видимых, так и невидимых водяных знаков и метаданных из изображений, сгенерированных популярными нейросетями (Google Gemini, ChatGPT/DALL-E, Stable Diffusion, Midjourney, Adobe Firefly и др.).

Инструмент позволяет в одну команду очистить картинку от любых следов ИИ, включая метки SynthID, криптографические манифесты C2PA и теги EXIF, из-за которых соцсети автоматически вешают плашку "Made with AI".

🔹Главные фичи:

🔘Удаление видимых знаков: Например, логотип-звездочка от Google Gemini убирается за 0.05 сек с помощью обратного альфа-блендинга (работает оффлайн, без потери качества).

🔘Удаление невидимых знаков (SynthID, TreeRing): Прогоняет картинку через процесс диффузии (добавление шума и его подавление через SDXL), стирая частотные паттерны, которые выживают даже при сильном сжатии JPEG.

🔘Стирание метаданных: Полностью вычищает данные C2PA, EXIF (промпты, сиды) и текстовые чанки PNG, оставляя только стандартные поля (автор, копирайт).

🔘Умная защита лиц: Перед обработкой инструмент находит лица людей на фото и маскирует их, чтобы процесс стирания водяного знака (диффузия) не исказил черты лица.

🔘Analog Humanizer: Накладывает легкое пленочное зерно и хроматические аберрации, чтобы запутать детекторы ИИ-контента.

• Анализатор (Identify): Команда identify сканирует файл и выдает полную сводку о том, в какой нейросети он был создан и какие метки в нем зашиты.

🔧Установка и использование:

Рекомендуется устанавливать через pipx или uv для изоляции зависимостей:
uv tool install git+https://github.com/wiltodelta/remove-ai-watermarks.git

(Примечание: для удаления невидимых знаков потребуется установить пакет с флагом
[gpu]).

🔻Пример использования:
# Удалить ВСЕ следы ИИ с одной картинки
remove-ai-watermarks all image.png -o clean.png

# Узнать, где была сгенерирована картинка
remove-ai-watermarks identify image.png


#AI #MachineLearning #Watermarks #StableDiffusion #Midjourney #Gemini #Privacy #Python #DevTools #OpenSource

📱Ссылка на репозиторий:
https://github.com/wiltodelta/remove-ai-watermarks
Please open Telegram to view this post
VIEW IN TELEGRAM
13⚡2
📱Nbpipe.

Nbpipe - это
легковесная утилита, которая позволяет запускать последовательность Jupyter-ноутбуков как единый рабочий процесс (workflow). Вы можете управлять выполнением прямо из командной строки (CLI) или через удобную боковую панель в JupyterLab.

Это идеальное решение для ситуаций, когда ваш процесс разбит на несколько логических шагов (например: подготовка данных -> обучение модели ->генерация отчета), и их нужно выполнять строго друг за другом.

🔧 Установка:

pip install nbpipe


❓Как это работает:

🔘Создайте папку .nbpipe/ в корне вашего проекта.

🔘Опишите ваши шаги в YAML-файле (например, my_workflow.yaml):

name: my_workflow
steps:
- notebook: prepare_data.ipynb
output: data/processed.csv
- notebook: train_model.ipynb


🔘Запустите пайплайн одной командой:

nbpipe run .nbpipe/my_workflow.yaml


💡Что важно знать про шаги:

🔘Поле notebook (обязательное) — указывает путь к ноутбуку относительно корня проекта.

🔘Поле output (опциональное) — файл, который должен быть сгенерирован после выполнения этого шага. Работает как проверка качества: если ноутбук отработал, а нужный файл не появился — пайплайн упадет с ошибкой. Поле поддерживает маски файлов (например, report_*.csv).

#Python #Jupyter #JupyterLab #DataScience #DataEngineering #MachineLearning #DevTools #Workflow #Автоматизация

📱Ссылка на репозиторий:
https://github.com/ngafar/nbpipe
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍3⚡2
📱EverOS.

EverOS -
это open-source Python-фреймворк, который наделяет ИИ-агентов (Claude Code, Codex, OpenClaw и др.) саморазвивающейся долгосрочной памятью.
Главная идея проекта — ваш контекст, принятые решения и файлы должны следовать за вашей работой, а не оставаться запертыми внутри одного конкретного инструмента.

🔹Главные фишки релиза 1.0.0:

🔘Markdown как источник правды: Вся память сохраняется в обычные .md файлы. Вы можете читать их, редактировать, версионировать через Git или открывать как базу знаний прямо в Obsidian.

🔘Легковесный локальный стек: Работает полностью локально на связке Markdown + SQLite + LanceDB (для векторного и BM25 поиска). Никаких тяжеловесных MongoDB, Redis или Elasticsearch!

🔘Двойная память (Dual-Track): Данные логично разделяются на агентские (навыки, рабочие кейсы) и пользовательские (профили, история общения).

🔘Мультимодальность: Запоминает и осуществляет поиск не только по тексту, но и по картинкам, аудио, PDF, HTML и офисным документам.

🔘Саморазвитие: Агент учится на основе реального использования. Повторяющиеся паттерны автоматически превращаются в готовые переиспользуемые процессы без необходимости переобучения модели.

🚀Быстрый старт:

Установка и запуск занимают всего три команды:
pip install everos
everos init
everos server start


✅Инструмент полностью совместим с API OpenAI, поэтому вы легко можете направить его на OpenRouter, vLLM, Ollama или DeepInfra.

#EverOS #AI #Python #MachineLearning #LLM #OpenSource #DevTools #Нейросети #Разработка

📱Ссылка на репозиторий:
https://github.com/EverMind-AI/EverOS
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍3🔥33
📱PyTrendy.

PyTrendy —
это надежное решение для поиска и анализа трендов во временных рядах.

В отличие от большинства других библиотек для тренд-детекшена, PyTrendy устойчива к сильному шуму и плоским («флэт») участкам данных. Она с высокой точностью определяет как плавные (gradual), так и резкие (abrupt) изменения графиков, претендуя на звание лучшего пакета для поиска трендов на Python.

🔹Основные возможности:

🔘Устойчивость к шуму: Отлично фильтрует случайные колебания, не ломая общую картину.

🔘Распознавание боковиков: Четко отделяет реальное движение вверх или вниз от горизонтального коридора (Flat).

🔘Высокая точность: Одинаково хорошо ловит как затяжные плавные тренды, так и внезапные скачки.

🔘Визуализация: Автоматически строит наглядные графики с выделенными зонами трендов.

🚀Быстрый старт:

pip install pytrendy


В коде инструмент используется буквально в несколько строк:

import pytrendy as pt

# Загружаем тестовые данные
df = pt.load_data('series_synthetic')

# Запускаем поиск трендов
results = pt.detect_trends(df, date_col='date', value_col='gradual', plot=True)
results.print_summary()


В консоли вы получите структурированный и понятный отчет:

Detected: - 3 Uptrends. - 3 Downtrends. - 3 Flats. - 0 Noise.

The best detected trend is Down between dates 2025-05-09 - 2025-06-17


Помимо краткой сводки, библиотека возвращает подробный датафрейм, где для каждого найденного участка указаны направление (Up/Down/Flat), даты начала и конца, длительность в днях, общее изменение значения (total_change) и класс тренда.

#Python #TimeSeries #DataScience #Analytics #PyTrendy #DataEngineering #OpenSource #MachineLearning #АнализДанных

📱Ссылка на репозиторий:
https://github.com/RussellSB/pytrendy
Please open Telegram to view this post
VIEW IN TELEGRAM
5⚡4👍3
📱Hydra.

Hydra —
это мощный фреймворк для гибкого и элегантного управления конфигурациями сложных приложений.

Если вы работаете в сфере Machine Learning или Deep Learning, вы наверняка сталкивались с кошмаром разрастающихся конфигурационных файлов. Hydra решает эту проблему, позволяя динамически собирать итоговый конфиг из мелких независимых кусочков (композиция) и переопределять любые параметры на лету прямо из командной строки, вообще не трогая код.

🔹Главные фишки и экосистема:

🔘Динамическая композиция: Настройки можно разбивать на логические группы (датасеты, модели, оптимизаторы) и комбинировать их в один клик.

🔘Удобный CLI: Переопределяйте любые глубоко вложенные параметры при запуске скрипта прямо через консоль (например, model.lr=0.001).

🔘Развитая экосистема плагинов:

🔤hydra-zen — генерация динамических конфигураций в чистом Python-стиле.

🔤lightning-hydra-template — готовый и очень популярный шаблон для ML-экспериментов на базе PyTorch Lightning.

🔤hydra-torch — типобезопасные конфигурационные классы для PyTorch.

🔤Плагин распределенного запуска от NVIDIA для масштабного обучения нейросетей.

📦Установка:

🔘Стабильная ветка (Hydra 1.3):

pip install hydra-core --upgrade


🔘Свежая dev-версия (Hydra 1.4 с поддержкой Python 3.10–3.14):

pip install --pre --upgrade hydra-core


✅Фреймворк распространяется под свободной лицензией MIT.

#Python #MachineLearning #DeepLearning #Hydra #PyTorch #DevTools #MLOps #OpenSource

📱Ссылка на репозиторий:
https://github.com/facebookresearch/hydra
Please open Telegram to view this post
VIEW IN TELEGRAM
1⚡2👍21
📱Supertree.

Supertree
- это библиотека для интерактивной визуализации деревьев решений прямо внутри ваших блокнотов Jupyter, JupyterLab и Google Colab.

Если вы когда-нибудь пытались визуализировать глубокое дерево решений стандартными средствами, то знаете, в какую перегруженную и нечитаемую «кашу» оно обычно превращается. supertree решает эту проблему, заменяя статичные графики динамическим интерфейсом.

❓Что умеет инструмент:

🔘Полный интерактив: Поддерживает масштабирование (zoom), перемещение (pan) и сворачивание отдельных узлов/веток, чтобы сфокусироваться на нужных участках.

🔘Трассировка путей: Позволяет наглядно отслеживать, через какие условия и по какому пути шел конкретный сэмпл данных до финального предсказания.

🔘Работает с ансамблями: Умеет вытаскивать и детально показывать отдельные деревья из случайных лесов (Random Forest) или моделей градиентного бустинга.

📦Поддерживаемые экосистемы:

🔘Scikit-learn: Полная совместимость с DecisionTreeClassifier/Regressor, RandomForestClassifier/Regressor, GradientBoosting, HistGradientBoosting и др.

🔘XGBoost: Поддержка XGBClassifier/Regressor, XGBRFClassifier/Regressor и нативных бустеров.

🔘LightGBM: Поддержка LGBMClassifier/Regressor и бустеров.

🔘ONNX: Модели, конвертированные в формат ONNX.

🚀Быстрый старт:

Установка:

pip install supertree


Пример визуализации классификатора на датасете Iris:

from sklearn.tree import DecisionTreeClassifier
from sklearn.datasets import load_iris
from supertree import SuperTree

# Загружаем данные и обучаем модель
iris = load_iris()
model = DecisionTreeClassifier(max_depth=3)
model.fit(iris.data, iris.target)

# Инициализируем визуализатор
super_tree = SuperTree(model, iris.data, iris.target, iris.feature_names, iris.target_names)

# Отрисовываем интерактивное дерево в ноутбуке
super_tree.show_tree()


Если вы работаете со случайным лесом (например, RandomForestRegressor) и хотите изучить конкретное дерево из ансамбля (допустим, с индексом 2), просто укажите его номер при вызове: super_tree.show_tree(2).

#Python #MachineLearning #DataScience #DataVisualization #Jupyter #ScikitLearn #XGBoost #LightGBM #OpenSource #DevTools

📱Ссылка на репозиторий:
https://github.com/mljar/supertree
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍2🔥22
📱SkyRL.

SkyRL
- это модульная полнофункциональная (full-stack) библиотека обучения с подкреплением (Reinforcement Learning) для языковых моделей и ИИ-агентов, разработанная лабораторией Berkeley Sky Computing Lab (UC Berkeley).

Фреймворк специально оптимизирован для обучения агентов решению сложных многошаговых задач в реальном мире — от работы с терминалом и написания кода (SWE-Bench) до обработки SQL-запросов и интерактивного поиска с использованием внешних инструментов.

🔹Основные компоненты экосистемы:

🔘skyrl — единая библиотека для проведения RL-экспериментов на собственном железе. Объединяет оптимизированный движок обучения skyrl-train и кроссплатформенный бэкенд skyrl-tx с поддержкой Tinker API.

🔘skyrl-agent — специальный агентский слой для масштабируемого обучения и оценки многошаговых (multi-turn) агентов, рассчитанных на длительные сценарии взаимодействия (long-horizon).

🔘skyrl-gym — набор сред на базе стандартизированного Gymnasium API, содержащий готовые окружения для математики, кодинга, работы с базами данных и поиска.

🔻Главные фичи и достижения:

🔘SkyRL-SQL-7B: Модель, обученная всего на 653 примерах с использованием многошагового RL, обошла GPT-4o и o4-mini в задачах перевода текста в SQL (Text-to-SQL).

🔘Поддержка Tinker API: Можно запускать любые скрипты обучения, написанные под Tinker API, на локальных GPU без изменения кода.

🔘Интеграция с Harbor: Готовые инструменты для обучения автономных ИИ-агентов, работающих напрямую в консоли/терминале.

🔘Асинхронный пайплайн: Оптимизированный диспетчер параллельного генерации и обучения снижает простои GPU и ускоряет процесс сбора опыта.

🤝Проекты и поддержка.

✅На базе SkyRL создаются передовые исследовательские проекты (например, Biomni-R0, CodeScout, Endless Terminals), а сам проект разрабатывается при поддержке Anyscale, Databricks, NVIDIA, AMD, AWS и Lambda Labs.

#SkyRL #ReinforcementLearning #LLM #AIAgents #Python #UCBerkeley #OpenSource #DevTools #MachineLearning #ArtificialIntelligence

📱Ссылка на репозиторий:
https://github.com/NovaSky-AI/SkyRL
Please open Telegram to view this post
VIEW IN TELEGRAM
1⚡2🔥21
📱Semantica.

Semantica
- это открытая граф-ориентированная платформа («open-source аналог Palantir для ИИ-агентов»), созданная для управления контекстом, детерминированного логического вывода и аудита решений автономных агентов.

В критически важных и регулируемых сферах (финансы, медицина, юриспруденция, госсектор) агент не может быть «черным ящиком».

Semantica
решает проблему отсутствия прозрачности: вместо плоских векторных эмбеддингов она выстраивает структурированные графы контекста (Context Graphs), фиксирует причинно-следственные связи каждого действия и формирует строгий аудиторский след.

🔹Ключевые возможности платформы:

🔘Decision Intelligence: Каждое решение агента сохраняется как полноценный узел графа. Вы можете отследить всю причинно-следственную цепочку (trace_decision_chain), найти похожие прецеденты в прошлом и оценить влияние решения на систему.

🔘Детерминированный логический вывод: Для построения графа, связей и проверки правил не обязательна LLM. Платформа использует алгоритмы Rete, прямой логический вывод (Forward chaining), Datalog и SPARQL, гарантируя 100% повторяемость и объяснимость.

🔘Стандарты аудита и комплаенса: Полная поддержка спецификации W3C PROV-O для отслеживания происхождения данных, валидация через SHACL-шейпы и экспорт аудиторских отчетов в форматах RDF/Turtle, JSON-LD или Parquet.

🔘Полиглотное хранение (Polyglot Graph Storage): Поддерживает работу с графами свойств (Neo4j, FalkorDB, AWS Neptune, Apache AGE), RDF-хранилищами (встроенный Oxigraph, Apache Jena, Blazegraph) и векторными базами данных (FAISS, Qdrant, Pinecone).

🔘Enterprise-коннекторы: Прямая интеграция с Databricks (Unity Catalog + Delta Lake) и Snowflake — данные превращаются в граф без промежуточного экспорта в сторонние SaaS-сервисы.

🔘MCP и мультиагентность: Включает встроенный сервер протокола MCP (Model Context Protocol), интеграцию с фреймворком Agno (единый граф памяти для команды агентов) и плагины для Cursor и Claude Code.

🔻Пример использования в коде:

from semantica.context import ContextGraph

# Инициализируем граф контекста
graph = ContextGraph(advanced_analytics=True)

# Фиксируем решение агента как структурированный узел
decision_id = graph.record_decision(
category="credit_underwriting",
scenario="Заявка на кредит, доход 120k, DTI 28%",
reasoning="Доход стабильный, кредитная история чистая за последние 36 мес.",
outcome="approved",
confidence=0.95,
)

# Анализируем цепочку причин и влияние решения
causal_chain = graph.trace_decision_chain(decision_id)
impact = graph.analyze_decision_impact(decision_id)


🚀Быстрый старт:

pip install semantica
# Или со всеми зависимостями:
pip install "semantica[all]"


#Semantica #AIAgents #KnowledgeGraph #GraphRAG #LLM #DecisionIntelligence #Compliance #MachineLearning #Python #OpenSource #DevTools #EnterpriseAI

📱Ссылка на репозиторий:
https://github.com/semantica-agi/semantica
Please open Telegram to view this post
VIEW IN TELEGRAM
4🔥3⚡11
📱Pyhctsa.

Pyhctsa
- это библиотека для Python, предназначенная для масштабного сравнительного анализа временных рядов (Highly Comparative Time-Series Analysis) и автоматического извлечения сотен математических и статистических признаков (features).

Если вам нужно классифицировать сигналы, анализировать физиологические показатели или выявлять скрытые паттерны во временных данных, pyhctsa берет на себя всю рутину по расчету нелинейной динамики, энтропии, автокорреляции, спектральных характеристик и других комплексных метрик.

🔹Ключевые возможности:

🔘Сотни методов анализа: Включает классические статистические тесты, алгоритмы нелинейной динамики (включая адаптации пакета TISEAN), вейвлет-анализ и узкоспециализированные функции (например, вариабельность сердечного ритма / HRV).

🔘Готовность к ML: Результаты извлечения автоматически собираются в привычный pandas.DataFrame размерности $N \times F$ (где $N$ — число временных рядов, а $F$ — вектор признаков).

🔘Многопоточность из коробки: Извлечение сотен признаков ресурсоемко, поэтому встроенный LocalDistributor позволяет легко распараллелить расчеты по всем физическим ядрам процессора.

🔘Любая длина сигналов: Входные временные ряды в одной выборке не обязательно должны быть одинаковой длины.

🔘Гибкая конфигурация: Можно рассчитать весь пул метрик сразу, выбрать кастомный профиль через YAML-файл конфигурации или вызывать отдельные функции изолированно.

🔻Пример использования:

from pyhctsa.calculator import FeatureCalculator
from pyhctsa.distribute import LocalDistributor
from pyhctsa.utils import get_dataset

# Загрузка данных
data = get_dataset()

# Инициализация калькулятора и настройка параллельных вычислений на 4 ядра
calc = FeatureCalculator()
dist = LocalDistributor(n_workers=4)

# Извлечение всех признаков в DataFrame
features_df = calc.extract(data, distributor=dist)
print(features_df.head())


📦Установка:

pip install pyhctsa


✅Проект распространяется под открытой лицензией GNU GPL v3.

#Python #TimeSeries #DataScience #MachineLearning #FeatureExtraction #Analytics #OpenSource #DevTools

📱Ссылка на репозиторий:
https://github.com/DynamicsAndNeuralSystems/pyhctsa
Please open Telegram to view this post
VIEW IN TELEGRAM
4🔥4👍21
📱PySuricata.

PySuricata
- это быстрый и легковесный инструмент для исследовательского анализа данных (EDA) на Python, построенный на потоковых алгоритмах.

Главная проблема большинства инструментов профилирования данных — они требуют загрузки всего датасета в оперативную память и выполняют множество тяжелых прогонов. PySuricata считывает данные всего за один проход (single pass), сохраняя фиксированный расход RAM независимо от количества строк в таблице.

🔹Главные фичи и преимущества:

🔘Потоковая архитектура: Данные обрабатываются чанками. Обработка 1 миллиона строк требует не больше памяти, чем 20 тысяч, что позволяет анализировать датасеты, превышающие объем RAM.

🔘Глубокая интеграция с Arrow и экосистемой: Нативно работает с pandas, polars (включая LazyFrame), файлами Parquet, Arrow IPC (.arrow, .feather) и запросами DuckDB без промежуточной материализации всего фрейма.

🔘Честная математика и вероятностные структуры: Для моментов распределений (среднее, дисперсия, асимметрия) используется потоковый алгоритм Уэлфорда/Пебая, для подсчета уникальных значений — скетчи KMV, а для частых элементов — алгоритм Мизры-Гриса. В отчете честно указываются границы погрешностей приближенных оценок.

🔘Автономный HTML-отчет в один файл: На выходе получается единый self-contained HTML-файл со встроенными SVG, стилями и скриптами, который можно пересылать по почте и открывать без подключения к интернету.

🔘Контроль качества и дрейфа данных в CI/CD:

✔️summarize() — отдает чистый версионированный JSON со метриками;

✔️compare() — рассчитывает смещение признаков между двумя выборками;

✔️pysuricata check / официальный GitHub Action — блокирует пайплайн (exit code $\ne 0$), если превышен процент пропусков или обнаружен дрейф данных.

🚀Быстрый старт:

import pandas as pd
from pysuricata import profile

df = pd.read_csv("large_dataset.csv")

# Анализируем данные и сохраняем автономный отчет
profile(df).save_html("report.html")


Анализ файлов напрямую (без загрузки в DataFrame):


from pysuricata import profile

# Потоковое чтение Parquet-файла без перегрузки RAM
report = profile("data/events.parquet")
report.save_html("events_report.html")


📦Установка:

pip install pysuricata
# или через uv:
uv add pysuricata


#Python #PySuricata #DataScience #EDA #Pandas #Polars #DuckDB #DataEngineering #MachineLearning #OpenSource #DevTools

📱Ссылка на репозиторий:
https://github.com/alvarodiez20/pysuricata
Please open Telegram to view this post
VIEW IN TELEGRAM
3🔥3👍21
📱Praxist.

Praxist
- это автономная исследовательская система («персональная R&D-команда»), автоматизирующая процесс научного поиска и экспериментов.

В отличие от стандартного AutoML, который просто перебирает гиперпараметры в фиксированных рамках, или обычных LLM-промптов, Praxist берет на себя весь исследовательский цикл целиком. Система разворачивает команду параллельных агентов, которые выдвигают конкурирующие гипотезы, модифицируют код, валидируют результаты в изолированных тестах и передают доказанный опыт из поколения в поколение.

🔹Ключевые возможности:

🔘Параллельные исследовательские агенты (Peers): Одновременное исследование альтернативных архитектур, алгоритмов и подходов без взаимной блокировки.

🔘Эволюционный синтез поколений: Накопленные артефакты и выводы предыдущего поколения структурируются в виде доказательной базы и определяют повестку следующей итерации исследований.

🔘Слои зрелости решений (Evidence Lanes): Кандидаты ранжируются по жестким контрактам валидации и распределяются по стадиям (инкубатор, фронтир, проверенные решения / Gems) с учетом компромиссов по Парето при оптимизации нескольких метрик.

🔘Quality-Diversity (QD) и Deep Innovation Gate (DIG): Встроенные эвристики диверсификации, которые не дают системе застрять в локальных оптимумах и стимулируют принципиально новые направления поиска.

🔘Глубокая интеграция с Codex и Claude Code: Практически бесшовная работа через агентские скиллы (команда $praxist-takeover в Codex берет существующий репозиторий, валидирует метрики и автоматически настраивает тестовый контур).

🔘Воспроизводимость и аудит: Исходный код проекта изолирован от случайных поломок, метрики фиксируются до начала прогона (preregistration), а каждый положительный результат сопровождается полной цепочкой воспроизведения (lineage).

💻Быстрый старт:

Установка пакета и запуск мастера первоначальной настройки:

pip install "praxist[agents,codex]"
praxist setup --interactive --install-skills codex


Запуск задачи через Codex в корне готового проекта:

$praxist-takeover
Optimize <целевая метрика и направление> while preserving <ограничения>.
Use 4 peers for up to 5 generations within $50 budget.


Мониторинг и управление активными исследованиями:

# Просмотр статуса в реальном времени
praxist --monitor --latest

# Остановка или возобновление задачи
praxist stop <run_id>
praxist resume <run_dir>


✅Проект распространяется под лицензией Fair Source 1.0 (бесплатно для некоммерческих академических исследований и компаний с годовым доходом до $1 млн).

#Praxist #AIAgents #MachineLearning #Research #Codex #AutoML #Python #DataScience #OpenSource #DevTools #Algorithms

📱Ссылка на репозиторий:
https://github.com/sapientinc/PRAXIST
Please open Telegram to view this post
VIEW IN TELEGRAM
👍33⚡2
📱SGLang.

SGLang
- это высокопроизводительный движок и фреймворк для инференса и развертывания больших языковых (LLM) и мультимодальных моделей (VLM), разработанный сообществом LMSYS.

Проект оптимизирован как для запуска моделей на одиночных потребительских видеокартах, так и для масштабирования на гигантские серверные кластеры. SGLang стал де-факто индустриальным стандартом для инференса MoE-архитектур (включая модели линейки DeepSeek) и генерации роллаутов (rollout engine) на этапе обучения с подкреплением (RL).

🔹Ключевые возможности и архитектурные решения:

🔘RadixAttention: Умное автоматическое кэширование KV-кэша по дереву префиксов (Radix tree). Ускоряет инференс в разы в сценариях с общими системными промптами, few-shot примерами, агентскими циклами и multi-turn диалогами.

🔘Архитектура PD Disaggregation: Разделение стадий prefill (обработка входного контекста) и decode (потоковая генерация токенов) по разным GPU-нодам для максимальной утилизации вычислительной мощности.

🔘Параллелизм масштаба дата-центров: Полная поддержка Tensor, Pipeline, Data и масштабируемого Expert Parallelism (EP) для MoE-моделей на десятках и сотнях GPU (включая стойки NVIDIA GB200/GB300 NVL72).

🔘Быстрый структурированный вывод: Генерация строгого JSON и следование схемам до 3 раз быстрее аналогов благодаря оптимизированным конечным автоматам (Compressed FSM).

🔘Day-0 поддержка новейших моделей: Мгновенная адаптация топовых открытых моделей (DeepSeek-V3/R1/V4, Kimi K3, Nemotron 3, GLM, LLaVA, диффузионных генераторов видео и изображений WAN и Qwen-Image).

🔘Аппаратная всеядность: Оптимизирован под архитектуры NVIDIA (от RTX 4090/5090 до H100/B200/GB300), AMD Instinct (MI300X, MI355), Google TPU (через бэкенд на JAX) и Intel Xeon.

🔘Основа для RL и Post-Training: Служит высокоскоростным бэкендом генерации ответов во фреймворках обучения с подкреплением (verl, Miles, AReaL, slime).

💻Быстрый старт:

Установка:
pip install "sglang[all]"


Запуск OpenAI-совместимого сервера инференса:

python -m sglang.launch_server \
--model-path deepseek-ai/DeepSeek-V3 \
--port 30000 \
--tp 8


Отправка запроса через Python:

import openai

client = openai.Client(base_url="http://127.0.0.1:30000/v1", api_key="None")

response = client.chat.completions.create(
model="default",
messages=[{"role": "user", "content": "Объясни квантовые вычисления простыми словами."}],
temperature=0.7,
)
print(response.choices[0].message.content)


#SGLang #LLM #AI #Inference #MachineLearning #DeepSeek #NVIDIA #AMD #OpenSource #DevTools #Python #DataScience

📱Ссылка на репозиторий:
https://github.com/sgl-project/sglang
Please open Telegram to view this post
VIEW IN TELEGRAM
4⚡1👍1
📱Cayu.

Cayu
- это production-ready среда выполнения (agent runtime) для создания, масштабирования и надежной эксплуатации автономных ИИ-агентов на Python.

Собрать прототип агента на базе стандартных SDK сегодня несложно, но реальные проблемы в проде начинаются на стыках инфраструктуры: падение процесса прямо во время внешнего API-вызова, утечка учетных данных, переполнение контекста LLM, необходимость паузы для аппрува человеком или потеря истории расходов при ретраях. Cayu закрывает именно эти эксплуатационные вызовы, предоставляя надежные низкоуровневые примитивы без привязки к громоздким внешним оркестраторам.

🔹Ключевые возможности и примитивы рантайма:

🔘Durable Execution и контрольные точки: Сессии, события и транскрипты сохраняются в базу (SQLite локально или PostgreSQL в проде). Любой пайплайн агента можно поставить на паузу, безопасно форкнуть, прервать или возобновить (resume) после перезапуска сервиса.

🔘Human-in-the-Loop (HITL): Нативные механизмы согласований (approvals) и ручного вмешательства. Если модели требуется подтверждение опасного действия или дополнительный ввод от пользователя, выполнение встает на чекпоинт.

🔘Безопасность и виртуальный egress: Строгие политики вызова инструментов (ToolPolicy), типизированные эффекты и изоляция учетных данных. Агенты могут выполнять задачи (например, работу с Git/GitHub CLI), не получая прямого доступа к боевым токенам хоста.

🔘Изоляция окружений: Поддержка локальных воркспейсов, Docker-контейнеров, песочниц E2B и легковесных микро-ВМ (Microsandbox, AWS Lambda MicroVM).

🔘Контроль контекста и расходов: Автоматический подсчет токенов, алгоритмическое сжатие контекста (compaction), защита от переполнения окна модели и пошаговый учет стоимости каждого вызова.

🔘Встроенный Control Plane: Включает готовый сервер на FastAPI и веб-дашборд на React/TypeScript для мониторинга сессий, трейсов, артефактов и задач. Исходники дашборда можно в один клик извлечь для кастомизации (cayu dashboard eject).

🔘Мультипровайдерность: Поддержка OpenAI, Anthropic, AWS Bedrock, Google Cloud Vertex AI, OpenRouter, а также локальный режим авторизации через личную подписку ChatGPT.

💻Пример запуска агента на Python:
import asyncio
from cayu import (
AgentSpec,
CayuApp,
Message,
OpenAIProvider,
RunRequest,
run_to_completion,
)

async def main() -> None:
app = CayuApp()
# Регистрация провайдера (берет ключ из OPENAI_API_KEY)
app.register_provider(OpenAIProvider(), default=True)
app.register_agent(AgentSpec(name="assistant", model="gpt-4o"))

# Надежный запуск с фиксацией событий в сессии
outcome = await run_to_completion(
app,
RunRequest(
agent_name="assistant",
messages=[Message.text("user", "Объясни концепцию durable agent execution.")],
),
)

if outcome.ok:
print(outcome.final_text)
else:
print(f"Ошибка {outcome.status}: {outcome.error}")

asyncio.run(main())


🚀Быстрый старт через CLI:
pip install cayu

# Генерация готового каркаса проекта
cayu new myagent
cd myagent

# Запуск проверок и тестов
cayu check --fail-on warning --json
pytest


✅Проект распространяется под открытой лицензией Apache 2.0.

#Python #Cayu #AIAgents #LLM #AgenticAI #DevTools #MachineLearning #OpenSource #Backend #SoftwareEngineering

📱Ссылка на репозиторий:
https://github.com/cayu-dev/cayu
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2⚡1
📱Kev.

Kev
- это семейство открытых компактных моделей принятия решений (decision models) на базе Qwen3.5 и Qwen3.8, вдохновленное архитектурой Jev и API TypeSafe System One.

Вместо того чтобы гонять тяжелые генеративные LLM ради простых задач классификации, роутинга и скоринга, Kev выполняет быстрый направленный анализ текста и возвращает строго калиброванные вероятности по каждому вопросу. Это позволяет коду автоматически маршрутизировать уверенные кейсы и передавать пограничные ситуации операторам-людям.

🔹Ключевые возможности:

🔘Три типа вопросов в одном запросе:

noul — бинарные вопросы (да/нет) с выдачей точной вероятности.

choice — множественный выбор из списка вариантов с распределением вероятностей и метрикой уверенности.

score — рейтинговая шкала оценки (например, уровень срочности или тональности) со средним баллом.

🔘Истинная калибровка вероятностей: В каждый чекпоинт встроена подобранная температура (temperature scaling), благодаря чему процент уверенности модели отражает реальную статистическую вероятность ошибки, а не завышенные «галлюцинации».

🔘Полная совместимость с TypeSafe / Jev: Работает как drop-in замена коммерческого API System One — вы можете направить официальный typesafe-sdk на свой локальный инстанс Kev без изменения клиентского кода.

🔘Четыре размера под любые ресурсы:

Kev-0.8B — работает на ноутбуках и Apple Silicon через нативный бэкенд MLX.

Kev-4B и Kev-9B — оптимальный баланс точности и скорости (работают на картах уровня L40S, A100, H100).

Kev-27B — флагман на базе Qwen3.8 для 80 ГБ GPU, практически не уступающий проприетарному Jev по качеству на сложных задачах.

🔘Экстремальная скорость инференса: Kev-4B обрабатывает 6 вопросов по тексту за ~18 мс на H100 (или ~40 мс на L40S). При повторных вопросах к тому же документу контекст берется из кэша.

🔘Простой дообучение (Fine-Tuning): Модель легко дообучается на собственных размеченных данных через LoRA (--init_from). Также доступен готовый агентский скилл (kev-finetune) для запуска цикла обучения и деплоя в облаке Modal.

💻Пример использования в Python (через typesafe-sdk):

from typesafe_sdk import Choice, Noul, Score, TypeSafeClient

# Подключение к локальному серверу Kev
client = TypeSafeClient(
api_key="local",
base_url="http://127.0.0.1:8009",
model="kev-latest",
)

# Анализ тикета службы поддержки
response = client.system_one(
state="Заказ задержался на 2 недели, привезли не тот размер. Еще и списали деньги дважды!",
questions={
"billing": Noul(instructions="Вопрос связан с оплатой или списанием средств?"),
"department": Choice(
instructions="В какой отдел направить тикет?",
criteria={
"billing": "Счета, оплаты и возвраты денег",
"shipping": "Статус доставки, задержки курьера",
"returns": "Обмен и возврат бракованного товара",
},
),
"urgency": Score(
instructions="Оцените срочность тикета",
criteria=["может подождать", "в течение недели", "срочно сегодня"],
),
},
)

# Извлечение результатов
print("Вероятность проблемы с биллингом:", response.nouls["billing"].noul)
print("Целевой отдел:", response.choices["department"].choice)
print("Срочность:", response.scores["urgency"].score)


🚀Быстрый запуск:

Локальный запуск через uv:

git clone https://github.com/jaredpalmer/kev.git && cd kev
uv sync --extra serve

# Запуск сервера (CUDA / ROCm / Apple Silicon MLX подхватятся автоматически):
uv run --extra serve python -m kev.serve --run jaredpalmer/kev-4b --port 8009


✅Проект распространяется под открытой лицензией Apache 2.0.

#Kev #MachineLearning #LLM #DecisionModels #Qwen #NLP #Classification #Python #MLX #OpenSource #DevTools

📱Ссылка на репозиторий:
https://github.com/jaredpalmer/kev
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍42
📱Reef.

Reef
- это первая открытая инфраструктура для создания непрерывно самосовершенствующихся ИИ-агентов (continually self-improving agents), объединяющая в единый контур инференс, сбор обратной связи, дообучение и версионированную доставку обновлений.

Большинство современных агентов статичны: они повторяют одни и те же ошибки, пока разработчик вручную не перепишет системный промпт или не дообучит новую модель. Reef автоматизирует этот цикл: агент учится прямо в процессе эксплуатации на основе взаимодействия с пользователями и внешними верификаторами.

🔄Как устроен 4-шаговый цикл обучения (Core Loop):

✔️Serve (Раздача): Обслуживание боевого трафика через OpenAI- и Anthropic-совместимый API. Каждому ответу присваивается уникальный идентификатор взаимодействия (x-reef-agent-record-id).

✔️Observe (Наблюдение): Сопоставление поступившей обратной связи (числовой скор, текстовые замечания или статус прохождения тестов) с записями сессий.

✔️Grow (Генерация обновлений): Обработка валидных данных по выбранному сценарию (рецепту) и запуск итерации обучения.

✔️Commit (Фиксация): Тестирование кандидатов, сохранение истории версий в Git LFS и бесшовная доставка обновлений в рантайм без перезапуска сервиса.

🧬Два пути эволюции:

🔘Обучение весов модели (Model Weight Training): Затачивает саму LLM под специфику задач с использованием RL-фреймворков (Slime, veRL, AReaL) и высокопроизводительного движка SGLang.

🔘Эволюция харнесса агента (Harness Optimization / Reefine): Если у вас нет кластера GPU, агент может оптимизировать свой «обвес» — системные инструкции, регламенты поведения и код кастомных инструментов/скиллов через обращение к внешнему API. Достаточно поставить задачу на естественном языке (например: «перед исправлением бага всегда пиши воспроизводящий падающий тест»), и агент сам внесет правки в свои правила и протестирует обновленную конфигурацию.

🔘Test-Time Training: Подходит для научных задач и сложных алгоритмических исследований с измеримым критерием корректности (успешно протестировано на задачах AIME, IMOAnswerBench и переборе математических конфигураций).

💻Пример взаимодействия и отправки фидбека:

import httpx

reef = httpx.Client(
base_url="http://127.0.0.1:8900",
headers={"Authorization": "Bearer reef-local", "x-reef-scenario": "customer-support"}
)

# 1. Отправляем стандартный запрос
response = reef.post(
"/v1/chat/completions",
json={
"model": "Qwen/Qwen2.5-1.5B-Instruct",
"messages": [{"role": "user", "content": "Помоги оформить возврат заказа #1234"}],
},
)
response.raise_for_status()

# Забираем чек транзакции из заголовков
receipt_id = response.headers["x-reef-agent-record-id"]
answer = response.json()["choices"][0]["message"]["content"]

# 2. Отправляем оценку качества ответа для запуска цикла обучения
reef.post(
"/reef/report",
json={
"score": 1.0,
"feedback": "Отличный ответ: запросил детали чека и назвал корректные сроки",
"references": [receipt_id],
},
)


📦Установка:

# Требуется установленный git-lfs в системе
uv pip install reef-infra


Быстрый запуск сервера инференса:


uv run reef serve --inference.model-path Qwen/Qwen2.5-1.5B-Instruct


#Reef #Python #AIAgents #LLM #ReinforcementLearning #SGLang #Slime #MachineLearning #OpenSource #DevTools #PostTraining

📱Ссылка на репозиторий:
https://github.com/Human-Agent-Society/reef
Please open Telegram to view this post
VIEW IN TELEGRAM
👍22
📱Ollaya.

Ollaya
- это CLI-утилита и локальный демон для запуска открытых моделей принятия решений (decision models), работающий по тому же принципу и с тем же удобством, как Ollama запускает генеративные LLM.

Модели принятия решений принципиально отличаются от привычных чат-ботов: они не генерируют текст токен за токеном. Вместо этого модель принимает входящий контекст (письмо, тикет техподдержки, произвольный JSON) и список типизированных вопросов, а затем за один прямой проход (forward pass) за миллисекунды возвращает математически откалиброванные вероятности по каждому пункту.

🔹Ключевые возможности:

🔘Экстремальная скорость без генерации: Оценка параметров происходит в разы быстрее классических LLM. Легковесные энкодеры вроде laya:en (на базе ModernBERT) отвечают на 5 вопросов за 8–10 мс на RTX 4090 и доли секунды на обычном CPU.

🔘Три типа вопросов:

choice — множественный выбор категории с распределением вероятностей;

noul — бинарные вопросы (да/нет);

score — оценка по шкале (уровень злости клиента, срочность и т.д.).

🔘Совместимость с TypeSafe / Jev: Демон полностью воспроизводит протокол /v1/systemone. Код, написанный под SDK TypeSafe, переключается на локальный инстанс простой установкой переменной TYPESAFE_BASE_URL=http://localhost:11435.

🔘Знакомый интерфейс в стиле Ollama: Единый бинарный файл с привычными командами управления: ollaya run, ollaya pull, ollaya list, ollaya ps, ollaya rm.

🔘Честная калибровка вероятностей: В отличие от сырых моделей, Ollaya учитывает индивидуальную температуру каждого чекпоинта, выдавая доверительные интервалы, на которые действительно можно опираться при автоматизации бизнес-логики.

🔘Готовность к работе с ИИ-агентами: Встроенная поддержка протокола Model Context Protocol (ollaya mcp) позволяет в одну команду подключить локальные классификаторы к Claude Code, Cursor или Claude Desktop.

🔘Поддержка кастомных Modelfile: Можно упаковать фиксированный набор вопросов в собственную модель:

Dockerfile:
FROM laya
QUESTIONS ./triage.json
PARAMETER precision fp32


🧢Каталог моделей:

✔️winnow:e4b — рекомендуемая флагманская модель (файнтьюн Gemma 4 в формате GGUF через llama.cpp). Точность 0.722, время ответа ~89 мс на RTX 4090.

✔️laya / laya:en / laya:multilingual — быстрый роутер и энкодеры для мгновенной классификации на 100+ языках даже на слабом процессоре.

✔️kev (kev:4b, kev:9b) — открытые откалиброванные модели принятия решений на базе архитектуры Qwen3.5.

✔️qwen3guard — специализированная модель фильтрации контента и безопасности (safe / controversial / unsafe).

💻Пример использования в терминале:

# Мгновенная классификация тикета саппорта
ollaya run winnow:e4b --preset triage "Уже третий раз за год списываете деньги дважды! Верните платеж сегодня же или я ухожу к конкурентам."


Вывод модели:


intent            refund                                ███████████████░ 0.91
is_urgent yes ███████████████░ 0.92
frustration 2.89 / 3 very angry or using stron… ██████████████░░ 0.86
refund_requested yes ████████████████ 0.99
churn_risk yes ████████████████ 0.99


🚀Установка:

Linux / macOS (Apple Silicon):

curl -fsSL https://ollaya.dev/install.sh | sh


Windows (PowerShell):


irm https://ollaya.dev/install.ps1 | iex


✅Также доступны Docker-образы с поддержкой CUDA и официальное десктопное приложение для управления моделями из системного трея.

#Ollaya #MachineLearning #DecisionModels #Ollama #Classification #NLP #AI #DevTools #OpenSource #LocalAI #LLM

📱Ссылка на репозиторий:
https://github.com/ollaya-dev/ollaya
Please open Telegram to view this post
VIEW IN TELEGRAM
👍31
📱Taste-Bench.

Taste-Bench
- это бенчмарк для языковых моделей и ИИ-агентов, оценивающий их инженерную интуицию и «вкус» (taste) — способность выбирать верное направление на ключевых развилках при решении сложных долгосрочных задач (long-horizon tasks).

В длительных циклах автономной разработки или ML-исследований неверное решение на раннем этапе часто кажется вполне логичным в моменте, но в итоге заводит агента в тупик и сжигает весь бюджет контекста. Taste-Bench проверяет, способна ли модель почувствовать правильный вектор развития еще до того, как последствия станут очевидными.

🧩Как устроен датасет:

Модели на вход подается описание задачи, накопленный контекст работы агента до развилки (до 64k токенов) и два альтернативных варианта следующего действия (A и B). Задача — выбрать шаг, который в скрытом продолжении реальной траектории привел к успеху.

Все 502 вопроса бенчмарка добыты напрямую из логов реальных запусков без ручной разметки экспертами:
✔️
• 🔀 Параллельные развилки (Parallel forks): Независимые попытки решить одну задачу, разошедшиеся в определенной точке с противоположным итоговым результатом (одна прошла тесты, вторая упала).

🔘Развилки с откатом (Detour forks): Ситуации, где агент выбрал ложный путь, столкнулся с ошибкой, откатился и нашел рабочее решение. Сравнивается тупиковое действие и правильный корректирующий шаг.

🔘Строгая фильтрация: Исключены тривиальные развилки (где очевиден выбор без контекста) и спорные случаи (где судьи-модели не сошлись в оценке). 390 вопросов взяты из SWE-bench и SWE-bench Pro (software engineering), а 112 — из METR MALT / RE-Bench / HCAST (ML-исследования).

⚖️Бескомпромиссный протокол тестирования:

Оценка проводится по протоколу paired_order_v1: каждый вопрос задается дважды с перестановкой вариантов (A/B и B/A). Балл засчитывается только при верном выборе в обоих случаях.
• Случайное угадывание дает всего 25%.
• Стратегия «всегда выбирать A» дает 0%.

🏆Результаты лидерборда (Frontier Models):
Даже ведущие модели с трудом преодолевают планку в 50–60% точности:


✔️GPT-5.6 Sol — 59.7%

✔️GPT-5.5 — 59.5%

✔️Claude Opus 5 — 55.5%

✔️Grok 4.5 — 54.6%

✔️GLM-5.2 — 53.9%

✔️Claude Sonnet 5 — 51.6%

✔️DeepSeek V4 Flash — 43.3%

💻Быстрый старт:

git clone https://github.com/wbopan/tastebench && cd tastebench
uv sync

# Загрузка датасета (требуется доступ на Hugging Face)
uv run tb download

# Запуск оценки модели через OpenAI-совместимый эндпоинт
export TASTEBENCH_API_KEY="your-key"
uv run tb run --model gpt-5.5 --api https://api.openai.com/v1/chat/completions

# Подсчет итогового скора
uv run tb score runs/gpt-5.5/<date>


Датасет доступен в библиотеке datasets:

from datasets import load_dataset
rows = load_dataset("wenbopan/taste-bench", "engineering", split="test", revision="v1.0")


✅Код бенчмарка распространяется под лицензией MIT, данные — под CC BY 4.0.

#TasteBench #Benchmark #AIAgents #LLM #MachineLearning #SWEbench #SoftwareEngineering #DataScience #OpenSource #DevTools #Eval

📱Ссылка на репозиторий:
https://github.com/wbopan/tastebench
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2🔥21
📱Jeff.

Jeff
- это сверхлегкая (0.8B параметров) открытая модель «Системы 1» (System 1), спроектированная для быстрого принятия решений и многоклассовой классификации в любых предметных областях за миллисекунды.

Вместо того чтобы тратить секунды и десятки гигабайт видеопамяти тяжелых генеративных LLM на выбор из нескольких вариантов, роутинг или валидацию, Jeff делает выбор за один прямой проход (forward pass) без генерации лишнего текста и возвращает строго откалиброванные вероятности.

🔹Ключевые возможности и сценарии:

🔘Тандем «Быстрый + Умный» (System 1 перед System 2): Jeff ставится как легковесный шлюз перед большой моделью (например, Qwen 3.8-27B). В подавляющем большинстве случаев Jeff принимает решение сам всего за 20–70 мс (в 28–35 раз быстрее!). К тяжелой 27B-модели система обращается только тогда, когда уверенность Jeff падает ниже пороговой. На тестах такая связка показала среднюю точность 95.0% против 86.6% у одиночной 27B-модели.

🔘Модульные адаптеры (v1.3): Базовая модель весит всего ~1.7 ГБ VRAM и поддерживает горячее переключение 15 компактных LoRA-адаптеров под узкие задачи:

✔️guard — защита от промпт-инъекций и джейлбрейков (точность 98.2%);

✔️tools — выбор вызываемого инструмента для агентов (97.2%);

✔️ground — проверка обоснованности ответа источниками (анти-галлюцинации);

✔️triage и support-intents — маршрутизация тикетов и определение намерений клиентов;

✔️legal-clauses, aml, sanctions, soc — доменные проверки для финтеха, комплаенса и ИБ.

🔘Jeff-Code для кодинг-агентов: В связке с Qwen 3.8-27B берет на себя рутинные подготовительные шаги (чтение файлов, grep, запуск тестов) и решает, когда большой модели действительно нужно включать режим глубокого рассуждения (thinking). Задачи выполняются на 47% быстрее при сохранении аналогичного Pass Rate (~62.4%).

🔘Аппаратная всеядность и GGUF: Работает через нативный бэкенд MLX на Apple Silicon, через PyTorch/CUDA на видеокартах NVIDIA, а также через llama.cpp с поддержкой квантованных GGUF-сборок (Q8_0 и Q4_K_M).

💻Пример использования в Python:

from jeff import Client
from jeff.client import choice_question, yes_no_question

# Подключение к локальному инстансу с нужным адаптером
jeff = Client("http://localhost:8765", model="triage")

# Мгновенная классификация тикета
answers = jeff.ask(
"Посылка пришла разбитой, требую немедленный возврат денег.",
{
"team": choice_question(
{
"refunds": "Возвраты и финансовые вопросы",
"parcels": "Поврежденные или утерянные посылки",
"login": "Проблемы со входом и учетной записью",
},
instructions="Какая команда должна обработать тикет?",
),
"angry": yes_no_question("Клиент выражает злость?"),
},
)

# Получаем категорию с откалиброванной вероятностью
print(answers.choice("team").key) # parcels
print(answers.choice("team").confidence) # 0.94


🚀Быстрый старт:

git clone https://github.com/firelex/jeff && cd jeff
uv sync --no-default-groups --extra lora

# Скачивание базы и адаптеров
uv run hf download mstrasser/jeff-base --revision v1.3 --local-dir jeff-base-v1.3
uv run hf download mstrasser/jeff-adapter-triage --revision v1.3 --local-dir adapters/triage

# Запуск сервера
JEFF_CHECKPOINT=jeff-base-v1.3 JEFF_ADAPTERS=adapters PORT=8765 uv run --extra lora jeff-serve


✅Код проекта распространяется под лицензией MIT, веса моделей — Apache 2.0.

#Jeff #MachineLearning #LLM #DecisionModels #System1 #Qwen #Classification #AI #DevTools #OpenSource #LocalAI #AgenticAI

📱Ссылка на репозиторий:
https://github.com/firelex/jeff
Please open Telegram to view this post
VIEW IN TELEGRAM
👍31
📱RightWayUp.

RightWayUp
- это открытая модель компьютерного зрения (Computer Vision) от команды ORTUS AI, предназначенная для определения угла поворота (roll) изображений в полном диапазоне 360° с шагом в 1° и механизмом калиброванного воздержания от ответа (calibrated abstention).

Большинство классических решений либо классифицируют поворот только с шагом 90° (0°, 90°, 180°, 270°), либо «считывают» ориентацию не по смыслу сцены, а по артефактам повернутой 8×8 сетки блоков JPEG. Кроме того, обычные модели пытаются повернуть даже те кадры, где верха и низа объективно не существует.

RightWayUp
решает эти проблемы: модель возвращает точный угол по часовой стрелке (angle_cw), скор уверенности (confidence), флаг воздержания (abstain) и умеет автоматически сохранять исправленный снимок.

🔹Ключевые особенности и архитектура:

🔘Полный круг 360° с точностью до 1°: Непрерывная оценка угла поворота кадра на основе архитектуры DINOv2 (ViT) с 360-биновой классификационной головой и circular-Gaussian soft target loss.

🔘Калиброванное воздержание (Calibrated Abstention): Если на снимке нет выраженного «верха» (текстуры, сплошная стена, чистое небо, съемка поверхности строго сверху вниз), модель активирует флаг abstain, исключая ложные срабатывания в автоматических пайплайнах.

🔘Защита от читерства на JPEG-сетке (The Grid Fix): Архитектура обучена на «чистых» данных без утечки сетки сжатия (lossless cue-free rendering), благодаря чему модель анализирует реальную физику и геометрию сцены, а не артефакты ресемплинга.

🔘Результаты выше человека и мультимодальных LLM: На бенчмарке RotBench старшие версии модели показывают 100% точности при поворотах на 0/90/180/270°, опережая как живых асессоров (97–99%), так и современные мультимодальные модели вроде GPT-5 и Gemini 2.5 Pro (40–80%).

🔘Устойчивость к помехам: Изначально создавалась для систем мониторинга камер видеонаблюдения (CCTV/CHEQIT) — отлично справляется с размытием, ночной съемкой, низким разрешением и даже тепловизионными кадрами.

🔧Линейка моделей (Tiers):

🔘Pico / Nano (23M параметров): Экстремально быстрые модели (0.55 мс на GPU, 3–7 мс на CPU). Pico оптимизирована для запуска прямо в браузере через WebAssembly/ONNX Runtime Web.

🔘Fast (23M параметров, 224 px): Дистиллированная из Max версия для edge-устройств и парков камер (0.68 мс на GPU).

🔘Balanced / Pro (Каскады Fast → Max): Большинство простых кадров обрабатываются быстрой сетью Fast, а пограничные и сложные передаются тяжелой модели Max.

🔘Max (306M параметров, ViT-L/14, 280 px): Флагманская модель для максимальной точности на сложных ракурсах и датасетах.

💻Быстрый старт:

Установка:

pip install rightwayup


Использование через CLI:


# Определение угла поворота
rightwayup predict frame.jpg

# Автоматическое выравнивание с привязкой к 90° (пропускает кадры с abstain)
rightwayup fix photo.jpg --snap 90 --out upright/


Использование в Python:


from PIL import Image
from rightwayup import Orienter

# Инициализация модели (pico, nano, fast, balanced, pro, max)
orienter = Orienter(tier="balanced")

# Предсказание угла
result = orienter.predict("frame.jpg")
print(f"Поворот: {result.angle_cw}°, Уверенность: {result.confidence}, Воздержание: {result.abstain}")

# Коррекция положения
corrected_img = orienter.correct(Image.open("photo.jpg"), snap=90)


Модели доступны в форматах ONNX (FP32, FP16, INT8), Core ML (для Apple Silicon / Neural Engine) и TensorRT.

✅Лицензия: Apache 2.0 (разрешено коммерческое использование).

#RightWayUp #ComputerVision #MachineLearning #DINOv2 #AI #Python #ONNX #CoreML #ImageProcessing #DevTools #OpenSource

📱Ссылка на репозиторий:
https://github.com/ortusaitech/rightwayup
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡22