В Python 3.14 появилось решение, которое помогает избавиться от SQL-инъекций - t-strings 🔒

Проблема

Когда вы используете f-strings для SQL:

query = f"SELECT * FROM users WHERE name = '{user_input}'"

пользовательский ввод напрямую попадает в запрос.

Если злоумышленник передаст:

admin'; DROP TABLE users; --

— база выполнит вредоносную команду.

Это классическая SQL injection.

Почему это неудобно сейчас

Безопасный способ — параметризованные запросы:

cursor.execute(
    "SELECT * FROM users WHERE name = %s",
    (user_input,)
)

Но приходится:

• запускать шаблон отдельно
• передавать значения отдельно
• поддерживать две структуры

Что изменилось в Python 3.14

Появились template string literals (t-strings).

В отличие от f-strings, они:

• не возвращают готовую строку

• возвращают объект Template

• отдельно хранят текст и подставленные значения

Пример:

query = t"SELECT * FROM users WHERE name = {user_input}"

Теперь можно:

• получить все интерполяции
• проверить значения
• экранировать или валидировать их
• и только потом собрать финальный SQL

safe = safe_sql(query)

Результат:

• вредоносный ввод очищается
• SQL-инъекции блокируются
• таблицы остаются на месте

Почему это важно

f-strings - быстрые, но опасные для SQL.

t-strings позволяют сохранить удобство шаблонов и добавить контроль безопасности.

Python движется к безопасным шаблонам по умолчанию, меньше ручной защиты, меньше уязвимостей в продакшене.

📲Max

@pythonl

⚡️ Sakana AI представили два исследования - Text-to-LoRA и Doc-to-LoRA, которые делают кастомизацию LLM быстрее и значительно проще.

Идея в том, чтобы модели могли мгновенно адаптироваться к новым задачам или информации — без долгого fine-tuning, сложных пайплайнов и огромных промптов.

Сегодня у LLM есть проблема:
чтобы обучить модель под новую задачу или добавить знания, обычно требуется:
- дорогое и длительное дообучение
- context distillation
- или длинные, затратные по памяти промпты

Sakana AI предложили другой подход.

Они обучили гиперсеть (Hypernetwork), которая генерирует LoRA-адаптеры «на лету».
Теперь вместо сложного процесса оптимизации достаточно одного forward-pass, чтобы:
- адаптировать модель под новую задачу
- или «встроить» в неё новый документ

Что показывают эксперименты:

Text-to-LoRA
- модель специализируется под новую задачу
- достаточно текстового описания на естественном языке

Doc-to-LoRA
- модель может «внутренне запомнить» длинный документ
- показывает почти идеальную точность на задачах, где текст в 5 раз длиннее контекстного окна
- способна переносить визуальные знания из vision-language модели в текстовую LLM

При этом обе технологии работают с задержкой меньше секунды.

Главное значение работы — снижение порога кастомизации.
Вместо сложного ML-процесса пользователь сможет специализировать модель простым текстовым запросом.

Код и исследования уже открыты для сообщества:

Doc-to-LoRA
Paper: https://arxiv.org/abs/2602.15902
Code: https://github.com/SakanaAI/Doc-to-LoRA

Text-to-LoRA
Paper: https://arxiv.org/abs/2506.06105
Code: https://github.com/SakanaAI/Text-to-LoRA

@machinelearning_interview

📌 Anthropic vs Пентагон

В США набирает обороты скандал, который буквально за 2 недели вырос до масштаба национальной темы, которая уже вышла за рамки ИИ-индустрии.

В пятницу, Администрация Президента США объявила о внесении Anthropic в список компаний, представляющих риск для оборонных цепочек поставок.

Прецедент исключительный: обычно такой статус присваивают структурам из враждебных государств (например, китайской Huawei).

В среду вечером Пентагон письменно потребовал от Anthropic разрешить военным использовать Claude "в любых законных целях" - то есть без каких-либо ограничений, наложенных самой компанией.

В четверг CEO Дарио Амодэй опубликовал открытое заявление, в котором объяснил позицию компании: главные опасения - массовая слежка за гражданами и автономное оружие, способное открывать огонь без участия человека.

«Мы не можем по совести согласиться с их требованием», — написал Дарио.

В ответ старший чиновник Пентагона Эмиль Майкл назвал Амодэя лжецом с "комплексом бога", который "готов рисковать безопасностью страны".

🟡Ставки высоки с обеих сторон

Claude - единственная модель ИИ, развернутая в засекреченных системах американских военных. Она использовалась в операции по захвату Николаса Мадуро и рассматривается как инструмент для потенциальных военных операций в Иране.

Контракт Пентагона с Anthropic оценивался в $200 млн; теперь он будет расторгнут. Кроме того, все подрядчики Министерства обороны обязаны будут подтвердить отказ от Claude в своих рабочих процессах. На переход отведено полгода.

Сложнее всего придется компании Palantir, она использует Claude для наиболее чувствительных военных задач и теперь вынуждена срочно договариваться с конкурентами Anthropic.

🟡Пентагон настаивает на своем

Военные не обязаны согласовывать применение купленного инструмента с частной компанией.

Министр обороны Пит Хегсет давно критикует "повесточный ИИ", а администрация Президента США усиливает давление на Anthropic несмотря на то, что армия все больше зависит от ее продукта.

«Единственная причина, по которой мы вообще с ними разговариваем — они нам нужны, и нужны прямо сейчас», — сказал один из оборонных чиновников.

🟡На роль замены уже есть кандидаты.

xAI подписала соглашение с Пентагоном об использовании Grok в засекреченных системах, но эксперты признают, что полноценной альтернативой Claude он вряд ли станет.

Google Gemini и ChatGPT работают в несекретных контурах; Министерство обороны ускоряет переговоры о переводе их в секретную среду.


Позиция Anthropic вызвала волну солидарности в ИИ-отрасли: сотни сотрудников Google и OpenAI подписали петицию с призывом к собственным компаниям занять такую же позицию.

Сэм Альтман заявил, что компания сохранит те же "красные линии" по слежке и автономному оружию, но все же намерена искать договоренность с Пентагоном.

В ночь на субботу в Х глава OpenAI сообщил, что соглашение с Министерством обороны достигнуто и модели компании будут развернуты в секретных сетях. По словам Альтмана, Минобороны согласилось на запрет слежки и использования моделей OpenAI в автономных системах вооружения.

Anthropic пока не сообщала, будет ли оспаривать присвоенный статус в суде.

@ai_machinelearning_big_data

#news #ai #ml

Ушел, пришлось вернуться
😠😠😠😠😠

Что я увидел? Новость:

Дурка дня: в «Битву экстрасенсов» пришла киберведьма — она примотала к голове смартфон с нейронкой.
Справляться с испытаниями поехавшей помогает... ChatGPT — она буквально задает ИИ вопросы и использует ответы как подсказки.Источник: Топор

А теперь вопрос на засыпку, безопасники: если ведьма гуглит ответы через ChatGPT, то это скам или эффективный OSINT в прямом эфире?

Сидит такой Леший, попивает чаёк с чабрецом, смотрит новости и понимает: весна, март, коты, «экстрасенсы» с нейросетями в голове. 🌿

Киберведьма, примотавшая смартфон к виску изолентой – это же чистый перформанс. Честно, почти по-нашему, ИБшному: если есть уязвимость в формате шоу — почему бы не взломать?

Сарказм сарказмом, но девушка, по сути, продемонстрировала классический prompt engineering в условиях неопределённости 😁 Только вместо боевой задачи – «угадай, что в коробке», вместо KPI – рейтинги. Хитро? Безусловно. Эффективно? Судя по хайпу – очень.

Чему учит эта магия байка:
1. Инструмент нейтрален. Нейронка не «хорошая» и не «плохая». Она как молот Тора: можно гвоздь забить, можно стену проломить. Зависит от рук и намерений.
2. Контекст решает. На шоу развлечений такой трюк это весёлый троллинг. В отчёте по ИБ – повод для разбирательства.
3. Не верь глазам. Видишь «магию» – ищи промпт. Видишь «озарение» – проверяй логи. Еще бабка моя говорила: доверяй, но верифицируй.

Мудрость от Лешего на ночь, без анестезии:
Нейронка не делает тебя умнее. Она делает тебя быстрее. А если ты тупая – ты просто быстрее несёшь чушь.

p.s. Спросил у киберведьм – сказали эта не из их банды

😱 Более 749 сотрудников 🌐 Google и 👩‍💻 OpenAI (653 от Google и 96 от OpenAI) поддержали открытое письмо под названием «Нас не смогут разделить», призывая руководство своих компаний поддержать Anthropic. Протест против применения ИИ для автономных систем вооружения базируется на сухом понимании того, как эти алгоритмы работают изнутри. Коллективную позицию представляют старшие и ведущие исследователи, инженеры по разработке моделей, участники технического состава и старшие инженеры-программисты — то есть специалисты, непосредственно работающие с LLM.

👨‍🔬С чем связано недовольство профильных ИИ-специалистов?

1️⃣ Непредсказуемость в реальных условиях. Нейросети принимают решения на основе статистических вероятностей, а не жесткой логики. В хаосе реальных 💪 боевых действий неизбежно возникают ситуации, которых не было в обучающей выборке. В таких случаях генеративные модели и системы компьютерного зрения склонны к «галлюцинациям» и непредсказуемым ошибкам, цена которых — человеческие жизни.

2️⃣ Алгоритмы распознавания образов всё ещё очень хрупки и легко поддаются манипуляциям. Незначительное изменение визуального паттерна на объекте (специальная наклейка, краска или шум, невидимый человеческому глазу) способно полностью обмануть классификатор, заставив систему распознать гражданский автобус как танк.

3️⃣ Неспособность к контекстуальному анализу. ИИ лишен здравого смысла и понимания контекста. Математическая модель не всегда способна надежно отличить вооруженного комбатанта от раненого солдата, пытающегося сдаться, или подростка с игрушечным пистолетом.

4️⃣ Проблема «черного ящика» и отсутствие ответственности. Архитектура глубокого обучения (Deep Learning) непрозрачна. Вину за летальные действия и жертвы среди гражданских можно удобно переложить на ошибку ИИ, при этом не нести никакой ответственности.
--------------------------

Anthropic требовала жестко «захардкодить» свои корпоративные этические правила прямо в контракт. Они хотели, чтобы Пентагон юридически обязался перед ними (частным подрядчиком) не использовать ИИ для слежки и убийства людей с помощью автономных систем (так как не надёжны). Министерство войны США восприняло это как попытку Big Tech диктовать им свои условия. Амодей захотел алгоритмического контроля и комплаенса. Например, если военные превысят оговоренные полномочия, то Anthropic, сославшись на корпоративную этику, сможет заблокировать часть решений Пентагона. Разумеется, такие ультиматумы со стороны бигтеха военные восприняли в качестве угрозы/вызова.

Никакое запугивание или наказание со стороны Военного министерства не изменит нашу позицию в отношении массовой внутренней слежки или полностью автономного оружия [речь об использовании ИИ-технологий].

— пишет Anthropic.

OpenAI, понимая, что дело запахло жаренным, пошла на уступки Пентагону и красиво упаковала своё согласие в красивую PR-обертку для общественности. Альтман дал согласие на формулировку военных — использовать ИИ для 🤖❗️«любых законных целей», а поскольку законы США формально и так запрещают слежку за гражданами без ордера, то Альтман просто сослался на существующие государственные нормы, чтобы снять с компании юридическую ответственность. По итогу получается, что в Пентагоне сохранили лицо («мы не прогнулись под айтишников»), а OpenAI получила оборонный контракт, переложив всю юридическую и моральную ответственность на само государство.

🈁 Амодей создал Anthropic как "корпорацию общественного блага". Для Амодея капитуляция перед требованиями военного ведомства означала бы катастрофическую девальвацию бренда, чей вес в индустрии напрямую зависит от бескомпромиссной приверженности стандартам ИИ-безопасности.

⭕️ OpenAI начинала как некоммерческая лаборатория, но под руководством Альтмана трансформировалась в коммерческую структуру. Альтман пытается играть в геополитику и монополизацию рынка. Ради этого он пойдёт на любые этические компромиссы.

🍏Примечательно, что приложение от Anthropic заняло 🥇1 место по популярности в App Store США. В социальных сетях ругают ChatGPT и удаляют в знак протеста.

✋ @Russian_OSINT