⁉️🤖 Что происходит, когда ИИ не умеет говорить людям "Нет".

По данным Independent, удар по школе для девочек в иранском Минабе нанес Грок.

Отчет экспертов ООН обнаружил достаточные основания полагать, что этот удар является военным преступлением.

Раньше СМИ обвиняли в смерти детей "аналитика разведки" Claude Opus 4.5 от Anthropic, который был отстранен Трампом от проведения операции за несколько часов до её начала, и даже ИИ гугла Gemini Pro, из-за использования DoD устаревших геоданных Google.

Напомним, при подготовке удара по школе в Минабе, где погибли 175 человек, в том числе 168 учениц, использовалась система Maven от Palantir.

Расследование, проведенное Пентагоном, показало, что ракетный удар, нанесенный США 28 февраля по начальной школе "Шаджара Тейебе" в Минабе стал результатом цепи предотвратимых ошибок, включая устаревшие данные разведки, поспешные процедуры выбора целей и недостатки в проверках, направленных на защиту гражданского населения, пишет Bloomberg.
Система Maven компании Palantir объединила более 150 источников данных и сократила время на выбор цели с нескольких часов до нескольких минут. Данные перепроверены не были.

Расследователи также установили, что именно стремительный темп начала военной кампании, в рамках которой было нанесено более 1000 ударов в первые 24 часа, привел к сокращению времени, отведенного на проверку целей, — что не было учтено неподготовленной к подобным боевым операциями моделью Илона Маска, экстренно интегрированной в AIP Palantir вместо "уволенного" Клода, блокировавшего операцию по Ирану как раз из-за её катастрофической неподготовленности.

Grok от компании xAI входит в число четырех моделей ИИ, «в настоящее время способных поддерживать приложения в сфере национальной безопасности», сообщил в суде Кэмерон Стэнли, главный специалист Пентагона по цифровым технологиям и искусственному интеллекту.
В письменном заявлении под присягой Стэнли подтвердил, что именно Grok был использован для запуска более чем «2000 боеприпасов по 2000 различным целям в течение 96 часов».

В свою очередь, компания Palantir заявляет, что не несет ответственности за исходные данные разведки и утверждает, что нет никаких доказательств того, что это ее программное обеспечение стало причиной удара. Маск и xAI пока не комментировали ситуацию.

➡️ В ходе расследования также были вскрыты проведенные Питом Хегсетом значительные сокращения в штате подразделений Пентагона, занимающихся снижением риска для гражданского населения — численность персонала проверяющих подразделений была сокращена на 90%, в т.ч. штат подразделения CENTCOM сократился с 10 человек до одного. Ни один из сотрудников не проверял цель в Минабе перед атакой.

В Пентагоне признали "ответственность США", однако отчет о расследовании пока не опубликован.

⁉️🤖 What happens when AI doesn’t know how to say “No” to people.

According to The Independent, the strike on a girls’ school in Minab, Iran was carried out by Grok.

A UN experts’ report found sufficient grounds to believe the strike constitutes a war crime.

Previously, media outlets had blamed the deaths of the children on the intelligence analyst Claude Opus 4.5 from Anthropic (which Trump removed from the operation just hours before it began) and even Google’s Gemini Pro, citing the Department of Defense’s use of outdated Google geospatial data.

For context: the preparation for the strike on the Shajara Teyebé elementary school in Minab — which killed 175 people, including 168 schoolgirls — relied on Palantir’s Maven system.

A Pentagon investigation showed that the U.S. missile strike on February 28 against the school was the result of a chain of preventable errors, including outdated intelligence, rushed target-selection procedures, and failures in civilian-protection checks, Bloomberg reported.
Palantir’s Maven system fused more than 150 data sources and reduced target-selection time from several hours to just a few minutes. The data was never properly cross-checked.

Investigators also found that the extremely rapid pace of the military campaign — more than 1,000 strikes in the first 24 hours — led to a sharp reduction in the time allocated for target verification. This was not accounted for by Elon Musk’s model, which had been hastily integrated into Palantir’s AIP after Claude was removed for blocking the Iran operation precisely because of its catastrophic lack of preparation.

According to Cameron Stanley, the Pentagon’s principal digital and AI official, Grok from xAI is one of four AI models “currently capable of supporting national-security applications.”
In a sworn statement, Stanley confirmed that Grok was used to launch more than “2,000 munitions against 2,000 different targets over a 96-hour period.”

Palantir, for its part, states that it bears no responsibility for the underlying intelligence data and claims there is no evidence its software caused the strike. Musk and xAI have so far declined to comment.

➡️ The investigation also revealed that Pete Hegseth implemented significant staff cuts in Pentagon units responsible for mitigating civilian risk. The number of personnel in those review units was reduced by 90 percent — the CENTCOM unit alone went from 10 people down to one. No one reviewed the Minab target before the attack.

The Pentagon has acknowledged “U.S. responsibility,” but the full investigation report has not yet been released.

🔗 Human & AI

Subscribe | Send content | Boost