В далёкой далёкой галактике...
Каждый раз31 декабря 4 мая мы ходим с друзьями в баню отмечаем международный день того самого, что больше известно, как MTFBWY.
В этот раз наши исследователизапарились отметили праздник подробным разбором экзистенциальных вопросов кибербезопасности дроидов во вселенной "Звёздных войн".
1) Почему некоторые из них готовы по велению хозяина преступать закон?
2) От чего зависит, кого именно они считают хозяином?
3) Как они сами определяют, кому именно хранить верность и чьи приказы выполнять?
Да уж, вопросы, над которыми не жалко поломать голову. К счастью, как я люблю говорить, "мы уже над этим работаем" и, более того, поработали и выпустили подробный тематический рисёрч.
Несколько наблюдений:
В сериале «Опорная команда» намвпаривают показывают концепцию голосового управления дроидов. Человек ребёнок, не являющийся владельцем дроида, влияет на его поступки, вводя "железяку" в заблуждение. Ну, однозначно «джейлбрейк» больших языковых моделей (LLM)! Причем обход ограничений кибербезопасности и встроенных фильтров срабатывает не только с роботом-прислугой, но и с боевым пиратским дроидом!
"Они бы ещё выключатель ему на спине сделали..." - скажет скептик.
"Вы знаете, не хочу вас расстраивать, но..." :)
Но мы сейчас не об этом. Дальше - круче!
В сериале «Андор» зрителюнавешивают демонстрируют перепрограммирование боевого имперского дроида K-2SO. Учитывая, насколько это опасная машина, удивляет простота процесса. Повстанцы подменяют некое устройство, после чего дроид становится существом с новыми моральными принципами и начинает верой и правдой служить бывшим заклятым врагам.
Какие же выводыиз этой лапши можно сделать?
Ну, во-первых, очевидно, что дроид под управлением LLM — явная угроза безопасности. Во-вторых, используемая для создания дроидов в «Звездных войнах» программно-аппаратная платформа - полная фигня!
Если бы созданием мыслящих роботов занимались наши спецы по конструктивной безопасности, то они бы, конечно, сделали кибериммунное решение! В нём принципиально невозможны вредоносные манипуляции с памятью, а подмена компонента не ведёт к изменению функциональности системы.
Но мы всегда на светлой стороне, поэтому вовсе не заканчиваю этот пост сожалением, что давным-давно в далёкой-далёкой галактике не было KasperskyOS :)
Каждый раз
В этот раз наши исследователи
1) Почему некоторые из них готовы по велению хозяина преступать закон?
2) От чего зависит, кого именно они считают хозяином?
3) Как они сами определяют, кому именно хранить верность и чьи приказы выполнять?
Да уж, вопросы, над которыми не жалко поломать голову. К счастью, как я люблю говорить, "мы уже над этим работаем" и, более того, поработали и выпустили подробный тематический рисёрч.
Несколько наблюдений:
В сериале «Опорная команда» нам
"Они бы ещё выключатель ему на спине сделали..." - скажет скептик.
"Вы знаете, не хочу вас расстраивать, но..." :)
Но мы сейчас не об этом. Дальше - круче!
В сериале «Андор» зрителю
Какие же выводы
Ну, во-первых, очевидно, что дроид под управлением LLM — явная угроза безопасности. Во-вторых, используемая для создания дроидов в «Звездных войнах» программно-аппаратная платформа - полная фигня!
Если бы созданием мыслящих роботов занимались наши спецы по конструктивной безопасности, то они бы, конечно, сделали кибериммунное решение! В нём принципиально невозможны вредоносные манипуляции с памятью, а подмена компонента не ведёт к изменению функциональности системы.
Но мы всегда на светлой стороне, поэтому вовсе не заканчиваю этот пост сожалением, что давным-давно в далёкой-далёкой галактике не было KasperskyOS :)
🔥14🎉5🍾3
Слияние великих.
В районе бразильского города Манауса (больше 2 млн. жителей однако!) находится удивительное природное явление: слияние Амазонки и Риу-Негру.
Смотреть на эту картинку, конечно, нужно сверху. По разным природным причинам Амазонка жутко мутная, несёт ил и глину со стороны своих верховий. А Риу-Негру ("Чёрная река") вполне себе чёрная, но немного прозрачная. Через несколько километров муть постепенно поглощает черноту. Между собой мы окрестили это слияние "свадьбой".
Кстати, а вы знали, что через Амазонку нет вообще никаких мостов? Нигде вообще - ни в верховьях (там непроходимые джунгли), ни ниже по течению (река там слишком широка для мостостроения). Вот так бывает. Величайшая река мира - и ни одного моста! Слаб человек, хотя амбиций и пиара у него аж захлёстывает...
А мост на фотографии накрывает Риу-Негру. Это единственное подобное сооружение, открыто совсем недавно, в 2011 г.
В районе бразильского города Манауса (больше 2 млн. жителей однако!) находится удивительное природное явление: слияние Амазонки и Риу-Негру.
Смотреть на эту картинку, конечно, нужно сверху. По разным природным причинам Амазонка жутко мутная, несёт ил и глину со стороны своих верховий. А Риу-Негру ("Чёрная река") вполне себе чёрная, но немного прозрачная. Через несколько километров муть постепенно поглощает черноту. Между собой мы окрестили это слияние "свадьбой".
Кстати, а вы знали, что через Амазонку нет вообще никаких мостов? Нигде вообще - ни в верховьях (там непроходимые джунгли), ни ниже по течению (река там слишком широка для мостостроения). Вот так бывает. Величайшая река мира - и ни одного моста! Слаб человек, хотя амбиций и пиара у него аж захлёстывает...
А мост на фотографии накрывает Риу-Негру. Это единственное подобное сооружение, открыто совсем недавно, в 2011 г.
🔥20❤8
Четверг - рыбный день.
Куда в первую очередь идти в Манаусе - городе-столице Амазонии? Конечно же на рыбный рынок!
Он потрясает своими размерами и разнообразием. Здесь есть всё, что водится в Амазонке и её притоках - ну, кроме "Красной книги" (дельфинов, например). А в таких широких водных пространствах и разнообразие широчайшее, некоторое совершенно фантастического вида. Ой-ой-ёй - как же смотреть на это?!... слюнки текут...
"А где же пираньи?" - спросите вы, познакомившись со всеми фотками. Согласен на 200%. Этот же вопрос мы задали нашему гиду. Он побегал туда-сюда, вернулся расстроенный и заявил, что мы прибыли слишком поздно = пираний уже раскупили. // Правда это или какой-то отмаз - не знаю. Что услышал, то и транслирую.
Куда в первую очередь идти в Манаусе - городе-столице Амазонии? Конечно же на рыбный рынок!
Он потрясает своими размерами и разнообразием. Здесь есть всё, что водится в Амазонке и её притоках - ну, кроме "Красной книги" (дельфинов, например). А в таких широких водных пространствах и разнообразие широчайшее, некоторое совершенно фантастического вида. Ой-ой-ёй - как же смотреть на это?!... слюнки текут...
"А где же пираньи?" - спросите вы, познакомившись со всеми фотками. Согласен на 200%. Этот же вопрос мы задали нашему гиду. Он побегал туда-сюда, вернулся расстроенный и заявил, что мы прибыли слишком поздно = пираний уже раскупили. // Правда это или какой-то отмаз - не знаю. Что услышал, то и транслирую.
🔥15👍6🐳5👀2❤1
Искусство требует!
Куда во вторую очередь идти в Манаусе - городе-столице Амазонии? Конечно же в... оперу!
Вы не ошиблись и это не шутка. Здесь есть открытый аж в 1896 г. грандиозный оперный театр "Амазонас"! Здесь в амазонских джунглях... ну, соглашусь, во времена безумного экономического взрыва (каучук = было всё резиновое, пока это не придумали химически синтезировать) - так вот, здесь в те времена было так много бизнеса-экономики-денег, что они в амазонских джунглях построили город, а в нём (в этом городе) - достойного размера и наполнения оперный театр.
На представление мы не попали, да и, честно говоря, не было времени - впереди не за горизонтом уже маячил трансфер в аэропорт и дальняя дорога домой. Зато нам провели офигенную экскурсию. Будете в Манаусе - не отказывайтесь (я поначалу сопротивлялся). Оно того стоит!
Куда во вторую очередь идти в Манаусе - городе-столице Амазонии? Конечно же в... оперу!
Вы не ошиблись и это не шутка. Здесь есть открытый аж в 1896 г. грандиозный оперный театр "Амазонас"! Здесь в амазонских джунглях... ну, соглашусь, во времена безумного экономического взрыва (каучук = было всё резиновое, пока это не придумали химически синтезировать) - так вот, здесь в те времена было так много бизнеса-экономики-денег, что они в амазонских джунглях построили город, а в нём (в этом городе) - достойного размера и наполнения оперный театр.
На представление мы не попали, да и, честно говоря, не было времени - впереди не за горизонтом уже маячил трансфер в аэропорт и дальняя дорога домой. Зато нам провели офигенную экскурсию. Будете в Манаусе - не отказывайтесь (я поначалу сопротивлялся). Оно того стоит!
🔥15❤7🍾3