Почему задержание Павла Дурова - это очень тревожный сигнал
Новости о задержании основателя Telegram во Франции по обвинениям в пособничестве терроризму и другой незаконной деятельности вызвали серьезную обеспокоенность. Telegram известен своим отказом сотрудничать со спецслужбами, и теперь Павлу Дурову пытаются вменить ответственность за то, что его мессенджер используется для противоправных действий.
Не стану здесь углубляться в вопросы свободы слова. В мире бизнеса существуют правила игры, и часть этих правил всегда диктуется государством. Однако тема приватности — это область, где бизнес всегда стремился к большей защите своих продуктов, и государство обычно не препятствовало этому, предпочитая разрабатывать или покупать средства для дешифровки.
Почему же в случае с Telegram выбран иной путь? Возможны три ответа: либо у Telegram действительно непревзойденные алгоритмы шифрования, либо это показательная акция с политическими целями, либо власти Франции демонстрируют крайнюю недальновидность и лицемерие.
Оставим в стороне вопросы качества шифрования и политики. Но третий пункт вызывает серьезную тревогу.
Почему недальновидность? Потому что создателям сервиса пытаются вменить ответственность за нецелевое использование их продукта. А учитывая, что это происходит в Европе, где распространено прецедентное право, это создает опасный прецедент.
Почему лицемерие? Во-первых, потому что Европа всегда выступала за приватность, особенно когда Telegram пытались заблокировать в России. Во-вторых, по аналогии можно обвинить любого производителя смартфонов или другой техники, ведь на них можно запускать ПО для такой коммуникации. Можно даже обвинить производителя бумаги в пособничестве терроризму, ведь на ней можно писать преступные планы.
Если Павлу Дурову предъявят обвинения, это будет означать, что разработчики любых цифровых сервисов потенциально могут быть привлечены к ответственности за нецелевое использование их продуктов. Под угрозу попадают прежде всего любые цифровые продукты, принципы функционирования которых будут непонятны государству. И это в первую очередь касается всего, что основано на искусственном интеллекте.
Почему ИИ особенно уязвим?
- Создатели могли не заложить достаточные методы защиты.
- Создатели могли не предполагать использования своего ИИ для негативных целей (например, фитнес-ассистент, которого хакнули и заставили выдать рецепт бомбы).
- В любом алгоритме ИИ могут присутствовать уязвимости.
- Создатели продукта вряд ли захотят делиться с государством данными об обучении моделей.
- Создателям продукта может быть самим непонятны принципы функционирования алгоритмов (например, LLM - это "черный ящик").
Задержание Павла — это тревожный сигнал для всех разработчиков цифровых продуктов, особенно в области ИИ. Если этот прецедент будет создан, это может привести к серьезным ограничениям инноваций и развитию технологий.
Буду надеяться на разрешение ситуации и скорейшее освобождение Павла #freedurov
Новости о задержании основателя Telegram во Франции по обвинениям в пособничестве терроризму и другой незаконной деятельности вызвали серьезную обеспокоенность. Telegram известен своим отказом сотрудничать со спецслужбами, и теперь Павлу Дурову пытаются вменить ответственность за то, что его мессенджер используется для противоправных действий.
Не стану здесь углубляться в вопросы свободы слова. В мире бизнеса существуют правила игры, и часть этих правил всегда диктуется государством. Однако тема приватности — это область, где бизнес всегда стремился к большей защите своих продуктов, и государство обычно не препятствовало этому, предпочитая разрабатывать или покупать средства для дешифровки.
Почему же в случае с Telegram выбран иной путь? Возможны три ответа: либо у Telegram действительно непревзойденные алгоритмы шифрования, либо это показательная акция с политическими целями, либо власти Франции демонстрируют крайнюю недальновидность и лицемерие.
Оставим в стороне вопросы качества шифрования и политики. Но третий пункт вызывает серьезную тревогу.
Почему недальновидность? Потому что создателям сервиса пытаются вменить ответственность за нецелевое использование их продукта. А учитывая, что это происходит в Европе, где распространено прецедентное право, это создает опасный прецедент.
Почему лицемерие? Во-первых, потому что Европа всегда выступала за приватность, особенно когда Telegram пытались заблокировать в России. Во-вторых, по аналогии можно обвинить любого производителя смартфонов или другой техники, ведь на них можно запускать ПО для такой коммуникации. Можно даже обвинить производителя бумаги в пособничестве терроризму, ведь на ней можно писать преступные планы.
Если Павлу Дурову предъявят обвинения, это будет означать, что разработчики любых цифровых сервисов потенциально могут быть привлечены к ответственности за нецелевое использование их продуктов. Под угрозу попадают прежде всего любые цифровые продукты, принципы функционирования которых будут непонятны государству. И это в первую очередь касается всего, что основано на искусственном интеллекте.
Почему ИИ особенно уязвим?
- Создатели могли не заложить достаточные методы защиты.
- Создатели могли не предполагать использования своего ИИ для негативных целей (например, фитнес-ассистент, которого хакнули и заставили выдать рецепт бомбы).
- В любом алгоритме ИИ могут присутствовать уязвимости.
- Создатели продукта вряд ли захотят делиться с государством данными об обучении моделей.
- Создателям продукта может быть самим непонятны принципы функционирования алгоритмов (например, LLM - это "черный ящик").
Задержание Павла — это тревожный сигнал для всех разработчиков цифровых продуктов, особенно в области ИИ. Если этот прецедент будет создан, это может привести к серьезным ограничениям инноваций и развитию технологий.
Буду надеяться на разрешение ситуации и скорейшее освобождение Павла #freedurov
👍8❤1