addmeto
Что там с тиктоком в Штатах. Возможно, вы уже знаете, но американские тиктокеры в панике — компания вынуждена будет прекратить свою деятельность в Штатах уже в это воскресенье, 19 января. Если случайно вдруг не произойдет чудо и не будет получена отсрочка.…
Итак, это произошло.
- TikTok и CapCut от ByteDance приостанавливают работу в США, сообщая пользователям: "Трамп сообщил, что будет работать с нами над решением по восстановлению TikTok" https://www.nbcnews.com/tech/tech-news/tiktok-makes-app-unavailable-us-users-ahead-ban-rcna188294
- Apple и Google удалили TikTok из магазинов после прекращения работы приложения в США. TikTok недоступен для загрузки в App Store и Play Store в США, так как приложение прекращает работу в стране в соответствии с законом о запрете или отказе от использования https://www.cnbc.com/2025/01/18/apple-google-remove-tiktok-from-stores-as-app-halts-service-in-us.html
- Slate: Грязная сага о TikTok в США за последние пять лет показала, что законодатели настолько бесхребетны и осторожны, насколько их все подозревают https://slate.com/technology/2025/01/tiktok-ban-congress-donald-trump-joe-biden-dumb.html
- Карточная игра Marvel Snap, издаваемая компанией Nuverse (это дочка ByteDance), закрывает доступ для американских геймеров. Потому что закон о запрете или отказе от TikTok распространяется и на другие приложения, связанные с ByteDance https://www.theverge.com/2025/1/19/24347034/marvel-snap-banned-tiktok-bytedance
- При этом запреты TikTok в разных странах мира происходили по-разному: в Индии после запрета TikTok в 2020 году Instagram Reels в значительной степени заменил TikTok https://www.washingtonpost.com/technology/2025/01/18/tiktok-ban-russia-india-nepal/
- TikTok и CapCut от ByteDance приостанавливают работу в США, сообщая пользователям: "Трамп сообщил, что будет работать с нами над решением по восстановлению TikTok" https://www.nbcnews.com/tech/tech-news/tiktok-makes-app-unavailable-us-users-ahead-ban-rcna188294
- Apple и Google удалили TikTok из магазинов после прекращения работы приложения в США. TikTok недоступен для загрузки в App Store и Play Store в США, так как приложение прекращает работу в стране в соответствии с законом о запрете или отказе от использования https://www.cnbc.com/2025/01/18/apple-google-remove-tiktok-from-stores-as-app-halts-service-in-us.html
- Slate: Грязная сага о TikTok в США за последние пять лет показала, что законодатели настолько бесхребетны и осторожны, насколько их все подозревают https://slate.com/technology/2025/01/tiktok-ban-congress-donald-trump-joe-biden-dumb.html
- Карточная игра Marvel Snap, издаваемая компанией Nuverse (это дочка ByteDance), закрывает доступ для американских геймеров. Потому что закон о запрете или отказе от TikTok распространяется и на другие приложения, связанные с ByteDance https://www.theverge.com/2025/1/19/24347034/marvel-snap-banned-tiktok-bytedance
- При этом запреты TikTok в разных странах мира происходили по-разному: в Индии после запрета TikTok в 2020 году Instagram Reels в значительной степени заменил TikTok https://www.washingtonpost.com/technology/2025/01/18/tiktok-ban-russia-india-nepal/
NBC News
TikTok makes app unavailable for U.S. users ahead of ban
Users were unable to access TikTok on Saturday, instead seeing a pop-up message on their screens saying “a law banning TikTok has been enacted.”
🔥124😢81😁49👍46👎25❤15⚡11🎉6🤩2
Продолжение эпопеи: Тикток пишет, что по договоренностям с Трампом они начали возвращать работоспособность сервиса в США. Но пока он начал работать только в браузере на десктопе. Вероятно, завтра Трамп обьявит отсрочку на 180 дней для запрета деятельности.
https://shrtdb.com/99c28ce1-bdf9-4016-aa43-1d082fbe0f1d
https://shrtdb.com/99c28ce1-bdf9-4016-aa43-1d082fbe0f1d
3😁280👍48👎30🔥22😢5❤4⚡3
Трамп подписывает указ, который приостанавливает действие запрета TikTok на 75 дней, чтобы дать ByteDance больше времени для заключения сделки и обеспечить защиту от ответственности провайдеров TikTok.
https://www.npr.org/2025/01/20/nx-s1-5268701/trump-executive-order-tiktok-ban
https://www.npr.org/2025/01/20/nx-s1-5268701/trump-executive-order-tiktok-ban
NPR
Trump signs executive order to pause TikTok ban, provide immunity to tech firms
The order follows TikTok going dark for about 14 hours after the Supreme Court upheld a law prohibiting the service from operating in the U.S. unless it breaks away from its parent company in China.
😁174👍61👎18🔥11🎉9❤8😢5⚡1
Forwarded from БлоGнот
Итак, зафиксируем то, что было объявлено на пресс-конференции Дональда Трампа.
OpenAI, SoftBank и Oracle создают совместное предприятие The Stargate Project для строительства сети дата-центров для AI в США. Начальные инвестиции составят $100 млрд, а в течение четырех лет планируется вложить до $500 млрд.
Первый центр появится в Техасе, в городе Абилин, и сможет потреблять почти гигаватт электроэнергии к середине 2026 года. Для сравнения, этого хватит на обеспечение 750 000 небольших домов. В проекте также участвуют Microsoft, Arm, Nvidia и ближневосточный AI-фонд MGX.
SoftBank будет отвечать за финансовую сторону, а OpenAI — за операционную деятельность. Председателем станет глава SoftBank Масаёши Сон.
Участие Arm и Nvidia отвечает на вопрос — "Где возьмутся чипы для датацентров?". Упоминание о MGX — специализированном венчурном фонде, тесно связанным с правящими семьями в Эмиратах, — намекает как минимум частично на источники финансирования. И, конечно, при всем уважении к Масаёши Сону, вопрос "Где он возьмет полтриллиона долларов?" нельзя не задавать. Впрочем, возможно, подсказка довольно близка — ведь собрал же он два Vision Fund, где не менее половины капитала предоставлены саудитами. А если мы вспомним слухи про общение Альтмана с кем-то в Катаре (помните, когда повторяли сумму в 7 триллионов долларов), то, возможно, это и есть ответ на вопрос — какую-то заметную роль в инвестициях в новый проект сыграют ближневосточные шейхи. Что, надо сказать, вполне соответствует и желаниям самих шейхов сконвертировать свои нефтяные капиталы в технологии будущего.
https://techcrunch.com/2025/01/21/openai-teams-up-with-softbank-and-oracle-on-50b-data-center-project/
OpenAI, SoftBank и Oracle создают совместное предприятие The Stargate Project для строительства сети дата-центров для AI в США. Начальные инвестиции составят $100 млрд, а в течение четырех лет планируется вложить до $500 млрд.
Первый центр появится в Техасе, в городе Абилин, и сможет потреблять почти гигаватт электроэнергии к середине 2026 года. Для сравнения, этого хватит на обеспечение 750 000 небольших домов. В проекте также участвуют Microsoft, Arm, Nvidia и ближневосточный AI-фонд MGX.
SoftBank будет отвечать за финансовую сторону, а OpenAI — за операционную деятельность. Председателем станет глава SoftBank Масаёши Сон.
Участие Arm и Nvidia отвечает на вопрос — "Где возьмутся чипы для датацентров?". Упоминание о MGX — специализированном венчурном фонде, тесно связанным с правящими семьями в Эмиратах, — намекает как минимум частично на источники финансирования. И, конечно, при всем уважении к Масаёши Сону, вопрос "Где он возьмет полтриллиона долларов?" нельзя не задавать. Впрочем, возможно, подсказка довольно близка — ведь собрал же он два Vision Fund, где не менее половины капитала предоставлены саудитами. А если мы вспомним слухи про общение Альтмана с кем-то в Катаре (помните, когда повторяли сумму в 7 триллионов долларов), то, возможно, это и есть ответ на вопрос — какую-то заметную роль в инвестициях в новый проект сыграют ближневосточные шейхи. Что, надо сказать, вполне соответствует и желаниям самих шейхов сконвертировать свои нефтяные капиталы в технологии будущего.
https://techcrunch.com/2025/01/21/openai-teams-up-with-softbank-and-oracle-on-50b-data-center-project/
TechCrunch
OpenAI teams up with SoftBank and Oracle on $500B data center project | TechCrunch
OpenAI has announced that it's teaming up with Softbank and Oracle on $100 billion data center project in the U.S.
👍203🔥76❤38👎21😢16🎉11⚡7
А вот это бомба: Трамп помиловал создателя SilkRoad, самого большого маркетплейса где за крипту и наличку торговали ВСЕМ — наркотиками, оружием, документами.
https://www.nytimes.com/2025/01/21/technology/trump-ross-ulbricht-silk-road.html
https://www.nytimes.com/2025/01/21/technology/trump-ross-ulbricht-silk-road.html
NY Times
Trump Pardons Creator of Silk Road Drug Marketplace
Ross Ulbricht was serving a life sentence for creating a site in a shady corner of the internet to sell heroin, cocaine and other illicit substances.
👍306👎243😁96🎉64🔥55😢38⚡30❤22
Media is too big
VIEW IN TELEGRAM
Еще не пятница, но @blognot подкинул чудесный кусок видео, который идеально описывает, как работают o1 и им подобные модели ИИ
😁321👍37🔥15❤9😢9👎4
У HTC есть такой продукт, HTC Vive — это был один из самых удачных шлемов виртуальной реальности позапрошлого поколения. Google покупает это подразделение за 250 млн, чтобы ускорить разработку Android XR — как раз свое подразделение VR.
Как я уже говорил, привыкайте, несмотря на скептицизм VR и AI с нами очень надолго.
https://9to5google.com/2025/01/22/google-android-xr-htc-vive/
Как я уже говорил, привыкайте, несмотря на скептицизм VR и AI с нами очень надолго.
https://9to5google.com/2025/01/22/google-android-xr-htc-vive/
9to5Google
Google acquiring part of HTC Vive engineering team to boost Android XR
To “accelerate” Android XR development, Google announced that it “signed an agreement to welcome some of the HTC VIVE engineering team...
👍161😁26❤14👎12🔥5🎉4⚡1
Портал в измерение, где производят убийц OpenAI, объявляется открытым: ByteDance выпускают свою новую модель, Doubao-1.5-pro. У всех китайских моделей этого типа одинаковое позиционирование: работаем почти как openai o1, но сильно дешевле. Подход понятен, а реальные результаты надо смотреть. В любом случае, конкуренция началась, потребители выигрывают.
https://www.reuters.com/technology/artificial-intelligence/tiktok-owner-bytedance-deepseek-lead-chinese-push-ai-reasoning-2025-01-22/
https://www.reuters.com/technology/artificial-intelligence/tiktok-owner-bytedance-deepseek-lead-chinese-push-ai-reasoning-2025-01-22/
🔥191👍74👎8❤3
addmeto
А вот это бомба: Трамп помиловал создателя SilkRoad, самого большого маркетплейса где за крипту и наличку торговали ВСЕМ — наркотиками, оружием, документами. https://www.nytimes.com/2025/01/21/technology/trump-ross-ulbricht-silk-road.html
Больше подробностей о том, как Росс Ульбрихт, а точнее его мама, добились помилования от Трампа. Крайне любопытный текст, показывающий, что это было не спонтанное решение.
https://shrtdb.com/34e348e8-6f6d-4413-a429-801103c36d3f
https://shrtdb.com/34e348e8-6f6d-4413-a429-801103c36d3f
5👍84⚡29👎15❤9😢2😁1
Ночью не стал писать, а за это время всё разрешилось. Владельца и кофаундера французского стартапа Ledger, выпускающего аппаратные криптокошельки, похитили позавчера и требовали выкуп (да, выкуп требовали в крипте). Но в результате специальной операции французской полиции Дэвиджа Балланда освободили сегодня ночью.
https://shrtdb.com/9bd35f70-089f-4907-80bd-04c4d73b9aea
https://shrtdb.com/9bd35f70-089f-4907-80bd-04c4d73b9aea
🎉289🔥120👍61👎14⚡8❤8😁2
This media is not supported in your browser
VIEW IN TELEGRAM
Perplexity запускает в своем приложении для Android Perplexity Assistant, который может выполнять разные действия в установленных приложениях. Ну, вызвать Uber или поставить встречу в календарь. Короче, делает то, что должен был делать google assistant, но так и не стал. Первоначально он будет бесплатным для пользователей на 15 языках и только на андроиде. Если неинтересно ставить — просто посмотрите больше видео в треде.
https://x.com/AravSrinivas/status/1882467172498436291
https://x.com/AravSrinivas/status/1882467172498436291
🔥261👍90❤29⚡8👎8🤩3
OpenAI запустили в чатгпт новую фичу "Оператор". По сути для вас на сервере запускается виртуальный браузер, которым управляет чатгпт, вы можете выдать ему задание, а он его выполнит, если позволят ограничения. Т.е. например сходить за вас на порносайты он не сможет, а сделать поиск по твиттеру и нареплаить каждому, кто вам писал — может.
Не спешите идти по ссылке — пока только для пользователей GPT Pro и только в США.
https://operator.chatgpt.com/
Не спешите идти по ссылке — пока только для пользователей GPT Pro и только в США.
https://operator.chatgpt.com/
ChatGPT
ChatGPT helps you get answers, find inspiration, and be more productive.
👍139🔥58😁30👎16⚡8❤7
Трамп подписывает указ о том, что разработка систем искусственного интеллекта может быть "свободна от идеологических предрассудков или спланированных социальных программ". По сути это отмена политики Байдена, которая "действует как барьер" для инноваций. Это, впрочем, не означает, что сейчас все кинутся что-то менять, самоцензура OpenAI и других крупных игроков прямо впечатляет.
https://apnews.com/article/trump-ai-artificial-intelligence-executive-order-eef1e5b9bec861eaf9b36217d547929c
https://apnews.com/article/trump-ai-artificial-intelligence-executive-order-eef1e5b9bec861eaf9b36217d547929c
AP News
Trump signs executive order on developing artificial intelligence 'free from ideological bias'
President Donald Trump signed an executive order on artificial intelligence Thursday that will revoke past government policies his order says “act as barriers to American AI innovation.”
❤144👍119😁28⚡18🎉16👎15😢6🤩4🔥3
Простите что несколько дней не писал, был не в кондиции, но тут DeepSeek, про который вы наверняка наслышаны, временно прекратил регистрацию "в связи с масштабными кибератаками". Все это происходит на фоне прям масштабной распродажи акций американских и европейских компаний, связанных с ИИ или их эксплуатацией.
https://shrtdb.com/19ca77b9-bf1e-43ae-8a59-7c20538ca616
https://shrtdb.com/19ca77b9-bf1e-43ae-8a59-7c20538ca616
2😁252😢130🔥85👍39🤩11👎9⚡8❤8
Какая-то бесконечная неделя обсуждения DeepSeek. Я решил, что иногда буду делать вот такие подборки с пачкой разных новостей в одном посте. Поставьте там звездочку, если считаете, что так нормально будет.
В Wired обзор того, как работать с DeepSeek. Для ленивых — оно работает и даже бесплатно, но галлюцинации постоянные, и по набору важных пользовательских фич (таких как канвас или память), конечно, уступает ChatGPT. Вообще, откуда такая истерика — непонятно, рассказы про то, что deepseek превосходит топовые модели — это же чистый маркетинг. На деле это правда крутая для опенсорса модель, но все реальные тесты пока показывают — она хорошая, но совсем не уровня o1 или Sonet.
Nvidia называет работу DeepSeek "отличным достижением в области ИИ", но при этом подчеркивает, что "для вывода требуется значительное количество графических процессоров NVIDIA и быстрые сети". И это правда. С точки зрения экономики выход такой модели невероятно выгоден в долгосроке для Nvidia.
При этом все данные DeepSeek собираются и хранятся, разумеется, в Китае. Ну, в этом ничего удивительного нет, ведь китайцы не шпионят, правда?
Сэм Альтман говорит, что R1 от DeepSeek — это "впечатляющая модель, прямо топ, особенно за свои деньги". Да, пока главное достижение DeepSeek — очень дешевый инференс модели.
DeepSeek утверждает, что для обучения R1 использовались чипы Nvidia H800, доступные в Китае до октября 2023 года, и в блумберге думают, что "будущим моделям может помешать экспортный контроль США". На деле есть довольно много более быстрых и не обрезанных карт, которые получаются серым импортом из Европы (редко) и стран третьего мира (гораздо чаще).
В WSJ неплохой рассказ про Лян Вэньфена, математика, который основал хедж-фонд High-Flyer в 2015. Хедж-фонд использовал много математики, алгоритмов, но это не всегда помогало, например, в 2021 пришлось даже извиняться за андерперформанс ввиду недооценки некоторых новых бизнесов, в частности, ИИ. В 2024 году High-Flyer выпустил свой побочный продукт — серию моделей DeepSeek.
В NYT статья о том, что DeepSeek внезапно опроверг типичное мнение "больше значит лучше", потому что смог "всего за 6 миллионов построить модель, конкурирующую с мировыми топами". На деле подсчет стоимости обучения в 6 млн — это чья-то неудачная шутка. В этой сумме не учтена ни цена видеокарт, ни цена разработчиков, ни тот факт, что с первого раза получить такую модель невозможно. А если посчитать всё сразу, то получится, что DeepSeek вложил в обучение модели вполне сравнимо с вложениями фейсбук в LLama.
https://www.nytimes.com/2025/01/27/technology/deepseek-ai-china.html
В Wired обзор того, как работать с DeepSeek. Для ленивых — оно работает и даже бесплатно, но галлюцинации постоянные, и по набору важных пользовательских фич (таких как канвас или память), конечно, уступает ChatGPT. Вообще, откуда такая истерика — непонятно, рассказы про то, что deepseek превосходит топовые модели — это же чистый маркетинг. На деле это правда крутая для опенсорса модель, но все реальные тесты пока показывают — она хорошая, но совсем не уровня o1 или Sonet.
Nvidia называет работу DeepSeek "отличным достижением в области ИИ", но при этом подчеркивает, что "для вывода требуется значительное количество графических процессоров NVIDIA и быстрые сети". И это правда. С точки зрения экономики выход такой модели невероятно выгоден в долгосроке для Nvidia.
При этом все данные DeepSeek собираются и хранятся, разумеется, в Китае. Ну, в этом ничего удивительного нет, ведь китайцы не шпионят, правда?
Сэм Альтман говорит, что R1 от DeepSeek — это "впечатляющая модель, прямо топ, особенно за свои деньги". Да, пока главное достижение DeepSeek — очень дешевый инференс модели.
DeepSeek утверждает, что для обучения R1 использовались чипы Nvidia H800, доступные в Китае до октября 2023 года, и в блумберге думают, что "будущим моделям может помешать экспортный контроль США". На деле есть довольно много более быстрых и не обрезанных карт, которые получаются серым импортом из Европы (редко) и стран третьего мира (гораздо чаще).
В WSJ неплохой рассказ про Лян Вэньфена, математика, который основал хедж-фонд High-Flyer в 2015. Хедж-фонд использовал много математики, алгоритмов, но это не всегда помогало, например, в 2021 пришлось даже извиняться за андерперформанс ввиду недооценки некоторых новых бизнесов, в частности, ИИ. В 2024 году High-Flyer выпустил свой побочный продукт — серию моделей DeepSeek.
В NYT статья о том, что DeepSeek внезапно опроверг типичное мнение "больше значит лучше", потому что смог "всего за 6 миллионов построить модель, конкурирующую с мировыми топами". На деле подсчет стоимости обучения в 6 млн — это чья-то неудачная шутка. В этой сумме не учтена ни цена видеокарт, ни цена разработчиков, ни тот факт, что с первого раза получить такую модель невозможно. А если посчитать всё сразу, то получится, что DeepSeek вложил в обучение модели вполне сравнимо с вложениями фейсбук в LLama.
https://www.nytimes.com/2025/01/27/technology/deepseek-ai-china.html
WIRED
Hands On With DeepSeek’s R1 Chatbot
DeepSeek’s chatbot with the R1 model is a stunning release from the Chinese startup. While it’s an innovation in training efficiency, hallucinations still run rampant.
842👍572❤412👎68🔥68😁38🤩18⚡8😢1
Apple с SpaceX и T-Mobile пробуют добавить поддержку Starlink в iOS 18.3. По сути T-Mobile тестирует ее с некоторыми пользователями, пока только для отправки СМС. Понятно, что речь об аварийных СМС, но сам факт, что мобильный напрямую будет общаться со спутником, очень будоражит.
https://www.bloomberg.com/news/articles/2025-01-29/apple-and-spacex-link-up-to-support-starlink-satellite-network-on-iphones
https://www.bloomberg.com/news/articles/2025-01-29/apple-and-spacex-link-up-to-support-starlink-satellite-network-on-iphones
Bloomberg.com
Apple and SpaceX Link Up to Support Starlink Satellite Network on iPhones
Apple Inc. has been secretly working with SpaceX and T-Mobile US Inc. to add support for the Starlink network in its latest iPhone software, providing an alternative to the company’s in-house satellite-communication service.
23🔥305👍74❤21👎8😁6⚡5🎉5🤩2
DeepSeek удален из аппстора и гуглплей в Италии. Местный регулятор попросил удалить, пока не прояснится вопрос с передачей данных пользователей в Китай.
К счастью, можно продолжать пользоваться веб-версией.
США: OpenAI, 500 миллиардов, скандалы.
Китай: воруем данные, новые дешевые модели ИИ, скандалы.
Европа: usb-c и крышечки на бутылках.
https://www.reuters.com/technology/deepseek-app-unavailable-apple-google-app-stores-italy-2025-01-29/
К счастью, можно продолжать пользоваться веб-версией.
США: OpenAI, 500 миллиардов, скандалы.
Китай: воруем данные, новые дешевые модели ИИ, скандалы.
Европа: usb-c и крышечки на бутылках.
https://www.reuters.com/technology/deepseek-app-unavailable-apple-google-app-stores-italy-2025-01-29/
9😁654👎94👍58😢25❤18🔥17🎉6⚡5
Wiz Research нашли хороший способ хайпануть вместе со всеми на DeepSeek: они обнаружили самую популярную проблему почти всех ИИ-стартапов — незащищенную и публично доступную базу данных, содержащую данные пользователей. Практически все, в том числе историю чатов, ключи для доступа к данным, детали работы бэкенда и т.п.
Ну, грустная история. Такое уже случалось, если что, и не раз. Помните то, что вы можете делиться с такими чат-ботами тем, что потом могут увидеть другие.
https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database-leak
Ну, грустная история. Такое уже случалось, если что, и не раз. Помните то, что вы можете делиться с такими чат-ботами тем, что потом могут увидеть другие.
https://www.wiz.io/blog/wiz-research-uncovers-exposed-deepseek-database-leak
wiz.io
Wiz Research Uncovers Exposed DeepSeek Database Leaking Sensitive Information, Including Chat History | Wiz Blog
A publicly accessible database belonging to DeepSeek allowed full control over database operations, including the ability to access internal data. The exposure includes over a million lines of log streams with highly sensitive information.
8😁210😢90👍48⚡13❤12👎9🔥4
Новость одной строкой: OpenAI o3-mini System Card. Нет, доступа к самой модели пока нет. Да, цифры интересные, будем ждать. Не знаю, повлиял ли DeepSeek, и думаю, это неважно.
https://cdn.openai.com/o3-mini-system-card.pdf
upd: Вот и сама новость https://openai.com/index/openai-o3-mini/
https://cdn.openai.com/o3-mini-system-card.pdf
upd: Вот и сама новость https://openai.com/index/openai-o3-mini/
👍180😁35👎20❤13🔥6
Anthropic, оказывается, довольно долгое время уже работают над использованием классификаторов для борьбы против джейлбрейков.
Напомню, почти все большие языковые модели содержат некоторую цензуру, им запрещено говорить на некоторые темы. Для обхода этой цензуры постоянно появляются "джейлбрейки" — такие хитрые методы сформулировать запрос так, чтобы всё же получить ответ.
Anthropic вроде бы раньше пытались сделать так, чтобы сама модель отказывалась говорить и думать на неприятные темы, однако, видимо, сдались — теперь они двигаются в сторону классификаторов, т.е. небольших подсистем, понимающих, что в запросе содержится джейлбрейк или в ответе нейронки есть что-то неправильное.
https://shrtdb.com/6867a18b-c418-4ed6-8e4c-3f7d1d0829b8
Напомню, почти все большие языковые модели содержат некоторую цензуру, им запрещено говорить на некоторые темы. Для обхода этой цензуры постоянно появляются "джейлбрейки" — такие хитрые методы сформулировать запрос так, чтобы всё же получить ответ.
Anthropic вроде бы раньше пытались сделать так, чтобы сама модель отказывалась говорить и думать на неприятные темы, однако, видимо, сдались — теперь они двигаются в сторону классификаторов, т.е. небольших подсистем, понимающих, что в запросе содержится джейлбрейк или в ответе нейронки есть что-то неправильное.
https://shrtdb.com/6867a18b-c418-4ed6-8e4c-3f7d1d0829b8
Shrtdb
shrtdb :: Constitutional Classifiers: Defending against universal jailbreaks
A new paper from the Anthropic Safeguards Research Team proposes a method for protecting AI models a
👎213👍89😁55😢24❤17🔥6