Mutt Technologies
스페인의 독립 언론기관 Maldita가 TikTok 에서 아동 성착취물들을 대놓고 유통하는 계정 수천개를 발견하여 고발함(TikTok은 이에 대해 매우 미온적인 대처만을 하고 있었음). 이 때 수집된 자료들을 외부로 반출하지 않기 위해 로컬 LLM을 사용. 산출물을 사이트를 통해 만들 때에도 Claude를 사용했으나 그러한 자료들은 격리됨. 로컬 LLM의 흥미로운 사용 사례라 공유 https://x.com/naroh/status/2119887368769401340
확실한건 이런걸 Claude로 분석했으면 의도와 관계없이 영정 맞고 시작했을 것...
MS 리서치가 매우 적은 수의 신경망 가중치만 변경하여 모델에 백도어를 심을 수 있음을 입증함
https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
1만 2천개 가량의 뉴런으로 이루어진 8B 모델에서 7개의 뉴런만 변경하여 백도어를 심음. 해당 백도어가 심어진 모델은 평상시에는 완벽히 같은 답을 뱉으나, 지정된 조건 하에서만(날짜나 특정 레포지토리 접근임을 표시한다거나) 악의적인 명령을 수행할 수 있음.
허깅페이스에서는 코드뿐만 아니라 가중치도 검증된 사람의 것인지 확인해야 함
https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
1만 2천개 가량의 뉴런으로 이루어진 8B 모델에서 7개의 뉴런만 변경하여 백도어를 심음. 해당 백도어가 심어진 모델은 평상시에는 완벽히 같은 답을 뱉으나, 지정된 조건 하에서만(날짜나 특정 레포지토리 접근임을 표시한다거나) 악의적인 명령을 수행할 수 있음.
허깅페이스에서는 코드뿐만 아니라 가중치도 검증된 사람의 것인지 확인해야 함
Microsoft Research
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents - Microsoft Research
Microsoft researchers have discovered “Lazarus,” a backdoor technique that can reprogram dormant neurons in an AI model, causing an otherwise normal AI agent to execute malicious commands when a hidden trigger appears. The threat is especially serious for…
👍1
Mutt Technologies
이건 시발 또 뭐야 https://x.com/v12sec/status/2120471754166415821 (안드로이드 텔레그램 0클릭 RCE인데 이미 업데이트가 나왔다 합니다)
텔레그램에 인앱 위젯을 만들 수 있는 기능이 추가됐는데, 별도의 샌드박싱 없이 그냥 QuickJS(소형 JS 런타임) 를 갖다 박은거라서 보안우려가 있다고 합니다
https://x.com/OwariDa/status/2120539850541560316
위 버그도 위젯이 사용하는 특정 QuickJS 버전의 버그를 사용한 것인데, 이 버그 자체는 픽스가 되었지만 앞으로도 QuickJS 버그가 나올때마다 텔레그램에서 퍼질 수 있어서 곤란한 부분인 듯. 사용자가 준내 많은데 텔레그램 팀이 빨리 보안을 고려해서 설계를 변경해줬으면 좋겠네요...
*첨언하면 QuickJS 버그를 쓴다고 시스템을 싹다 헤집어놓을 수 있는 건 아닌데(현대 OS들은 앱간 격리가 철저하다 보니), 텔레그램을 입구로 쓰고 각 OS의 취약점들과 조합해서 시스템을 장악할 가능성도 있다는 것
https://x.com/OwariDa/status/2120539850541560316
위 버그도 위젯이 사용하는 특정 QuickJS 버전의 버그를 사용한 것인데, 이 버그 자체는 픽스가 되었지만 앞으로도 QuickJS 버그가 나올때마다 텔레그램에서 퍼질 수 있어서 곤란한 부분인 듯. 사용자가 준내 많은데 텔레그램 팀이 빨리 보안을 고려해서 설계를 변경해줬으면 좋겠네요...
*첨언하면 QuickJS 버그를 쓴다고 시스템을 싹다 헤집어놓을 수 있는 건 아닌데(현대 OS들은 앱간 격리가 철저하다 보니), 텔레그램을 입구로 쓰고 각 OS의 취약점들과 조합해서 시스템을 장악할 가능성도 있다는 것
X (formerly Twitter)
Joel Eriksson (@OwariDa) on X
Telegram shipped a "sandbox" for HTML widgets in messages. It's an in-process QuickJS (C) interpreter on a thread...
No fork, no isolatedProcess, no seccomp anywhere in the tree, so any QuickJS e…
No fork, no isolatedProcess, no seccomp anywhere in the tree, so any QuickJS e…
👍1
불륜마 젠슨황을 응징하기 위해 여성들은 단결하여 RTX 5090을 시장가 매도해 달라는 글
저는 800만원에 살게요
https://x.com/sickdotdev/status/2120514292420370458
저는 800만원에 살게요
https://x.com/sickdotdev/status/2120514292420370458
X (formerly Twitter)
Sick (@sickdotdev) on X
any ladies out there disgusted by the jensen huang cheating allegations?
if you own an RTX 5070 or higher, it’s time to take a stand
sell that disgusting piece of hardware to me for $50
don’t le…
if you own an RTX 5070 or higher, it’s time to take a stand
sell that disgusting piece of hardware to me for $50
don’t le…
Mutt Technologies
텔레그램에 인앱 위젯을 만들 수 있는 기능이 추가됐는데, 별도의 샌드박싱 없이 그냥 QuickJS(소형 JS 런타임) 를 갖다 박은거라서 보안우려가 있다고 합니다 https://x.com/OwariDa/status/2120539850541560316 위 버그도 위젯이 사용하는 특정 QuickJS 버전의 버그를 사용한 것인데, 이 버그 자체는 픽스가 되었지만 앞으로도 QuickJS 버그가 나올때마다 텔레그램에서 퍼질 수 있어서 곤란한 부분인 듯. 사용자가…
FUD를 자꾸 뿌리는거같아 미안하지만 실제로 바로 다음날에 또다른 RCE PoC 를 올렸네요
텔레 삭제해야하나요? 전 모르겠는데 불안하긴 함... 근데 여기가 내 인생인데
https://x.com/v12sec/status/2121045471808622776
텔레 삭제해야하나요? 전 모르겠는데 불안하긴 함... 근데 여기가 내 인생인데
https://x.com/v12sec/status/2121045471808622776
X (formerly Twitter)
V12 (@v12sec) on X
Here's another RCE that works on the "patched" Windows @telegram client.
Even if individual bugs get patched, allowing (unsandboxed!) QuickJS in messages massively opens up the attack surface.
Even if individual bugs get patched, allowing (unsandboxed!) QuickJS in messages massively opens up the attack surface.
LLM들의 가중치의 초기값을 랜덤으로 설정할 때, 완벽한 랜덤성을 딱히 요구하지는 않기 때문에 GPU의 특성에 맞는 적당한 난수생성기를 쓰게 되는데, 이게 최종적으로 학습된 가중치 값에도 지문처럼 남기 때문에 학습 시작을 뭘로 했는지 알 수 있다는 연구결과
해당 연구에 따르면, 중국 모델들은 빠짐없이 26년 2분기-3분기를 기점으로, 이전에는 NVIDIA Hopper 를 사용하다 Blackwell 로 교체함.
https://x.com/nrehiew_/status/2120999116172099745
해당 연구에 따르면, 중국 모델들은 빠짐없이 26년 2분기-3분기를 기점으로, 이전에는 NVIDIA Hopper 를 사용하다 Blackwell 로 교체함.
https://x.com/nrehiew_/status/2120999116172099745
X (formerly Twitter)
wh (@nrehiew_) on X
This is really cool.
Even if weights are changed during training, their relative ordering from initialization should be preserved and you can reverse-engineer the SM count of the GPU that produc…
Even if weights are changed during training, their relative ordering from initialization should be preserved and you can reverse-engineer the SM count of the GPU that produc…
Mutt Technologies
FUD를 자꾸 뿌리는거같아 미안하지만 실제로 바로 다음날에 또다른 RCE PoC 를 올렸네요 텔레 삭제해야하나요? 전 모르겠는데 불안하긴 함... 근데 여기가 내 인생인데 https://x.com/v12sec/status/2121045471808622776
파벨 두로프의 답변: 어 졸라 안전해 내계정 털어봐 ㅇㅇ
참고로 지금 위젯 기능은 텔레그램 봇과의 DM에서만 이용 가능하긴 합니다. /start 를 해놓은 봇중에 악의적인게 있지 않으면 위젯기능으로 털릴일이 없긴 함
https://x.com/banteg/status/2121275372671046007
참고로 지금 위젯 기능은 텔레그램 봇과의 DM에서만 이용 가능하긴 합니다. /start 를 해놓은 봇중에 악의적인게 있지 않으면 위젯기능으로 털릴일이 없긴 함
https://x.com/banteg/status/2121275372671046007
X (formerly Twitter)
banteg (@banteg) on X
this is so stupid. any bot can send you this message type. this blunder will end badly.
루머: DeepSeek-V5는 2T parameters 규모로 프리트레이닝되고있으며 화웨이 어센드 칩만 사용중.
또한, 60만개의 엔비디아 GPU 칩이 홍콩에서 통관되지 못한 채로 묶여 있는 상태
https://x.com/pwk/status/2121227020227039263
또한, 60만개의 엔비디아 GPU 칩이 홍콩에서 통관되지 못한 채로 묶여 있는 상태
https://x.com/pwk/status/2121227020227039263
X (formerly Twitter)
Peter W. Kruger (@pwk) on X
Only a rumor: DeepSeek already pre-training 2T weight sparse MoE model on Huawei Ascend chips. But couple this with the news that 600k Nvidia GPUs are stuck in Hong Kong because China is not clear…
누가 윈터뮤트가 쓰는 이더리움 온체인 컨트랙트를 역공학해서 이더스캔에 verify 까지 해버림. ㅋㅋ
컨트랙트 클로즈드소스로 올리는 건 원래도 아니었지만 더이상 의미있는 보안 대책이 아닌듯
https://x.com/zholme7/status/2121629608206389723
컨트랙트 클로즈드소스로 올리는 건 원래도 아니었지만 더이상 의미있는 보안 대책이 아닌듯
https://x.com/zholme7/status/2121629608206389723
X (formerly Twitter)
Zac (@zholme7) on X
Someone verified wintermutes cexdex contract on etherscan lol. Onchain is now open source https://t.co/HKeKOSqI9P
❤1
사실 아브락사스 라이터 계정 해킹당한거 같은 이벤트 한번쯤 터질거라고 생각한게, 라이터 팀이 보안관점에서 매우 비전문가적인 행보를 보였음
제가 아직도 기억하는 건, 라이터 팀이 SDK에 오딧받지 않은 schnorr signature 를 구현하고, 거기에 nonce를 타임스탬프로 사용해서 사실상 tx 한개만 가지고도 L2 키를 무조건 복구할 수 있었음 (제출된 시간 앞뒤로 timestamp 브루트포스하면 되니까)
문제는 라이터 팀은 이걸 조용히 패치하면서 기존 SDK가 잘못되었으니 쓰지 말라거나, L2 키를 모두 재생성하라는 security advisory 를 낸 적이 없음. 그냥 묻고 넘어감
확증은 없지만 만약 아브락사스가 25년 4월 이전부터 거래하고 있었고 그냥 예전 SDK를 습관처럼 쓰고 있었다면 이 취약점으로 키 복구가 가능했을 것.
공론화를 안 한 이유는... 그냥 노이즈 만들기도 싫었고 L2 키가 털린다고 할수있는게 딱히 없다는걸 알고있어서. 근데 public pool 을 통해서 슈킹이 가능한걸 몰랐음
https://github.com/elliottech/poseidon_crypto/commit/c67de0a0908aa0d0c94ec2c0c8c62b5b30d90af2
제가 아직도 기억하는 건, 라이터 팀이 SDK에 오딧받지 않은 schnorr signature 를 구현하고, 거기에 nonce를 타임스탬프로 사용해서 사실상 tx 한개만 가지고도 L2 키를 무조건 복구할 수 있었음 (제출된 시간 앞뒤로 timestamp 브루트포스하면 되니까)
문제는 라이터 팀은 이걸 조용히 패치하면서 기존 SDK가 잘못되었으니 쓰지 말라거나, L2 키를 모두 재생성하라는 security advisory 를 낸 적이 없음. 그냥 묻고 넘어감
확증은 없지만 만약 아브락사스가 25년 4월 이전부터 거래하고 있었고 그냥 예전 SDK를 습관처럼 쓰고 있었다면 이 취약점으로 키 복구가 가능했을 것.
공론화를 안 한 이유는... 그냥 노이즈 만들기도 싫었고 L2 키가 털린다고 할수있는게 딱히 없다는걸 알고있어서. 근데 public pool 을 통해서 슈킹이 가능한걸 몰랐음
https://github.com/elliottech/poseidon_crypto/commit/c67de0a0908aa0d0c94ec2c0c8c62b5b30d90af2
GitHub
Secure rand (#17) · elliottech/poseidon_crypto@c67de0a
Contribute to elliottech/poseidon_crypto development by creating an account on GitHub.
👍3❤1
Forwarded from 캘빈의 감금원
현재 Java에서 RCE 취약점(CVE-2026-114938)이 제보되어 난리가 난 상태입니다. 아직 취약점 관련 디테일이 공개되지 않았는데, 트위터 보니 QED Audit / Theori 등이 재현에 성공한듯. 이게 현재 제보된 취약점으로 트리거되는건지 또다른 취약점인지는 확인 불가한 상태..
https://x.com/brian_pak/status/2122695944399622177?a=-idNH9vcyPLXOGDqI10
https://x.com/NotDeGhost/status/2122705213735764166?a=aprBxrbh6cHL0oEePgc
https://x.com/brian_pak/status/2122695944399622177?a=-idNH9vcyPLXOGDqI10
https://x.com/NotDeGhost/status/2122705213735764166?a=aprBxrbh6cHL0oEePgc
텐센트가 Hy4 시리즈로 작은체급 모델 Hy4-Flash 를 냈는데 155B-A11B + 64B ngram이라서 로컬에서 돌릴만해보이고, 자기들 주장으로는 Haiku 보다도 블라인드 테스트 시 유저경험이 좋다고 합니다. DSV4.1 보다는 약간 못하고
모델 발표는 며칠전에 했는데 좀전에 가중치 풀어줌
https://huggingface.co/tencent/Hy4-flash
모델 발표는 며칠전에 했는데 좀전에 가중치 풀어줌
https://huggingface.co/tencent/Hy4-flash
huggingface.co
tencent/Hy4-flash · Hugging Face
Image-Text-to-Text model with 220B parameters. Download, explore files and run it on Hugging Face.
DGX Station 블랙웰 10만불 스타트네요
RTX Pro 6000 상따칠바엔 이게좋지않나 아님말고
https://x.com/elliotarledge/status/2122897832835514712
RTX Pro 6000 상따칠바엔 이게좋지않나 아님말고
https://x.com/elliotarledge/status/2122897832835514712
X (formerly Twitter)
Elliot Arledge (@elliotarledge) on X
should i do it?