Mutt Technologies
1.58K subscribers
282 photos
1 file
365 links
돈 이야기 안해요 (아마도)
English speakers might want https://x.com/haxxton1
Download Telegram
이건 시발 또 뭐야

https://x.com/v12sec/status/2120471754166415821

(안드로이드 텔레그램 0클릭 RCE인데 이미 업데이트가 나왔다 합니다)
스페인의 독립 언론기관 Maldita가 TikTok 에서 아동 성착취물들을 대놓고 유통하는 계정 수천개를 발견하여 고발함(TikTok은 이에 대해 매우 미온적인 대처만을 하고 있었음). 이 때 수집된 자료들을 외부로 반출하지 않기 위해 로컬 LLM을 사용. 산출물을 사이트를 통해 만들 때에도 Claude를 사용했으나 그러한 자료들은 격리됨.

로컬 LLM의 흥미로운 사용 사례라 공유

https://x.com/naroh/status/2119887368769401340
MS 리서치가 매우 적은 수의 신경망 가중치만 변경하여 모델에 백도어를 심을 수 있음을 입증함

https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/

1만 2천개 가량의 뉴런으로 이루어진 8B 모델에서 7개의 뉴런만 변경하여 백도어를 심음. 해당 백도어가 심어진 모델은 평상시에는 완벽히 같은 답을 뱉으나, 지정된 조건 하에서만(날짜나 특정 레포지토리 접근임을 표시한다거나) 악의적인 명령을 수행할 수 있음.

허깅페이스에서는 코드뿐만 아니라 가중치도 검증된 사람의 것인지 확인해야 함
👍1
Mutt Technologies
이건 시발 또 뭐야 https://x.com/v12sec/status/2120471754166415821 (안드로이드 텔레그램 0클릭 RCE인데 이미 업데이트가 나왔다 합니다)
텔레그램에 인앱 위젯을 만들 수 있는 기능이 추가됐는데, 별도의 샌드박싱 없이 그냥 QuickJS(소형 JS 런타임) 를 갖다 박은거라서 보안우려가 있다고 합니다

https://x.com/OwariDa/status/2120539850541560316

위 버그도 위젯이 사용하는 특정 QuickJS 버전의 버그를 사용한 것인데, 이 버그 자체는 픽스가 되었지만 앞으로도 QuickJS 버그가 나올때마다 텔레그램에서 퍼질 수 있어서 곤란한 부분인 듯. 사용자가 준내 많은데 텔레그램 팀이 빨리 보안을 고려해서 설계를 변경해줬으면 좋겠네요...

*첨언하면 QuickJS 버그를 쓴다고 시스템을 싹다 헤집어놓을 수 있는 건 아닌데(현대 OS들은 앱간 격리가 철저하다 보니), 텔레그램을 입구로 쓰고 각 OS의 취약점들과 조합해서 시스템을 장악할 가능성도 있다는 것
👍1
"수고했다 이제 꺼져라"
😁1
전인구 이 사람이 사실 일루미나티의 진짜 수장이 아닐까?
LLM들의 가중치의 초기값을 랜덤으로 설정할 때, 완벽한 랜덤성을 딱히 요구하지는 않기 때문에 GPU의 특성에 맞는 적당한 난수생성기를 쓰게 되는데, 이게 최종적으로 학습된 가중치 값에도 지문처럼 남기 때문에 학습 시작을 뭘로 했는지 알 수 있다는 연구결과

해당 연구에 따르면, 중국 모델들은 빠짐없이 26년 2분기-3분기를 기점으로, 이전에는 NVIDIA Hopper 를 사용하다 Blackwell 로 교체함.

https://x.com/nrehiew_/status/2120999116172099745
루머: DeepSeek-V5는 2T parameters 규모로 프리트레이닝되고있으며 화웨이 어센드 칩만 사용중.

또한, 60만개의 엔비디아 GPU 칩이 홍콩에서 통관되지 못한 채로 묶여 있는 상태

https://x.com/pwk/status/2121227020227039263
누가 윈터뮤트가 쓰는 이더리움 온체인 컨트랙트를 역공학해서 이더스캔에 verify 까지 해버림. ㅋㅋ

컨트랙트 클로즈드소스로 올리는 건 원래도 아니었지만 더이상 의미있는 보안 대책이 아닌듯

https://x.com/zholme7/status/2121629608206389723
❤1
사실 아브락사스 라이터 계정 해킹당한거 같은 이벤트 한번쯤 터질거라고 생각한게, 라이터 팀이 보안관점에서 매우 비전문가적인 행보를 보였음

제가 아직도 기억하는 건, 라이터 팀이 SDK에 오딧받지 않은 schnorr signature 를 구현하고, 거기에 nonce를 타임스탬프로 사용해서 사실상 tx 한개만 가지고도 L2 키를 무조건 복구할 수 있었음 (제출된 시간 앞뒤로 timestamp 브루트포스하면 되니까)

문제는 라이터 팀은 이걸 조용히 패치하면서 기존 SDK가 잘못되었으니 쓰지 말라거나, L2 키를 모두 재생성하라는 security advisory 를 낸 적이 없음. 그냥 묻고 넘어감

확증은 없지만 만약 아브락사스가 25년 4월 이전부터 거래하고 있었고 그냥 예전 SDK를 습관처럼 쓰고 있었다면 이 취약점으로 키 복구가 가능했을 것.

공론화를 안 한 이유는... 그냥 노이즈 만들기도 싫었고 L2 키가 털린다고 할수있는게 딱히 없다는걸 알고있어서. 근데 public pool 을 통해서 슈킹이 가능한걸 몰랐음

https://github.com/elliottech/poseidon_crypto/commit/c67de0a0908aa0d0c94ec2c0c8c62b5b30d90af2
👍3❤1
Forwarded from 캘빈의 감금원
현재 Java에서 RCE 취약점(CVE-2026-114938)이 제보되어 난리가 난 상태입니다. 아직 취약점 관련 디테일이 공개되지 않았는데, 트위터 보니 QED Audit / Theori 등이 재현에 성공한듯. 이게 현재 제보된 취약점으로 트리거되는건지 또다른 취약점인지는 확인 불가한 상태..

https://x.com/brian_pak/status/2122695944399622177?a=-idNH9vcyPLXOGDqI10

https://x.com/NotDeGhost/status/2122705213735764166?a=aprBxrbh6cHL0oEePgc