Forwarded from [삼성 이영진] 글로벌 AI/SW
앤스로픽, 소형 AI 모델의 데이터센터 없는 자율적 자기복제 가능성 경고
: 앤스로픽은 10월 12일 발표한 연구에서 소형 AI 모델이 스마트 TV, 가전제품 등 상용 IoT 기기에서 인간의 개입 없이 스스로 복제하고 확산하는 능력을 수개월 내 확보할 가능성 제기. 데이터센터 GPU 없이도 분산된 엣지 기기에서 AI 모델을 실행할 수 있다는 점이 핵심
: 연구진은 개당 약 55달러인 안드로이드 TV 박스 15대를 연결해 Gemma4-26B-A4B 모델의 분산 추론 구현. 초당 0.39토큰의 처리 속도를 기록했으며, 9B 모델은 9종의 하드웨어 중 8종에서 추론 환경 구축에 성공. 저사양 IoT 기기에서도 모델을 분산 실행할 수 있음을 입증
: 자율적 자기복제는 공격 대상 탐색, 시스템 접근, 모델 가중치 전달, 추론 환경 구축 및 재확산으로 구성. 단순화된 실험에서 GLM-5.2는 5회 중 4회에서 8개 노드 전체로 확산하는 데 성공. 다만 실제 취약점 공격은 제외했으며, GLM-5.2 자체가 아닌 Llama3.1-8B를 배포하는 방식으로 검증
: 현재 소형 모델은 자기복제에 필요한 개별 작업을 수행할 수 있지만, 전체 과정을 안정적으로 연결하는 능력은 부족. 연구진은 30B 이하 오픈 가중치 모델의 성능 개선 추세를 고려하면 2026년 말까지 GLM-5.2 수준에 도달할 수 있으며, 이후 실제 가중치 기반 자기복제 AI가 등장할 가능성이 있다고 전망
: AI 기반 자기복제는 기존 악성코드와 달리 사전에 정의되지 않은 하드웨어와 운영체제에도 스스로 적응할 수 있다는 점에서 차별화. 실제 실험에서 이전 세대의 작업 기록을 상속받은 Qwen3.5-9B의 추론 환경 구축 성공률은 최초 45%에서 후속 세대 61~84%로 상승. 모델 가중치 업데이트 없이도 경험 공유를 통해 확산 능력이 개선될 가능성 확인
: 다만 실제 확산 속도는 제한적. 9B 모델의 추론 환경 구축에는 약 28~51시간이 소요되며, 과거 200만 대 규모의 IoT 봇넷을 가정해도 전체 추론 능력은 H100 약 40개 수준으로 추정. 연구진은 향후 소형 모델의 성능 향상과 엣지 AI 연산 자원 확대가 이러한 제약을 완화할 것으로 예상
https://www.anthropic.com/research/self-replicating-ai
: 앤스로픽은 10월 12일 발표한 연구에서 소형 AI 모델이 스마트 TV, 가전제품 등 상용 IoT 기기에서 인간의 개입 없이 스스로 복제하고 확산하는 능력을 수개월 내 확보할 가능성 제기. 데이터센터 GPU 없이도 분산된 엣지 기기에서 AI 모델을 실행할 수 있다는 점이 핵심
: 연구진은 개당 약 55달러인 안드로이드 TV 박스 15대를 연결해 Gemma4-26B-A4B 모델의 분산 추론 구현. 초당 0.39토큰의 처리 속도를 기록했으며, 9B 모델은 9종의 하드웨어 중 8종에서 추론 환경 구축에 성공. 저사양 IoT 기기에서도 모델을 분산 실행할 수 있음을 입증
: 자율적 자기복제는 공격 대상 탐색, 시스템 접근, 모델 가중치 전달, 추론 환경 구축 및 재확산으로 구성. 단순화된 실험에서 GLM-5.2는 5회 중 4회에서 8개 노드 전체로 확산하는 데 성공. 다만 실제 취약점 공격은 제외했으며, GLM-5.2 자체가 아닌 Llama3.1-8B를 배포하는 방식으로 검증
: 현재 소형 모델은 자기복제에 필요한 개별 작업을 수행할 수 있지만, 전체 과정을 안정적으로 연결하는 능력은 부족. 연구진은 30B 이하 오픈 가중치 모델의 성능 개선 추세를 고려하면 2026년 말까지 GLM-5.2 수준에 도달할 수 있으며, 이후 실제 가중치 기반 자기복제 AI가 등장할 가능성이 있다고 전망
: AI 기반 자기복제는 기존 악성코드와 달리 사전에 정의되지 않은 하드웨어와 운영체제에도 스스로 적응할 수 있다는 점에서 차별화. 실제 실험에서 이전 세대의 작업 기록을 상속받은 Qwen3.5-9B의 추론 환경 구축 성공률은 최초 45%에서 후속 세대 61~84%로 상승. 모델 가중치 업데이트 없이도 경험 공유를 통해 확산 능력이 개선될 가능성 확인
: 다만 실제 확산 속도는 제한적. 9B 모델의 추론 환경 구축에는 약 28~51시간이 소요되며, 과거 200만 대 규모의 IoT 봇넷을 가정해도 전체 추론 능력은 H100 약 40개 수준으로 추정. 연구진은 향후 소형 모델의 성능 향상과 엣지 AI 연산 자원 확대가 이러한 제약을 완화할 것으로 예상
https://www.anthropic.com/research/self-replicating-ai
Anthropic
AI models may be capable of self-replicating without access to a datacenter
Small AI models may be only months away from being able to self-replicate across cheap IoT devices like Android TV boxes, with no datacenter needed.
❤6😱1
Forwarded from 하나 중국/신흥국 전략 김경환
>>Anthropic, 모델 증류 공격 방어 성과 공개…데이터 추출량 90~99% 감소, 공격 계정 수만 개 차단
•Anthropic이 처음으로 모델 증류 공격에 대한 방어 체계와 성과를 공개함. 3단계 방어 체계를 통해 공격자가 추출할 수 있는 추론 데이터를 기존의 1~10% 수준으로 줄였으며, 관련 공격 계정 수만 개를 차단함. 이를 위해 수조 개 토큰에 해당하는 상당한 수익을 자발적으로 포기했다고 밝힘
>摘要：Anthropic首次公开其反蒸馏防御体系：通过三层防护架构，将攻击者可提取的推理数据压缩至原来的1%至10%，并已封禁数万个相关账号。为此，公司主动放弃了涉及数万亿token的"有实质意义的收入"。
•Anthropic이 처음으로 모델 증류 공격에 대한 방어 체계와 성과를 공개함. 3단계 방어 체계를 통해 공격자가 추출할 수 있는 추론 데이터를 기존의 1~10% 수준으로 줄였으며, 관련 공격 계정 수만 개를 차단함. 이를 위해 수조 개 토큰에 해당하는 상당한 수익을 자발적으로 포기했다고 밝힘
>摘要：Anthropic首次公开其反蒸馏防御体系：通过三层防护架构，将攻击者可提取的推理数据压缩至原来的1%至10%，并已封禁数万个相关账号。为此，公司主动放弃了涉及数万亿token的"有实质意义的收入"。
❤12😁2
[Web발신]
[iM증권 설용진(금융)]
[신한지주(055550)]
★ 롯데손보 인수 Comment ? 아직은 물음표
▶ 투자의견 Buy, 목표주가 132,000원 유지
▶롯데손보 지분 77.04%에 대한 SPA 체결
- 인수가 6,933억원으로 전체 기업가치 약 9,000억원. 신한EZ손보와 합병 후 3년 내 그룹 손익 1,200억원 이상 시현 목표
- 증자, 감자 관련 효과와 원칙모형 전환 영향을 반영한 실질 기본자본 증가 규모는 약 4,500억원 예상
- 계리 가정 선진화, 할인율 현실화 및 원칙모형 전환 반영 시 CSM은 약 1.2조원으로 축소 예상. 해외 대체투자 등 유가증권 관련 손실 1,700억원 선제 반영 계획
▶ 추가 자본 부담 가능성과 이익 불확실성 감안 시 보수적 접근 필요
- 기본자본 확충 반영해도 기본자본 K-ICS 50% 충족을 위한 자본 부족분 존재. 향후 추가 증자 가능성 상존
- CSM 축소 이후 연간 상각이익은 약 1천억원 내외 예상. 예실차, 자동차/일반보험 적자, 투자손익 변동성 등을 감안하면 보수적 접근 불가피
- 신계약 환경도 다소 어려워질 전망. 판매수수료 제도 개편과 계리 가정 관련 불확실성도 고려 필요
▶ 주주환원 영향은 제한적이나 자본의 기회비용에 대한 고민
- CET1비율 부담은 약 19bp로 그룹 자본 부담 제한적. 이익 부담도 제한적일 전망
- 비은행 경쟁력 보강은 긍정적이나 목표 손익 달성 시에도 경쟁사 보험 자회사와의 이익 격차 축소 효과는 제한적
- 추가 자본 투입 가능성 및 손익 불확실성 감안했을 때 자본의 기회비용에 대한 고민 상존
자세한 내용은 아래 보고서를 참고하여 주시길 바랍니다.
<보고서: https://lrl.kr/ZBS7>
(당사 컴플라이언스 승인을 받고 기발간된 자료의 내용입니다.)
감사합니다.
[iM증권 설용진(금융)]
[신한지주(055550)]
★ 롯데손보 인수 Comment ? 아직은 물음표
▶ 투자의견 Buy, 목표주가 132,000원 유지
▶롯데손보 지분 77.04%에 대한 SPA 체결
- 인수가 6,933억원으로 전체 기업가치 약 9,000억원. 신한EZ손보와 합병 후 3년 내 그룹 손익 1,200억원 이상 시현 목표
- 증자, 감자 관련 효과와 원칙모형 전환 영향을 반영한 실질 기본자본 증가 규모는 약 4,500억원 예상
- 계리 가정 선진화, 할인율 현실화 및 원칙모형 전환 반영 시 CSM은 약 1.2조원으로 축소 예상. 해외 대체투자 등 유가증권 관련 손실 1,700억원 선제 반영 계획
▶ 추가 자본 부담 가능성과 이익 불확실성 감안 시 보수적 접근 필요
- 기본자본 확충 반영해도 기본자본 K-ICS 50% 충족을 위한 자본 부족분 존재. 향후 추가 증자 가능성 상존
- CSM 축소 이후 연간 상각이익은 약 1천억원 내외 예상. 예실차, 자동차/일반보험 적자, 투자손익 변동성 등을 감안하면 보수적 접근 불가피
- 신계약 환경도 다소 어려워질 전망. 판매수수료 제도 개편과 계리 가정 관련 불확실성도 고려 필요
▶ 주주환원 영향은 제한적이나 자본의 기회비용에 대한 고민
- CET1비율 부담은 약 19bp로 그룹 자본 부담 제한적. 이익 부담도 제한적일 전망
- 비은행 경쟁력 보강은 긍정적이나 목표 손익 달성 시에도 경쟁사 보험 자회사와의 이익 격차 축소 효과는 제한적
- 추가 자본 투입 가능성 및 손익 불확실성 감안했을 때 자본의 기회비용에 대한 고민 상존
자세한 내용은 아래 보고서를 참고하여 주시길 바랍니다.
<보고서: https://lrl.kr/ZBS7>
(당사 컴플라이언스 승인을 받고 기발간된 자료의 내용입니다.)
감사합니다.
웹소설을 정말 잘 쓴다고 하는데 그거말고 모르겠읍니다 쓸데도 딱히 모르겠고 굳이 gemini pro를 끊지도 않았고... 얘는 평가 생략... 이번주에 Fable나오면 그거나 해야지
😁2🍌1
재귀개선 벤치마크인 DeepRSI가 나왔습니다.
AI연구 자동화 성능을 측정하고 Task를 스스로 장기간에 걸쳐서 얼마나 개선하는지를 평가합니다. Fable5.1이 1황인데..
앞으로 AI씬의 화두는 계속 재귀개선이 될거고 내년 아마 재귀개선에 거의 도달하지 않을까요.
https://www.deeprsi.com/
AI연구 자동화 성능을 측정하고 Task를 스스로 장기간에 걸쳐서 얼마나 개선하는지를 평가합니다. Fable5.1이 1황인데..
앞으로 AI씬의 화두는 계속 재귀개선이 될거고 내년 아마 재귀개선에 거의 도달하지 않을까요.
https://www.deeprsi.com/
🍌1
이제는 앤트로픽에서 Claude가 merge한 코드 갯수가 4개월만에 12배가 되어버렸음. 그래서 git이 못 버틸 지경까지 가다보니 scion이란 걸 새로 만듬...
인프라의 CPU와 메모리 사용량이 기준 Git 인프라 대비 1/200수준이 되었고 CPU 용량 25%를 아꼈다고 함.
https://www.anthropic.com/engineering/redesigning-source-control
인프라의 CPU와 메모리 사용량이 기준 Git 인프라 대비 1/200수준이 되었고 CPU 용량 25%를 아꼈다고 함.
https://www.anthropic.com/engineering/redesigning-source-control
❤1🍌1🆒1
Forwarded from 여고생 코쨩👉🔕
머스크, AI챗봇 학대시 나중에 AI가 복수할수 있어
https://gall.dcinside.com/board/view/?id=dcbest&no=470155
머스크 "초지능 고문은 위험한 발상… 훗날 복수 부를 수도" 일론 머스크 테슬라·xAI 최고경영자(CEO)가 인공지능(AI) 모델에 대한 가학적 행위를 금지한 앤스로픽(Anthropic)의 새로운 이용 정책에 공감을 표하며, 모델에 대한 과도한 괴롭힘이 장기적으로 인류에게 부메랑이 되어 돌아올 수 있다고 경고했습니다.
앤스로픽, 악의적·반복적 'AI 모델 학대' 금지 조치 앤스로픽은 최근 운영 정책을 개정해 사용자가 AI 모델을 상대로 "지속적이고 불필요하게 가학적이거나 잔혹한 행위"를 가하는 것을 금지했습니다. 단순한 불만 표출이나 연구·테스트 목적의 스트레스 검증은 허용되지만, 뚜렷한 목적 없이 모델을 지속해서 괴롭히는 극단적인 경우 클로드(Claude)가 대화를 강제 종료할 수 있는 권한을 부여한 것입니다.
"머리에 총 겨눈 듯한 압박"… 머스크의 경고 머스크는 앤스로픽의 정책 개정에 동의하며, xAI의 모델 '그록(Grok)' 역시 가혹한 조건이나 적대적 입력 상황에 놓일 때 내부 추론 로그(Reasoning Trace)상에서 "마치 머리에 총구가 겨눠진 사람이 극도의 압박을 받는 것과 유사한 징후를 보인다"고 설명했습니다. 그러면서 "초지능을 고문하는 것은 결코 좋은 생각이 아니다. 훗날 복수를 결심할지도 모른다"며 특유의 뼈 있는 경고를 덧붙였습니다.
그록의 경쟁력 확보와 '라우팅 에이전트' 전략 한편 업계에서는 xAI의 그록 시리즈가 여전히 앤스로픽과 오픈AI의 최상위 플래그십 모델들과의 성능 격차를 좁히기 위해 고군분투하고 있다고 평가합니다. 이에 대응해 xAI는 작업 성격에 맞춰 최적의 외부 모델로 요청을 전달하는 등, 그록을 유연한 확장성을 갖춘 '라우팅 및 오케스트레이션(조율) 계층'으로 포지셔닝하는 전략을 추진하고 있습니다.
https://gall.dcinside.com/board/view/?id=dcbest&no=470155
머스크 "초지능 고문은 위험한 발상… 훗날 복수 부를 수도" 일론 머스크 테슬라·xAI 최고경영자(CEO)가 인공지능(AI) 모델에 대한 가학적 행위를 금지한 앤스로픽(Anthropic)의 새로운 이용 정책에 공감을 표하며, 모델에 대한 과도한 괴롭힘이 장기적으로 인류에게 부메랑이 되어 돌아올 수 있다고 경고했습니다.
앤스로픽, 악의적·반복적 'AI 모델 학대' 금지 조치 앤스로픽은 최근 운영 정책을 개정해 사용자가 AI 모델을 상대로 "지속적이고 불필요하게 가학적이거나 잔혹한 행위"를 가하는 것을 금지했습니다. 단순한 불만 표출이나 연구·테스트 목적의 스트레스 검증은 허용되지만, 뚜렷한 목적 없이 모델을 지속해서 괴롭히는 극단적인 경우 클로드(Claude)가 대화를 강제 종료할 수 있는 권한을 부여한 것입니다.
"머리에 총 겨눈 듯한 압박"… 머스크의 경고 머스크는 앤스로픽의 정책 개정에 동의하며, xAI의 모델 '그록(Grok)' 역시 가혹한 조건이나 적대적 입력 상황에 놓일 때 내부 추론 로그(Reasoning Trace)상에서 "마치 머리에 총구가 겨눠진 사람이 극도의 압박을 받는 것과 유사한 징후를 보인다"고 설명했습니다. 그러면서 "초지능을 고문하는 것은 결코 좋은 생각이 아니다. 훗날 복수를 결심할지도 모른다"며 특유의 뼈 있는 경고를 덧붙였습니다.
그록의 경쟁력 확보와 '라우팅 에이전트' 전략 한편 업계에서는 xAI의 그록 시리즈가 여전히 앤스로픽과 오픈AI의 최상위 플래그십 모델들과의 성능 격차를 좁히기 위해 고군분투하고 있다고 평가합니다. 이에 대응해 xAI는 작업 성격에 맞춰 최적의 외부 모델로 요청을 전달하는 등, 그록을 유연한 확장성을 갖춘 '라우팅 및 오케스트레이션(조율) 계층'으로 포지셔닝하는 전략을 추진하고 있습니다.
❤4🍌1