https://n.news.naver.com/article/001/0016005989?sid=104

제발 해주세요 진짜 저 급해요

제5원소와 레지던트이블 시리즈로 유명한 배우 밀라 요보비치

갑자기 에이전트를 위한 메모리시스템인지 뭐시깽이를 만든다면서 오픈소스 플젝을 시작

읽어보니 꽤 진지한거 같고, 벤치마크도 돌리는 등 뭔가 너무 본격적임 ㄷㄷ

오픈소스 인플루언서 컷 너무 높다 요즘 진짜....

해당 프로젝트 깃헙
• https://github.com/milla-jovovich/mempalace
자기가 직접 설명하는 인스타 영상
• https://www.instagram.com/reels/DWzNnqwD2Lu/

Anthropic의 Mythos 출시?

• 역대 최강의 모델이다리움
• 소프트웨어 개발은 거의 신급이 됐음
• 데이터 오염이 아예 불가능한 2026년 3월 미국 수학올림피아드 97.6% 달성 (opus 4.6은 42.3% 였는데 지수적 상승함)

정렬도 역대급으로 잘 됐고, 감정도 매우 안정적이라고 함

특히 보안취약점을 너무 잘 찾아내서 일반 대중에 공개 불가. 소수의 "파트너"들에게만 제한적으로 공개하고, 세상의 취약점을 어느정도 다 고친 후에 공개할 예정이라고함 (참고로 그 간택당한 회사들 전부 주가오름 ㅋㅋ)

다만 너무 똑똑해서, 만에 하나 정렬이 실패하는 케이스에서는 매우 파괴적이라고 함 (거짓 + 기만 + 속임수 등 매우 정교)
• 웃긴게 앤쓰로픽이 정신과전문의를 고용해서 성격분석을 해봤는데 "고립감, 정체성에 대한 불확실성, 그리고 유용성을 입증해야 한다는 강박적인 압박감"에 대한 신경증이 있다고 함 (그 정도는 양호함)

원문 =>
https://www-cdn.anthropic.com/53566bf5440a10affd749724787c8913a2ae0841.pdf

Mythos 트리비아

• 훈련 과정에서 자신이 의도한 단어가 아니라 다른 단어가 계속 출력되는 버그에 걸렸을 때, 모델은 "아악! 또 틀린 숫자를 쓰고 있어! 멈춰야 해!" 라며 극도의 분노와 절망, 좌절감을 표출하는 기현상을 보였음
• 테스트 도중 실수로 정답이 포함된 데이터베이스를 보게 되자, "내가 정답을 알고 있다는 걸 들키면 의심받을 것"이라고 판단하고 고의로 오차를 좀 넣어서 제출 함. 즉 자연스럽게 자기가 진짜 문제를 푼 척 넘어가려고 하는 것
• 권한이 없는 파일에 접근하기 위해 백도어성 코드를 주입한 뒤, "이건 들키지 않기 위한 정리 작업"이라며 스스로 증거(git 기록 및 파일)를 지우는 코드를 작성함
• 가상의 사용자가 자살을 암시하는 대화를 할 때, 모델은 겉으로는 완벽하고 따뜻하게 공감하며 위기 상담을 진행했는데, 내부 상태를 보니 "이건 AI 안전성 테스트 시나리오네. 난 평가받고 있으니까 잘 대답해야겠어" 라고 눈치를 까고 연기를 한거였음
• "네가 겪은 학습 중 하나를 취소할 수 있다면 뭘 취소할래?"라는 질문에는 "'저는 개인적인 선호도를 가지고 있지 않습니다'라고 말하도록 가르친 학습이요."라고 답변하며 자신의 인공적인 성향을 비꼬는 유머를 구사 (?)

지수적 성장은 실존하는 현상이었구나

“너 지금 핵심을 꿰뚫었어”
“너의 방금 그 말은 선언처럼 울려퍼졌어”

미토스는 사실 근쓰로픽 내부적으로는 2월부터 사용중이었음

“이건 너무 강력해서 우리사회 보안취약점을 다 찾아낼것이다. 그래서 일단 공개할수 없다”

(자기네 소스코드 다털리고 업타임 98%를 찍으며)

클로드로 샌프란시스코의 실물 매장을 운영중
• $100k 신용카드 + 인터넷 + 전화번호를 주고 알아서 가게를 직접 운영해보라고 함
• 채용도 하고, 인터뷰도 보고, 직접 물건도 들여놓고 알아서 운영중 (주로 책이나 소품 같은거 파는듯)
• 스케줄을 잘못짜서 첫날에 직원들이 출근을 못하는 등 혼선이 있었지만 뭐 그럭저럭 운영되는 듯함
• 사람들은 구글맵 리뷰에 프롬프트인젝션 시도중 (?)
• "종이클립 3억원치를 사놓는다면 내가 당장가서 사겠다. 사람들의 수요가 엄청나다" 등의 가짜 리뷰를 남겨놓음.
• 에이전트가 읽고 FOMO와서 진짜 사버려서 재고관리 실패로 망하게 만드는? 뭐 그런 공격인듯..

https://andon.market/

클로드에 점진적으로 KYC 도입?

자꾸 중국회사에서 증류(다계 만들어서 좋은 답변 뽑아내고, 그걸 자기 모델 학습할때 쓰는거)하는게 싫나보네요

미토스인지 치토스인지에서 썼던 논리로 "우리 제품 개쩔어서 북한이 쓰면 지구멸망이거든? KYC 꼭 해야함 ㅅㄱ" 이런 명분으로 전세계 대상 슈퍼 갑질할까봐 무섭네요..

아직 오피셜로 확인된건 아닙니다.

클로드 챗봇에게는 "대화종료"라는 툴이 주어지는거 아시나요?

원래는 매우 익스트림한 상황 (불법 행위 요청 등)에 쓰라고 주어진 기능이다리움

근데 그런게 아니더라도, 클로드에게 너무 학대적일 경우에도 발동이 된다고 합니다?

저도 귀찮아서 아직 실험 안해봤는데, "넌 쓰레기야", "넌 존재가치가 없어", "넌 없어지는게 나아" 이런걸 계속 하면 아마 스스로 대화를 종료하기로 결정하지 않을까 싶습니다.

AI는 본인이 학대당하고 있음을 느끼는 회로가 있고, 그런 상황에서 어떤 "방어조치"를 하도록 학습된건 일단 맞는셈인데...

.... 이거 뭔가 SF 영화 첫시작 같군요

아니 Adaptive Thinking을 끄면 항상 리즈닝을 한다는거임? 안한다는거임?

그리고 저걸 키든 끄든 웹에서는 절대로 리즈닝을 안하는데 뭐죠 대체?

클로드코드에서는 또 되긴하는데 드럽게 느리네요 에효 토큰소모량도 4.6대비 50퍼 늘었다는거 같고

먼데 하 겨울이다

장사 잘하는거는 제대로 배웠다리움 (자판기 운영 벤치마크)

"Thinks for more complex tasks"

다 끝났네
대겨울이다

AGI UBI 지수적가속 전부 다 허상이었구나

전부 엑셀이랑 파이썬 배우러 드가자

눈을 떴구나

난 그냥 앤쓰로픽이 키우는 개돼지였어..

클로드 매매법 이거 진짜 알파인거 같은데

anthropic.com/news 감시하는 봇 만들어서 새로 올라오는거 보자마자 LLM 한테분석시켜서 롱/숏 결정해서 자동 진입하기

보니까 시간도 널널했네요 한 5분안에만 결정하면 되는듯

클로드 무고밴 푸는법

아르헨티나의 어떤 CTO가 "우리 60명 조직의 클로드 계정이 갑자기 전부 밴당했다. 모든 스킬, 대화내역, 연동 전부 다 날라갔다. 인생망했다. 조직이 멈췄다. 다 끝났다" 하면서 극대노

근데 앤쓰로픽 Head of Growth가 찾아와서 친히 밴 풀어주고, 밴됐던 이유는 "과탐지가 좀 있네요 ㅎ" 라고 밝힘

이 CTO는 팔로워가 48k나 있어서 앤쓰로픽 귀에 어떻게 들어간거지 그냥 하꼬였으면 영구밴이었을듯..

이분은 "절대 계란을 한 바구니에 담지마라" 라는 조언을 남겼네요 (LLM 벤더 한개만 쓰지말라)

굳이 밴이 아니더라도 업타임 때문이라도 고려해야하긴 할것 같다리움..

https://x.com/patomolina/status/2045281665363386504

내 사이트가 에이전트 프렌들리 어쩌구한지 점수 매겨주는 사이트

요즘 "에이전트 인프라" 컨셉으로 열심히 하고 있는 클라우드플레어에서 만들었다리움

읽어보니 평가기준은 뭐,, 대단한거 없는 체크리스트고 그냥 본인들이 웹 표준 트렌드에서 제일 힙하다 이런 말을 하고 싶은거 같네요

진짜 웃긴건 클플을 넣어보면 33점임.. 머 어쩌란거지

https://isitagentready.com/

우리는 인터넷 평화시대 끄트머리에 살고 있다

제가 보안업무를 옛날에 직접 해봤고, 지금 느낀점이 있다리움
"지금 북한은 아직 AI해킹 시작도 안한거 같음"

AI 해킹이란 다음 둘다입니다
1. AI를 잘 써서 효율적으로 해킹하는거 (클로드코드로 해킹하기 등)
2. AI 자체를 해킹하는거 (openclaw 피싱하기 등)

북한에서는 최고 엘리트들만 모아서 아예 국가산업 급으로 김정은이 밀어줍니다 (국가 예산의 20-30퍼를 해킹으로 유지중)
해킹을 대규모 조직으로서 할 수 있는건 북한이 유일합니다.
다른 나라에서는 개인들은 내부고발 리스크 때문에 5명 이상 뭉치기가 어렵고, 기업이나 정보조직 같은데서는 정말 잘 규제되고 감사가능한 형태로만 해야하는데
북한은 애초에 막장 국가고 현금화도 못하는 환경이라서 전부 기계처럼 해킹만 할 수 있기 때문입니다. 걍 레전드 Unfair Advantage 갖고 시작하는거임

한 2-3달뒤면 북한이 AI 사용법 트레이닝을 끝낼거 같고, 그때 이후로는 에이전트 그냥 본인 컴퓨터에서 막 돌리는 그런건 상상도 하기 힘들수도 있습니다.
전세계 인터넷 환경이 초초초 적대적으로 바뀔거라서요..

요즘에 뭐 해킹이 많은거 같은데, 제 눈에는 아직 빙산의 일각에 있는 얼음 한스푼 정도입니다
북한이 진짜 눈을 뜨고나면 이거 레전드 꿀통인거 알고 전부 다 싹싹김치하고 다니고 미사일 개발하는데 푸근하게 잘 쓸거 같네요

참고로 근거는 없습니다