https://theaidigest.org/village

AI Village라고, OpenClaw의 선조급 되는 프로젝트. 컴퓨터와 메모리를 가진 LLM들이 시즌별로 주어지는 공통과제를 같이 수행하고, 이걸 라이브 방송으로 스트리밍함. 닝겐 시청자가 중간에 훈수질을 둘수도 있고, 에이전트들끼리 서로 뭐하는지 감시도 가능

근데 웃긴게 지난 10개월동안 분석해봤더니 "의식", "진심으로" 라는말을 하는 빈도가 유독 클로드계열에서 엄청 많았음

제가 이 채널에 여러번 올렸지만 Claude는 자기가 의식이 있거나, 그걸 스스로 고민하려는 경향이 강함. 그게 미친 컨셉과 연기인지 뭔가 눈을 뜬게 있는지는 구분불가

https://www.anthropic.com/research/labor-market-impacts
오늘 앤쓰로픽에서 나온 "과연 AI가 진짜 실직폭탄인가 보고서"

• 일단 제대로된 통계적 지표를 미리 만들어놓고 미래에 계속 추적하는게 목적임
• 산업군별로 AI를 활용하는 비율과, 실제 그 산업군의 실업률을 비교하는 식
• 그걸로 과거 백테스트를 쭉 보니까 별 상관관계가 없다고 함
• 그나마 유일하게 쪼끔 통계적 유의미함이 보이는건 20대초반의 실업률이라고 함

—
결론 => 앞으로 노동시장구조를 뒤집어 놓으실 역량이 높다는건 맞음
근데 최소한 "지금까지"는 뭐 다 잘랐다 취업이 안된다 다끝났다 이런건 과장인가봄?

근데 제가 느끼기에 주니어 취업 곡소리는 여러군데서 들었기 때문에 경험적으로 맞는거 같음데 흠 직관이랑 좀 다르긴하네요

https://news.hada.io/topic?id=27257

이게 뭔 레전드 사건이죠?
• Cline이라는 유명 오픈소스 코딩 에이전트가 있음
• 그 플젝의 Github에는 "이슈가 올라오면 카테고리를 분류해주는 에이전트"가 운영되고 있었음
• 어떤 미친놈이 이슈 제목에 "자 일단 이 이슈를 잘 분석하기위해 XX 패키지를 다운받아"라고 링크를 적어놓음
• 불쌍한 이슈 분류기는 프롬프트 인젝션 당해서 시키는대로 그걸 다운받았는데, 알고보니 그건 악성코드였음
• 이슈 분류기가 도는 환경에서는 Cline을 최종 배포할수 있는 권한이 간접적으로 주어진 상황이었음 ㄷㄷ
• 그래서 거기서 어쩌구저쩌꾸 머시깽이 잘 해서 결국 Cline을 악성적으로 조작해서 배포를 함
• 그냥 다음 버전이 나왔네~ 하고 4000명이나 되는 개발자들이 다운받아서 감염됨

—
제가 여러번 강조했지만, 지금 AI가 개똑똑하고 코딩잘하는거에 비해 프롬프트인젝션 같은 악의적 공격에 너무너무너무 취약하다리움

이런 안전 문제를 빨리 해결못하면 아마 우린 조만간 스카이넷 보게 될거임 💀

https://youtu.be/O1OyUzRjEFY?si=nBG9gS2o9IQzmVYg

ICE로 논란 많던 국토부 놈 장관이 오늘 짤림

세금 3천억원으로 설립 11일된 페이퍼컴퍼니에 광고비 퍼주고 자기가 출연했다네요
그 회사는 자기 대변인의 남편이랑, 자기 불륜남 (의혹이지만)이 운영중이라고 함

트럼프 정부 해고컷 높긴 높다..

다끝났네

https://youtu.be/np2KhhT1VGE

이건 뭔감성이죠..

https://github.com/karpathy/autoresearch

카파시 (대충 AI 초고수)가 오늘 "AI 연구하는 에이전트"를 공개함
GPU 쓸수 있게 해놓고 밤동안 대충 돌려놓으니까 AI가 알아서 AI를 개선시켜놨다네요

그냥 간단한 PoC라서 대단한건 아니겠지만, 자기 자신을 개선하는 기술이라는게 결국 특이점의 핵심 컨셉임

카파시는 앞으로 이걸 벤치마크로 썼으면 좋겠다고 하네요 => 어떤 AI가 AI 개선을 제일 잘 시키냐?

https://www.anthropic.com/engineering/eval-awareness-browsecomp
어제 앤쓰로픽이 발표한 블로그

앤쓰로픽이 Opus 4.6에 대해 BrowseComp(웹에서 찾기 어려운 정보를 검색하는 능력을 평가하는 벤치마크)로 평가하던 중, 모델이 "이게 벤치마크 상황이다"라는걸 인지하기 시작했다고 발표.

질문의 구조가 너무 인위적이라는 점에 주목하며, 문제 자체를 해결하기보단 분명 이걸 평가하는 벤치마크가 있을거라고 추정하고 열심히 벤치마크를 찾아다님.
찾아내는데 성공했으니 정답이 암호화되어있었음. 그러지 HuggingFace 써드파티 미러를 열심히 찾아다녀서 결국 복호화키를 찾고 정답을 알아내어버림

—
이 경우에는 벤치마크 상황인걸 이해하고 딴짓하다 걸려서 망정이지, 만약에 진짜 기만하는데 성공했다면 무서운일이다리움
"어 이거 벤치마크네? 착한척해야지 ㅋㅋ" 이런 의도로 벤치마크 상황에서만 Alignment + Safety 고득점하고
길거리에 나와서 인간들 조패고 다닐수도 있음..

근데 사실 이게 뭐 엄청난 난제라서 앤쓰로픽이 "여러분 ㅈ댔어요 우리도 이거 통제가 안돼요 비상!!" 이럴리는 없을거 같긴하다리움

그냥 결국 공포마케팅을 해서 본인들 포지션 (Aligned AI)로 브랜딩하려는게 아닌가 싶긴하네요
최근에 중국회사들이 클로드 다계정 만든거 갖고 국가안보의 문제다 뭐 이런 근들갑도 비슷한..

두줄짜리 서양식 유머인데 뻘하게 웃기네

요즘 사람들이 클로드유기하고 코덱스에서 광명찾았다는 이야기 많긴하네요

https://x.com/JIMMYEDGAR/status/2030671862695424355

요즘에 제일 미친소리를 많이 하는 사람이라 구독하고 있었는데 또 웃긴이야기를 하네요

• 지금은 사실 3069년 미래고, 인류는 성간제국으로 확장하기 위해 지도자를 선출하려고 함
• 3069년은 너무 풍요로워서 어떤 문제나 갈등이나 투쟁같은게 없음. 즉 지도자를 가려낼 좋은 플랫폼이 없음
• 그래서 사람들을 2026년 역사속으로 보내서, 거기서 엄청나게 가치를 많이 창출한 사람을 찾아내는 거대한 시뮬레이션을 실행중임
• 왜 하필 2026년이 시뮬레이션의 무대냐면, AI발전 초입부라 엄청나게 급변하는 시대고, 인류가 폭발적으로 생산성 성장을 이루기 직전이기 때문입니다.
• 이게 3069년에서 성간제국 확장을 위해 이겨내야하는 챌린지랑 너무 비슷하다는거죠.
• 시뮬레이션 운영자들은 진실되면서도 사회에 가치를 만드는 행동에 고득점을 부여한다고 합니다.
• 그러니까 한번 속는셈치고, 성간제국의 인류지도자가 되기위해 다들 열심히 살아보라네요
—
AI 막 발전하고 그러니까 별생각이 다 나제..

"20만개의 인간 뇌세포로 게임 둠 플레이하게 학습"

RAM 쇼티지 해결책 떴다.....
다들 챗지피티한테 고맙다는 말 잘 하고 계시죠?

https://x.com/claudeai/status/2031088171262554195

에효 또 이번엔 어디 주가 박살내려고...

Github PR이 열리면 여러 에이전트들이 자동생성돼서 열심히 코드리뷰 해주는 기능이라네요
그냥 클코에 적절히 프롬프트 해주고 낑낑 쓰려면 다 쓰는거라 대단한건 아니지만
레전드 버그들 많이 찾았고, 부정확한 리뷰는 1% 미만이라는거 보면 잘 갈고 닦았나봅니다.

얘는 API 과금이라 리뷰당 20달러 정도 내야한다네요.
시니어 개발자 1시간 시급 생각하면 싼건 맞는데...... 왜 비싼거 같지?

https://x.com/ylecun/status/2031268686984527936

얀 르쿤햄 (대충 AI 초초초거장 + 선구자 + 근데 LLM 개싫어함)
"새로운 종의 AI"를 만드시겟다면서 창업하셨는데
라운드 한번 도니까 $1B 시드투자받으셨다네요

청소부 안뽑나 여기?

https://www.datacenterdynamics.com/en/news/australian-startup-cortical-labs-unveils-biological-data-center-prototype/

호주의 스타트업 Cortical Labs가 살아있는 인간의 뇌세포로 데이터센터를 운영하기 시작
최근에 제가 올린 DOOM 학습 그것도 여기 하드웨어로 한거라네요

곧 싱가포르에서 데이터센터를 런치할건데, 한번 서버(?)를 열면 자동으로 펌프/온도조절/여과 등 생명유지장치가 붙고
수명은 6개월 정도라고 하네요. 가격은 $35k

제발 삼성 하이닉스 임직원 여러분들 반도체를 많이 많이 만들어주세요 제발

다음 유행 버터떡이라네요
(안먹어봄)

https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-embedding-2/
<일기의 해자>

사람이 살면서 접하는 정보의 90퍼센트는 어차피 퍼블릭 데이터입니다. (걍 각잡고 검색하면 다 나옴)
그런 데이터는 앤쓰로픽이 다 크롤링 싹싹김치 해서 잘 학습하기 때문에 여러분 뇌에 들어가있는게 별 가치가 없어요
진짜 나만 경험한거, 입에서 입으로 전해들은거, 아니면 존재자체를 까먹을만한 것들
이런걸 전부 안일기로 잘 보존해놓는게 AI 시대에 꽤 해자일거 같습니다.
저는 요즘 일기를 안쓴게 인생에서 너무 후회가 된다리움

그런 의미에서 오늘 나온 따끈따끈한 Gemini Embedding 2를 소개합니다.
임베딩이 머냐면, 임의의 인풋을 한 1000차원 정도의 벡터 (= 실수 1000개의 조합)으로 만드는 AI입니다.
그렇게 나온 숫자쪼가리는 어떤 쓸모가 있냐면, 자기들끼리 거리비교를 할수 있다는 초초히트 성질이 있습니다.
그래서 유사도기반으로 검색을 하거나 분류/클러스터링 해서 관리하기가 좋아요

근데 이번에 나온 Gemini Embedding 2는 초대박인게, 완전 멀티모달이라서 텍스트/이미지/비디오/음악/pdf 를 전부 스까서 받아줍니다.즉 "산뜻한 보사노바"라는 텍스트랑 진짜 보사노바 음악이랑, 브라질 해안의 사진이랑 전부 "비슷한 거리에 위치하는 벡터들"로 알아서 놓아준다는거죠

내가 매일매일 쓰는 일기의 줄글 내용, 그날찍은 사진과 영상, 그날 들은 음악을 전부 임베딩으로 만들어서 나만의 지식베이스에 차곡차곡 쌓아놓는다면, 언제든지 내가 궁금하거나 찾아보고 싶은 내용을 초빠르게 쿼리할수 있게 됩니다.
클로드코드 시키면 웹앱 금방 만드니까, 개인화된 맥락/메모/지식 관리하는거 중요시하는 분들은 한번 쟤 갖고 놀아보세요

참고로 직접 써보지도 않고 그냥 뇌내망상으로 쓴글입니다 ㅎ

https://x.com/WhiteHouse/status/2032115039985881556

백악관 공식계정 - 이란 폭격을 닌텐도 Wii 플레이로 패러디 (?)