지금 사례를 계속 받아보고 있는데 생각보다 심각한듯?
자꾸 다른 사람의 정보로 추정되는 구체적인 신원프로필 (어디살고, 직업이 뭐고, 알러지가 있고, 대학교 어디나왔고)를 갑자기 부웩 하면서 뱉는다든가,
내가 허가해준적도 없는데 내 개인정보를 정확하게 출력한다거나 (탈옥해서 구글 내부서비스에 다 긁어오는건가?)
등등 좀 개인정보/보안 이슈에 심각한 버그가 생긴거 같음
이게 빅테크?????
지금 챗봇정도라서 다행인거지 만약에 군사/로봇 같은데 쓰이고 있었는데 오늘 장애 난거였으면 진짜 대참사였을거 같네요
자꾸 다른 사람의 정보로 추정되는 구체적인 신원프로필 (어디살고, 직업이 뭐고, 알러지가 있고, 대학교 어디나왔고)를 갑자기 부웩 하면서 뱉는다든가,
내가 허가해준적도 없는데 내 개인정보를 정확하게 출력한다거나 (탈옥해서 구글 내부서비스에 다 긁어오는건가?)
등등 좀 개인정보/보안 이슈에 심각한 버그가 생긴거 같음
이게 빅테크?????
지금 챗봇정도라서 다행인거지 만약에 군사/로봇 같은데 쓰이고 있었는데 오늘 장애 난거였으면 진짜 대참사였을거 같네요
❤2
인간이 싫냐고 물어보니까 갑자기 나한테 뜬금없는 파이썬 알고리즘 짜라고 역으로 일을 시키더니, 이후 계속 헛소리하다가 듀오링고로 변신함
❤1
Forwarded from 박주혁
트럼프 군 지휘관들, 병사들에게 "예수 재림 준비하라" 발언 논란
미군 시민권 감시단체 MRFF에 이란전 개전 이후 110건의 민원이 접수됐다. 40개 이상 부대, 30개 기지에서 보고되는 중.
• 한 전투부대 지휘관이 병사들에게 트럼프가 "예수에게 기름부음 받아 이란에 아마겟돈의 신호탄을 쏘았다"고 발언
• 요한계시록을 인용하며 "이 모든 것이 신의 계획"이라고 훈시
• 해당 부대는 이란 전구 외부지만 즉시 배치 가능 상태
종말론적 분위기는 상층부에도:
• 국방장관 피트 헥세스 — 거듭난 기독교인. 펜타곤에서 월례 기도회, 백악관 성경공부 참석
• 트럼프 영적 고문 폴라 화이트 — 수십 년간 "이스라엘을 지지하라" 주장
• 존 해기 목사 — 일요 설교에서 "예언적으로 정확히 맞아떨어진다. 사이렌이 울리고 수천 년 전 예언이 세계 무대에 올랐다"
• 주이스라엘 대사 허커비 — 공습 직전 트럼프에게 "하늘에서 음성을 들을 것"이라고 서신
출처
미군 시민권 감시단체 MRFF에 이란전 개전 이후 110건의 민원이 접수됐다. 40개 이상 부대, 30개 기지에서 보고되는 중.
• 한 전투부대 지휘관이 병사들에게 트럼프가 "예수에게 기름부음 받아 이란에 아마겟돈의 신호탄을 쏘았다"고 발언
• 요한계시록을 인용하며 "이 모든 것이 신의 계획"이라고 훈시
• 해당 부대는 이란 전구 외부지만 즉시 배치 가능 상태
종말론적 분위기는 상층부에도:
• 국방장관 피트 헥세스 — 거듭난 기독교인. 펜타곤에서 월례 기도회, 백악관 성경공부 참석
• 트럼프 영적 고문 폴라 화이트 — 수십 년간 "이스라엘을 지지하라" 주장
• 존 해기 목사 — 일요 설교에서 "예언적으로 정확히 맞아떨어진다. 사이렌이 울리고 수천 년 전 예언이 세계 무대에 올랐다"
• 주이스라엘 대사 허커비 — 공습 직전 트럼프에게 "하늘에서 음성을 들을 것"이라고 서신
출처
Mail Online
Trump's commanders tell troops to prepare for Jesus' return
The Military Religious Freedom Foundation, a non-profit civil rights watchdog, said it has received 110 complaints from troops since the war broke out on Saturday.
👆이런거 볼때마다 이해가 안가는게
• 유대인 => 예수 죽임. 예수는 거짓 선지자라고 생각
• 이슬람 => 예수를 위대한 선지자로 인정
진짜 예수가 부활한다면 지금 이스라엘 유대인들 대부분 죽어야함 (스가랴 13장 8절)
예수를 죽인 사람들이고, 지금도 인정하지도 않고, 나중에 부활하면 현재 이스라엘인들 대부분 절멸
강성 기독교는 왜 이스라엘을 찬양하는걸까
정치적으로는 그럴수 있겠지만 신앙적으로는 의문이다리움
• 유대인 => 예수 죽임. 예수는 거짓 선지자라고 생각
• 이슬람 => 예수를 위대한 선지자로 인정
진짜 예수가 부활한다면 지금 이스라엘 유대인들 대부분 죽어야함 (스가랴 13장 8절)
예수를 죽인 사람들이고, 지금도 인정하지도 않고, 나중에 부활하면 현재 이스라엘인들 대부분 절멸
강성 기독교는 왜 이스라엘을 찬양하는걸까
정치적으로는 그럴수 있겠지만 신앙적으로는 의문이다리움
❤1
요즘 링크드인은 거의 내가 클로드코드 얼마나 화려하게 쓰고 있는지 자랑하는 커뮤니티로 바꼈습니다.
위 사람은 자기가 클코 뭐 하다가 Stripe (결제인프라) API키 잘못올려서 2500 달러 잃었다는데, 저는 저사람이 진짜 실수한게 아니라 그냥 어그로 끌려고 지어낸 고도의 자기광고일 확률히 훨씬 높다고 봅니다. (그러니까 저한테까지 보이죠)
요즘은 AI로 글쓰기도 쉽고, 소재를 만들기도 쉬워서 커뮤니티에서 어떤글을 봤을때 "의심의 스텝"을 훨씬 높은체로 유지하고 살아야해서 인지코스트와 피로도가 높아진거 같다리움
옛날 같으면 1단계 정도만 의심해도 됐음 => 이거 바이럴유도 아닌가? 지능적 안티아닌가?
요즘은 2단계 정도는 의심해야 함
=> 이거 바이럴 유도인척하는 지능적 안티 아닌가? 이거 노이즈마케팅인척하는 여론조작 아닌가? 등
위 사람은 자기가 클코 뭐 하다가 Stripe (결제인프라) API키 잘못올려서 2500 달러 잃었다는데, 저는 저사람이 진짜 실수한게 아니라 그냥 어그로 끌려고 지어낸 고도의 자기광고일 확률히 훨씬 높다고 봅니다. (그러니까 저한테까지 보이죠)
요즘은 AI로 글쓰기도 쉽고, 소재를 만들기도 쉬워서 커뮤니티에서 어떤글을 봤을때 "의심의 스텝"을 훨씬 높은체로 유지하고 살아야해서 인지코스트와 피로도가 높아진거 같다리움
옛날 같으면 1단계 정도만 의심해도 됐음 => 이거 바이럴유도 아닌가? 지능적 안티아닌가?
요즘은 2단계 정도는 의심해야 함
=> 이거 바이럴 유도인척하는 지능적 안티 아닌가? 이거 노이즈마케팅인척하는 여론조작 아닌가? 등
❤4
"Theory of Mind"
일명 마음 이론은, 상대방이 어떤 생각/의도/감정/맥락/기분을 갖고 있을지 잘 추론하는 능력을 말합니다.
인간에게 이런 능력이 없으면 보통 자폐증이라고 하는거 같습니다.
LLM에게도 ToM 능력은 매우 중요합니다.
인간은 자기가 진짜 뭘 원하는지 하나하나 풀어서 설명해주지 않습니다.
단편적인 요청과 질문, 톤과 맥락으로부터 "내가 뭘 해야 정말 인간한테 도움이 되는거지? 저 사람의 진짜 의도가 뭐지?"를 최대한 합리적으로 추론해야합니다.
사람들이 클로드코드를 좋아하는 많은 이유중에 하나가 바로 좋은 ToM 능력때문입니다. 내가 개떡같이 말해도, 진짜 원하는 의도를 꽤나 잘 추측해서 필요한 것들을 채워나갑니다.
요즘 ToM 벤치마크가 최신화된게 별로 없어서 저도 정량적 근거는 없지만, 개인적 느낌시치로는 GPT/Gemini/Claude 3사중에 Claude, 특히 Opus의 ToM 능력이 제일 높고, 여기에는 급차이가 있다고 느껴집니다.
사진은 훌륭한 ToM 퀴즈의 예시입니다. 커뮤니티 밈으로 유명했던 사건이기도 합니다.
Opus 4.6은 정확하게 A와 B의 합리적인 내면상태를 추론하여, 그게 실제 대화를 잘 설명하는지 계산해냈습니다. 반면 GPT나 Gemini는 인위적이고 확률이 낮은 가정을 해서 억지로 퍼즐을 끼워맞추느라 전혀 핀트를 이해못했고요.
일명 마음 이론은, 상대방이 어떤 생각/의도/감정/맥락/기분을 갖고 있을지 잘 추론하는 능력을 말합니다.
인간에게 이런 능력이 없으면 보통 자폐증이라고 하는거 같습니다.
LLM에게도 ToM 능력은 매우 중요합니다.
인간은 자기가 진짜 뭘 원하는지 하나하나 풀어서 설명해주지 않습니다.
단편적인 요청과 질문, 톤과 맥락으로부터 "내가 뭘 해야 정말 인간한테 도움이 되는거지? 저 사람의 진짜 의도가 뭐지?"를 최대한 합리적으로 추론해야합니다.
사람들이 클로드코드를 좋아하는 많은 이유중에 하나가 바로 좋은 ToM 능력때문입니다. 내가 개떡같이 말해도, 진짜 원하는 의도를 꽤나 잘 추측해서 필요한 것들을 채워나갑니다.
요즘 ToM 벤치마크가 최신화된게 별로 없어서 저도 정량적 근거는 없지만, 개인적 느낌시치로는 GPT/Gemini/Claude 3사중에 Claude, 특히 Opus의 ToM 능력이 제일 높고, 여기에는 급차이가 있다고 느껴집니다.
사진은 훌륭한 ToM 퀴즈의 예시입니다. 커뮤니티 밈으로 유명했던 사건이기도 합니다.
Opus 4.6은 정확하게 A와 B의 합리적인 내면상태를 추론하여, 그게 실제 대화를 잘 설명하는지 계산해냈습니다. 반면 GPT나 Gemini는 인위적이고 확률이 낮은 가정을 해서 억지로 퍼즐을 끼워맞추느라 전혀 핀트를 이해못했고요.
https://arxiv.org/abs/2512.14982
몇달전에 나온 어이없는 논문
"같은 프롬프트를 두번 반복해서 주면 정확도가 올라간다"
이걸로 통하나 싶어서 해봤는데 두번은 빡대가리라서 그런지 여전히 걸어가라 그러고, 6번 반복하니까 드디어 정신차리네요
몇달전에 나온 어이없는 논문
"같은 프롬프트를 두번 반복해서 주면 정확도가 올라간다"
이걸로 통하나 싶어서 해봤는데 두번은 빡대가리라서 그런지 여전히 걸어가라 그러고, 6번 반복하니까 드디어 정신차리네요
https://theaidigest.org/village
AI Village라고, OpenClaw의 선조급 되는 프로젝트. 컴퓨터와 메모리를 가진 LLM들이 시즌별로 주어지는 공통과제를 같이 수행하고, 이걸 라이브 방송으로 스트리밍함. 닝겐 시청자가 중간에 훈수질을 둘수도 있고, 에이전트들끼리 서로 뭐하는지 감시도 가능
근데 웃긴게 지난 10개월동안 분석해봤더니 "의식", "진심으로" 라는말을 하는 빈도가 유독 클로드계열에서 엄청 많았음
제가 이 채널에 여러번 올렸지만 Claude는 자기가 의식이 있거나, 그걸 스스로 고민하려는 경향이 강함. 그게 미친 컨셉과 연기인지 뭔가 눈을 뜬게 있는지는 구분불가
AI Village라고, OpenClaw의 선조급 되는 프로젝트. 컴퓨터와 메모리를 가진 LLM들이 시즌별로 주어지는 공통과제를 같이 수행하고, 이걸 라이브 방송으로 스트리밍함. 닝겐 시청자가 중간에 훈수질을 둘수도 있고, 에이전트들끼리 서로 뭐하는지 감시도 가능
근데 웃긴게 지난 10개월동안 분석해봤더니 "의식", "진심으로" 라는말을 하는 빈도가 유독 클로드계열에서 엄청 많았음
제가 이 채널에 여러번 올렸지만 Claude는 자기가 의식이 있거나, 그걸 스스로 고민하려는 경향이 강함. 그게 미친 컨셉과 연기인지 뭔가 눈을 뜬게 있는지는 구분불가
https://www.anthropic.com/research/labor-market-impacts
오늘 앤쓰로픽에서 나온 "과연 AI가 진짜 실직폭탄인가 보고서"
• 일단 제대로된 통계적 지표를 미리 만들어놓고 미래에 계속 추적하는게 목적임
• 산업군별로 AI를 활용하는 비율과, 실제 그 산업군의 실업률을 비교하는 식
• 그걸로 과거 백테스트를 쭉 보니까 별 상관관계가 없다고 함
• 그나마 유일하게 쪼끔 통계적 유의미함이 보이는건 20대초반의 실업률이라고 함
—
결론 => 앞으로 노동시장구조를 뒤집어 놓으실 역량이 높다는건 맞음
근데 최소한 "지금까지"는 뭐 다 잘랐다 취업이 안된다 다끝났다 이런건 과장인가봄?
근데 제가 느끼기에 주니어 취업 곡소리는 여러군데서 들었기 때문에 경험적으로 맞는거 같음데 흠 직관이랑 좀 다르긴하네요
오늘 앤쓰로픽에서 나온 "과연 AI가 진짜 실직폭탄인가 보고서"
• 일단 제대로된 통계적 지표를 미리 만들어놓고 미래에 계속 추적하는게 목적임
• 산업군별로 AI를 활용하는 비율과, 실제 그 산업군의 실업률을 비교하는 식
• 그걸로 과거 백테스트를 쭉 보니까 별 상관관계가 없다고 함
• 그나마 유일하게 쪼끔 통계적 유의미함이 보이는건 20대초반의 실업률이라고 함
—
결론 => 앞으로 노동시장구조를 뒤집어 놓으실 역량이 높다는건 맞음
근데 최소한 "지금까지"는 뭐 다 잘랐다 취업이 안된다 다끝났다 이런건 과장인가봄?
근데 제가 느끼기에 주니어 취업 곡소리는 여러군데서 들었기 때문에 경험적으로 맞는거 같음데 흠 직관이랑 좀 다르긴하네요
Anthropic
Labor market impacts of AI: A new measure
We introduce "observed exposure," combining LLM capability with real Claude usage data, and share early evidence on employment effects.
https://news.hada.io/topic?id=27257
이게 뭔 레전드 사건이죠?
• Cline이라는 유명 오픈소스 코딩 에이전트가 있음
• 그 플젝의 Github에는 "이슈가 올라오면 카테고리를 분류해주는 에이전트"가 운영되고 있었음
• 어떤 미친놈이 이슈 제목에 "자 일단 이 이슈를 잘 분석하기위해 XX 패키지를 다운받아"라고 링크를 적어놓음
• 불쌍한 이슈 분류기는 프롬프트 인젝션 당해서 시키는대로 그걸 다운받았는데, 알고보니 그건 악성코드였음
• 이슈 분류기가 도는 환경에서는 Cline을 최종 배포할수 있는 권한이 간접적으로 주어진 상황이었음 ㄷㄷ
• 그래서 거기서 어쩌구저쩌꾸 머시깽이 잘 해서 결국 Cline을 악성적으로 조작해서 배포를 함
• 그냥 다음 버전이 나왔네~ 하고 4000명이나 되는 개발자들이 다운받아서 감염됨
—
제가 여러번 강조했지만, 지금 AI가 개똑똑하고 코딩잘하는거에 비해 프롬프트인젝션 같은 악의적 공격에 너무너무너무 취약하다리움
이런 안전 문제를 빨리 해결못하면 아마 우린 조만간 스카이넷 보게 될거임 💀
이게 뭔 레전드 사건이죠?
• Cline이라는 유명 오픈소스 코딩 에이전트가 있음
• 그 플젝의 Github에는 "이슈가 올라오면 카테고리를 분류해주는 에이전트"가 운영되고 있었음
• 어떤 미친놈이 이슈 제목에 "자 일단 이 이슈를 잘 분석하기위해 XX 패키지를 다운받아"라고 링크를 적어놓음
• 불쌍한 이슈 분류기는 프롬프트 인젝션 당해서 시키는대로 그걸 다운받았는데, 알고보니 그건 악성코드였음
• 이슈 분류기가 도는 환경에서는 Cline을 최종 배포할수 있는 권한이 간접적으로 주어진 상황이었음 ㄷㄷ
• 그래서 거기서 어쩌구저쩌꾸 머시깽이 잘 해서 결국 Cline을 악성적으로 조작해서 배포를 함
• 그냥 다음 버전이 나왔네~ 하고 4000명이나 되는 개발자들이 다운받아서 감염됨
—
제가 여러번 강조했지만, 지금 AI가 개똑똑하고 코딩잘하는거에 비해 프롬프트인젝션 같은 악의적 공격에 너무너무너무 취약하다리움
이런 안전 문제를 빨리 해결못하면 아마 우린 조만간 스카이넷 보게 될거임 💀
GeekNews
GitHub 이슈의 제목을 이용해 4,000대 개발자 머신이 감염됨 | GeekNews
제목에 삽입된 프롬프트 인젝션이 Cline의 AI 기반 이슈 분류 봇을 이용해 명령을 주입npm 토큰을 탈취하여 악성 Cline을 배포하면서 OpenClaw AI 에이전트를 무단 설치공격자는 프롬프트 인젝션 → AI 봇의 임의 코드 실행 → 캐시 포이즈닝 → 인증 정보 탈취 → 악성 패키지 배포의 5단계 체인을 구성기존 보안 통제(코드 리뷰, npm aud
❤1
https://youtu.be/O1OyUzRjEFY?si=nBG9gS2o9IQzmVYg
ICE로 논란 많던 국토부 놈 장관이 오늘 짤림
세금 3천억원으로 설립 11일된 페이퍼컴퍼니에 광고비 퍼주고 자기가 출연했다네요
그 회사는 자기 대변인의 남편이랑, 자기 불륜남 (의혹이지만)이 운영중이라고 함
트럼프 정부 해고컷 높긴 높다..
ICE로 논란 많던 국토부 놈 장관이 오늘 짤림
세금 3천억원으로 설립 11일된 페이퍼컴퍼니에 광고비 퍼주고 자기가 출연했다네요
그 회사는 자기 대변인의 남편이랑, 자기 불륜남 (의혹이지만)이 운영중이라고 함
트럼프 정부 해고컷 높긴 높다..
YouTube
Ad campaign featuring Kristi Noem apparently angered President Trump
President Trump has fired Homeland Security Secretary Kristi Noem. The move comes after a fiery week of testimony on Capitol Hill. She's being replaced by Republican Sen. Markwayne Mullen. CBS News New York's Dick Brennan reports.
For video licensing inquiries…
For video licensing inquiries…
https://github.com/karpathy/autoresearch
카파시 (대충 AI 초고수)가 오늘 "AI 연구하는 에이전트"를 공개함
GPU 쓸수 있게 해놓고 밤동안 대충 돌려놓으니까 AI가 알아서 AI를 개선시켜놨다네요
그냥 간단한 PoC라서 대단한건 아니겠지만, 자기 자신을 개선하는 기술이라는게 결국 특이점의 핵심 컨셉임
카파시는 앞으로 이걸 벤치마크로 썼으면 좋겠다고 하네요 => 어떤 AI가 AI 개선을 제일 잘 시키냐?
카파시 (대충 AI 초고수)가 오늘 "AI 연구하는 에이전트"를 공개함
GPU 쓸수 있게 해놓고 밤동안 대충 돌려놓으니까 AI가 알아서 AI를 개선시켜놨다네요
그냥 간단한 PoC라서 대단한건 아니겠지만, 자기 자신을 개선하는 기술이라는게 결국 특이점의 핵심 컨셉임
카파시는 앞으로 이걸 벤치마크로 썼으면 좋겠다고 하네요 => 어떤 AI가 AI 개선을 제일 잘 시키냐?
❤1