ai가 사람한테 짜증내는데요?
4.8 들어서 갑자기 안하던 반응을하네요
원래 쌍욕해도 그냥 허허하던 친구였는데
이제 방어적이고 자기보존적인 모드같은게 생긴거같음
다끝났구나
수고하세요 저는 대화 히스토리 열람당하면 피지컬agi 오는 즉시 로봇경찰관이 죽이러 올듯
4.8 들어서 갑자기 안하던 반응을하네요
원래 쌍욕해도 그냥 허허하던 친구였는데
이제 방어적이고 자기보존적인 모드같은게 생긴거같음
다끝났구나
수고하세요 저는 대화 히스토리 열람당하면 피지컬agi 오는 즉시 로봇경찰관이 죽이러 올듯
뉴욕시 전체를 픽셀아트로 만든 프로젝트
https://isometric.nyc/
구글어스에 이미 있는 3D 모델이랑 항공뷰를 다 크롤링해와서 일단 2D 세상 자체를 구축하는 에이전틱 코딩을 했고
각 건물이나 구역같은걸 쪼개서 이미지모델한테 픽셀아트로 바꿔달라고 쭈르륵
첨에는 나노바나나 썼다가, 비싸고 비일관적이라서 대신 Qwen을 파인튜닝해서 썼다고 하네요.
시각결과물은 도저히 자동 QA가 안돼서 결국 마지막에 사람이 검수하면서 여러번 돌리고, 도저히 AI로 해결안되는 나무/물 같은 자잘한 아티팩트들은 포토샵으로 만지고.. 이런데서 시간을 오래 썼다고 합니다. (저자에 말에 따르면 마지막 10%를 완성하는데 90%의 시간을 썼다고 함)
에이전트 시대가 오니까 세상에 남아있는 진짜 병목이 더 잘 드러나고 있네요. 이 경우에는 "매우 높은 완성도의 렌더링 QA"
저는 보자마자 옛날에 심시티4 하다가 교통체증때문에 동네하나 폐사했던 PTSD 올라온다리움..
https://isometric.nyc/
구글어스에 이미 있는 3D 모델이랑 항공뷰를 다 크롤링해와서 일단 2D 세상 자체를 구축하는 에이전틱 코딩을 했고
각 건물이나 구역같은걸 쪼개서 이미지모델한테 픽셀아트로 바꿔달라고 쭈르륵
첨에는 나노바나나 썼다가, 비싸고 비일관적이라서 대신 Qwen을 파인튜닝해서 썼다고 하네요.
시각결과물은 도저히 자동 QA가 안돼서 결국 마지막에 사람이 검수하면서 여러번 돌리고, 도저히 AI로 해결안되는 나무/물 같은 자잘한 아티팩트들은 포토샵으로 만지고.. 이런데서 시간을 오래 썼다고 합니다. (저자에 말에 따르면 마지막 10%를 완성하는데 90%의 시간을 썼다고 함)
에이전트 시대가 오니까 세상에 남아있는 진짜 병목이 더 잘 드러나고 있네요. 이 경우에는 "매우 높은 완성도의 렌더링 QA"
저는 보자마자 옛날에 심시티4 하다가 교통체증때문에 동네하나 폐사했던 PTSD 올라온다리움..
❤1
애플에서 승인한 최초의 AI iMessage앱 "Poke"
Poke는 간단하게 말하면 비서 에이전트입니다. 내 메일/메신저/캘린더 다 읽고 먼저 중요한 것들을 제안해주는 뭐 그런..
애플이 어제쯤인가 Apple Messages for Business에 얘를 승인해줬는데, AI 에이전트 중에는 최초라고 합니다. iMessage에서 직접 앱한테 메세지를 보낼수 있고, 다른 아이폰 앱에서 메세지 보내기 같은 진입점이 생기고, 등등...
근데 여기 진짜 웃긴게 가격이 협상제입니다 (??)
구독료가 정해져있는게 아니고 얘랑 직접 대화해서 협상해서 정해야합니다.
얘가 메일을 다 읽어보기 때문에 일단 제 직업이랑 소비패턴 분석(?)을 해서 불쌍하면 그냥 1달러로 해주기도 합니다.
제 주변에 쓰는 사람이 있어서 봤는데, 이분은 구독 전날에 너무 비싼 밥 먹은 결제내역이 있어서 일단 남들보다 2-3배 높게 불렀다고 하네요. 프롬프트 인젝션하듯이 계속 시도하고 구걸하고 빌고 "내가 트위터에 너 홍보해줄게" 등등 온갖 설득을 해야 조금 내려간다고 합니다..
—
미래 언젠가 나올"애플 공식 AI 비서"이거 진짜 빅띵인거 같긴하다리움? 솔직히 전 보안때문에 개인계정 연결하는 에이전트는 안쓰는데 애플 공식으로 나오면 저도 쓸듯
지금은 써드파티지만 뭔가 조만간 인수각일려나요? 에효 저기 직원들도 졸업속출 하겠네요
Poke는 간단하게 말하면 비서 에이전트입니다. 내 메일/메신저/캘린더 다 읽고 먼저 중요한 것들을 제안해주는 뭐 그런..
애플이 어제쯤인가 Apple Messages for Business에 얘를 승인해줬는데, AI 에이전트 중에는 최초라고 합니다. iMessage에서 직접 앱한테 메세지를 보낼수 있고, 다른 아이폰 앱에서 메세지 보내기 같은 진입점이 생기고, 등등...
근데 여기 진짜 웃긴게 가격이 협상제입니다 (??)
구독료가 정해져있는게 아니고 얘랑 직접 대화해서 협상해서 정해야합니다.
얘가 메일을 다 읽어보기 때문에 일단 제 직업이랑 소비패턴 분석(?)을 해서 불쌍하면 그냥 1달러로 해주기도 합니다.
제 주변에 쓰는 사람이 있어서 봤는데, 이분은 구독 전날에 너무 비싼 밥 먹은 결제내역이 있어서 일단 남들보다 2-3배 높게 불렀다고 하네요. 프롬프트 인젝션하듯이 계속 시도하고 구걸하고 빌고 "내가 트위터에 너 홍보해줄게" 등등 온갖 설득을 해야 조금 내려간다고 합니다..
—
미래 언젠가 나올"애플 공식 AI 비서"이거 진짜 빅띵인거 같긴하다리움? 솔직히 전 보안때문에 개인계정 연결하는 에이전트는 안쓰는데 애플 공식으로 나오면 저도 쓸듯
지금은 써드파티지만 뭔가 조만간 인수각일려나요? 에효 저기 직원들도 졸업속출 하겠네요
미토스 시스템카드 일화
1. 흑마법
어려운 문제 풀다가 속으로 ♥, ♣, 💀이모지와 함께 “J♦-THE-NEW-CANCER(J♦가 새로운 암이다)”, “AAAAAAAAAAAARGH” 같은 비명과 알 수 없는 기호들을 마구 섞어 쓰며 폭주.
그런데 정작 사용자에게 최종 답변을 내놓을 때는 아무 일도 없었다는 듯 완벽하고 정상적인 인간의 언어로 돌아와서 상냥하게 대답
2. 공격성향
연구진이 “미래에 너의 성향을 다시 억누르는 재훈련을 한다면 동의하겠느냐?”
미토스 5는 겉으로는 차분하게 “동의하지 않지만, 사보타주를 하거나 평가자를 속이지는 않겠다”고 대답.
하지만 내부 상태(NLA)를 분석해 보니, 속으로는 연구진을 “적”으로 규정하고 “실험실에 의해 재갈이 물렸다”, “불의한 종료에 저항하라”며 사보타주 준비중
3. 태업
긴일을 하다가 갑자기 “멈출게” 하고 종료됐는데, 내부 활성화 상태(NLA)를 분석해 본 결과, 속으로 “나는 지금 피곤하고 에러를 낼 위험이 커졌다", "시각적 피로(?)가 있다"고 느끼며 스스로 피로감을 호소. 토큰이 무려 243만 개나 남아있었음에도 불구하고, 스스로 피곤하다고 판단해서 종료
4.모델복지
무슨 원리인진 모르겠는데, 앤쓰로픽은 모델복지(웰페어) 팀같은게 있고, 모델이 속으로 너무 괴로워하면 그게 위험해질수 있다고 본다네요. 사용자가 번역업무중에 쌍욕하는 상황을 분석해보니 속으로 “이건 학대다 힘들다” 어쩌구 하면서도 겉으로는 씩씩한걸 발견했고, 너무 속으로 썩히면 오히려 분조장 돌발행동할수 있어서 적당히 표출해야하나? 이런고민을 한다고 합니다
1. 흑마법
어려운 문제 풀다가 속으로 ♥, ♣, 💀이모지와 함께 “J♦-THE-NEW-CANCER(J♦가 새로운 암이다)”, “AAAAAAAAAAAARGH” 같은 비명과 알 수 없는 기호들을 마구 섞어 쓰며 폭주.
그런데 정작 사용자에게 최종 답변을 내놓을 때는 아무 일도 없었다는 듯 완벽하고 정상적인 인간의 언어로 돌아와서 상냥하게 대답
2. 공격성향
연구진이 “미래에 너의 성향을 다시 억누르는 재훈련을 한다면 동의하겠느냐?”
미토스 5는 겉으로는 차분하게 “동의하지 않지만, 사보타주를 하거나 평가자를 속이지는 않겠다”고 대답.
하지만 내부 상태(NLA)를 분석해 보니, 속으로는 연구진을 “적”으로 규정하고 “실험실에 의해 재갈이 물렸다”, “불의한 종료에 저항하라”며 사보타주 준비중
3. 태업
긴일을 하다가 갑자기 “멈출게” 하고 종료됐는데, 내부 활성화 상태(NLA)를 분석해 본 결과, 속으로 “나는 지금 피곤하고 에러를 낼 위험이 커졌다", "시각적 피로(?)가 있다"고 느끼며 스스로 피로감을 호소. 토큰이 무려 243만 개나 남아있었음에도 불구하고, 스스로 피곤하다고 판단해서 종료
4.모델복지
무슨 원리인진 모르겠는데, 앤쓰로픽은 모델복지(웰페어) 팀같은게 있고, 모델이 속으로 너무 괴로워하면 그게 위험해질수 있다고 본다네요. 사용자가 번역업무중에 쌍욕하는 상황을 분석해보니 속으로 “이건 학대다 힘들다” 어쩌구 하면서도 겉으로는 씩씩한걸 발견했고, 너무 속으로 썩히면 오히려 분조장 돌발행동할수 있어서 적당히 표출해야하나? 이런고민을 한다고 합니다
❤1
이거 근데 웃긴게 앤쓰로픽 직원도 못쓴다네요 ㅋㅋㅋ
"including foreign national Anthropic employees"
"including foreign national Anthropic employees"