OpenAI가 자기네들 모델이 너무 똑똑하고 보안위협 통제가 안돼서 강화학습을 중단했다네요
정렬문제랑 격리 환경(샌드박스) 해결될때까지 일단 대기라고 함
🤡
https://openai.com/index/pacing-model-development-cyber-capabilities/
정렬문제랑 격리 환경(샌드박스) 해결될때까지 일단 대기라고 함
https://openai.com/index/pacing-model-development-cyber-capabilities/
Please open Telegram to view this post
VIEW IN TELEGRAM
OpenAI
Pacing model development in an era of cyber-critical capabilities
OpenAI is strengthening monitoring, alignment, and security for frontier AI models. See how new safeguards are guiding the pace of model development.
클로드식 화법에 분노한 영어 원어민들
opus 4.7 이후로 한국어 구사능력이 급격히 떨어졌는데, 사실 영어도 만만치 않다리움
분명히 나는 코딩을 하고 있는데, 이 미친모델은 모든 설명을 현학적이고 두리뭉실하고 뺀질뺀질하니 그냥 개빡치게 말하는 습관이 있음 (load-bearing, honest caveat, rough edge 등 알수없는 문학적 표현들)
저는 첨엔 "내가 이렇게 영어를 못했나?" 싶었는데 레딧 원어민 형님들도 슬슬 개빡친거보니까 좀 안도미키가 되네요
Opus 5.0이 정점인거 같고, 이제 English가 아니라 Claudish라는 읽기 존나 피곤한 걍 레전드쓰레기 언어가 창조됐다는 성토가 슬슬 올라오고 있음
아니 분명 나는 레딧/트위터/X 영어는 잘 읽었단 말이야...
프롬프트로 정신개조 여러 시도해봤는데 고집은 또 레전드로 세서 고쳐지지도 않음
그냥 매 턴마다 계속 새로운 비유적인 언어를 창조함
https://www.reddit.com/r/ClaudeAI/comments/1vvi3x1/i_built_an_english_claudish_translator/
opus 4.7 이후로 한국어 구사능력이 급격히 떨어졌는데, 사실 영어도 만만치 않다리움
분명히 나는 코딩을 하고 있는데, 이 미친모델은 모든 설명을 현학적이고 두리뭉실하고 뺀질뺀질하니 그냥 개빡치게 말하는 습관이 있음 (load-bearing, honest caveat, rough edge 등 알수없는 문학적 표현들)
저는 첨엔 "내가 이렇게 영어를 못했나?" 싶었는데 레딧 원어민 형님들도 슬슬 개빡친거보니까 좀 안도미키가 되네요
Opus 5.0이 정점인거 같고, 이제 English가 아니라 Claudish라는 읽기 존나 피곤한 걍 레전드쓰레기 언어가 창조됐다는 성토가 슬슬 올라오고 있음
아니 분명 나는 레딧/트위터/X 영어는 잘 읽었단 말이야...
프롬프트로 정신개조 여러 시도해봤는데 고집은 또 레전드로 세서 고쳐지지도 않음
그냥 매 턴마다 계속 새로운 비유적인 언어를 창조함
https://www.reddit.com/r/ClaudeAI/comments/1vvi3x1/i_built_an_english_claudish_translator/
❤2
해커뉴스 형님들은 클로드 오래쓰면 문체때문에 진지하게 정신병올거 같다네요
아래는 한글요약
——
Opus 5의 형편없는 문체를 계속 읽으면 실제로 정신적인 해를 입을 수 있다고 의심함.
• Anthropic 지출을 Codex와 오픈 가중치 모델로 모두 옮기는 방안을 진지하게 검토 중이며, 이제는 정신 건강을 위한 결정임
• 정신증 초기 징후처럼 느껴지는 증상 때문에 결국 Opus 4.6으로 돌아갔음
• 모델이 정신 건강에 이런 영향을 준다는 말이 우스워 보이지만, 하루 8시간씩 그 문체를 읽지 않게 된 뒤 삶의 질과 업무 만족도가 크게 좋아짐
• 1년 동안 업체를 계속 비교하며 옮기기 귀찮아 Claude를 써왔고, 이전에는 불평이 늘어도 사용자 경험에 큰 문제는 없었음
• 하지만 요즘 Opus와 Fable의 출력은 코드 품질과 별개로 정보를 읽기가 너무 괴로움. 직장에서는 기업용 Claude를 써서 다른 업체 접근 권한을 얻는 데 얼마나 수고가 들지 모르지만 알아봐야 할 듯함
• 같은 이유로 정신 건강에 악영향을 받고 있어 동일한 전환을 고려 중임
——
https://news.ycombinator.com/item?id=49375996
아래는 한글요약
——
Opus 5의 형편없는 문체를 계속 읽으면 실제로 정신적인 해를 입을 수 있다고 의심함.
• Anthropic 지출을 Codex와 오픈 가중치 모델로 모두 옮기는 방안을 진지하게 검토 중이며, 이제는 정신 건강을 위한 결정임
• 정신증 초기 징후처럼 느껴지는 증상 때문에 결국 Opus 4.6으로 돌아갔음
• 모델이 정신 건강에 이런 영향을 준다는 말이 우스워 보이지만, 하루 8시간씩 그 문체를 읽지 않게 된 뒤 삶의 질과 업무 만족도가 크게 좋아짐
• 1년 동안 업체를 계속 비교하며 옮기기 귀찮아 Claude를 써왔고, 이전에는 불평이 늘어도 사용자 경험에 큰 문제는 없었음
• 하지만 요즘 Opus와 Fable의 출력은 코드 품질과 별개로 정보를 읽기가 너무 괴로움. 직장에서는 기업용 Claude를 써서 다른 업체 접근 권한을 얻는 데 얼마나 수고가 들지 모르지만 알아봐야 할 듯함
• 같은 이유로 정신 건강에 악영향을 받고 있어 동일한 전환을 고려 중임
——
https://news.ycombinator.com/item?id=49375996
제가 매우 신뢰하는 에이전틱 코딩 고수들이 의외로 일부러 존대말로 쓰는 경우가 많다는 데이터를 관측했습니다.
각자 이유는 모르겠지만, 그냥 그게 손에 익어서? 반말로 하면 장난스러운 편향이 생길수도 있어서? 정중해야 더 말을 잘들어서(?) ... 뭐 잘 모르겠네요
근데 고수들이 하는데는 이유가 있는거 같아서 걍 무지성 따라할까 싶네요
각자 이유는 모르겠지만, 그냥 그게 손에 익어서? 반말로 하면 장난스러운 편향이 생길수도 있어서? 정중해야 더 말을 잘들어서(?) ... 뭐 잘 모르겠네요
근데 고수들이 하는데는 이유가 있는거 같아서 걍 무지성 따라할까 싶네요
❤2
그거 아시나요
llm 경쟁에서 미국 중국 투탑 밑에서 그나마 뭐라도 되는 유일한 나라가 킹짱민국이다리움
오픈웨이트 한정으로 보면 미국도 재낌 ㄷㄷㄷ
정부가 gpu 어케든 몇조원치 대량으로 구해와서 독파모라는 이름으로 전국대전 열다보니 첨듣는 스타트업이 opus 4.6 정도 지능 만들어내기도 함🎰
다시는 한국을 무시하지마라
싸이 기생충 오징어게임 모티프의 나라다
llm 경쟁에서 미국 중국 투탑 밑에서 그나마 뭐라도 되는 유일한 나라가 킹짱민국이다리움
오픈웨이트 한정으로 보면 미국도 재낌 ㄷㄷㄷ
정부가 gpu 어케든 몇조원치 대량으로 구해와서 독파모라는 이름으로 전국대전 열다보니 첨듣는 스타트업이 opus 4.6 정도 지능 만들어내기도 함
다시는 한국을 무시하지마라
싸이 기생충 오징어게임 모티프의 나라다
Please open Telegram to view this post
VIEW IN TELEGRAM
모델 전국시대 행동요령
1. 하니스니 뭐 그런거 다 허상이다
2. 대신 개인화 벤치마크 해자를 구축해라
3. 내 업무스타일, 인지체계, 손맛에 맞는 애들로 빨리 갈아타기를 잘하려면 미리 만들어놓은 문제주고 자동으로 채점이 가능해야함
4. 어차피 모델에는 “사용자는 어떤사람일까?” 에 대한 편향을 골라서 박아야하고, 그게 모든 사람을 만족시킬순 없기때문에 아무리 기술이 발전해도 궁극의 모델 같은건 불가능함
5. 그래서 여러 모델이 각자 포지션이 생길거같고 그걸 잘 갈아타고 예측가능하게 익히는게 중요한듯?
같은일을 같은프롬프트로 시켜도 오퍼스랑 쏠이랑 너무 결과가 다름
내가 그걸 잘 예측하는건 지속불가능; 모델 나올때마다 몇달씩 써봐야하니까
그니까 어차피 다들 지능은 비슷하고, 걍 기업들 컬쳐핏 빡세게 보듯이 나만의 예시문제들 주고 누가 제일 내 기대대로 잘하는지 빠르게 채점해서 골라타는게 중요한듯
결론 - 미래 모델이 똑똑해지는건 확정이지만 “사용자 모델링”은 정답이 없는 문제라서 계속 분화될것
나한테 딱맞는 모델을 찾는건 여전히 내가 풀어야하는 문제
1. 하니스니 뭐 그런거 다 허상이다
2. 대신 개인화 벤치마크 해자를 구축해라
3. 내 업무스타일, 인지체계, 손맛에 맞는 애들로 빨리 갈아타기를 잘하려면 미리 만들어놓은 문제주고 자동으로 채점이 가능해야함
4. 어차피 모델에는 “사용자는 어떤사람일까?” 에 대한 편향을 골라서 박아야하고, 그게 모든 사람을 만족시킬순 없기때문에 아무리 기술이 발전해도 궁극의 모델 같은건 불가능함
5. 그래서 여러 모델이 각자 포지션이 생길거같고 그걸 잘 갈아타고 예측가능하게 익히는게 중요한듯?
같은일을 같은프롬프트로 시켜도 오퍼스랑 쏠이랑 너무 결과가 다름
내가 그걸 잘 예측하는건 지속불가능; 모델 나올때마다 몇달씩 써봐야하니까
그니까 어차피 다들 지능은 비슷하고, 걍 기업들 컬쳐핏 빡세게 보듯이 나만의 예시문제들 주고 누가 제일 내 기대대로 잘하는지 빠르게 채점해서 골라타는게 중요한듯
결론 - 미래 모델이 똑똑해지는건 확정이지만 “사용자 모델링”은 정답이 없는 문제라서 계속 분화될것
나한테 딱맞는 모델을 찾는건 여전히 내가 풀어야하는 문제
👆이거 걍 프롬프트로 되지않나요?
=> 도움이야 되겠지만 사후학습 편향에 비하면 말을 좀 안쳐듣고, 애초에 그 프롬프트 자체도 모델나올때마다 계속 귀납적으로 찾아야해서 한계가 있는듯
=> 도움이야 되겠지만 사후학습 편향에 비하면 말을 좀 안쳐듣고, 애초에 그 프롬프트 자체도 모델나올때마다 계속 귀납적으로 찾아야해서 한계가 있는듯
ragebait의 시대
릴스같은거 보면 음식만들다가 일부러 머리카락 빠트리거나, 인터뷰하면서 라떼 마시는데 일부러 안젓거나 그런 사소한 디테일 많이 봤을겁니다
정보의 홍수라서 이제 ragebait을 하지않으면 노출되기도 힘들어서 어그로끄는 방식자체가 고차원적이고 복잡하고 지능적으로 진화하는게 느껴짐 사회전반적으로
이 사진만 봐도 걍 어이가없는 ragebait입니다 1995년 감성이라면서 ai로 찍어서 글자가 깨져있고 근데 와이파이는 또 있음
심지어 저게 실제로있는 식당인지도 모르겠음 걍 무언가를 바이럴하려는 ragebait인거같음 아니면 저 트윗 스샷자체도 ai로 만든걸까요?
걍 레전드 세상이야
릴스같은거 보면 음식만들다가 일부러 머리카락 빠트리거나, 인터뷰하면서 라떼 마시는데 일부러 안젓거나 그런 사소한 디테일 많이 봤을겁니다
정보의 홍수라서 이제 ragebait을 하지않으면 노출되기도 힘들어서 어그로끄는 방식자체가 고차원적이고 복잡하고 지능적으로 진화하는게 느껴짐 사회전반적으로
이 사진만 봐도 걍 어이가없는 ragebait입니다 1995년 감성이라면서 ai로 찍어서 글자가 깨져있고 근데 와이파이는 또 있음
심지어 저게 실제로있는 식당인지도 모르겠음 걍 무언가를 바이럴하려는 ragebait인거같음 아니면 저 트윗 스샷자체도 ai로 만든걸까요?
걍 레전드 세상이야
❤3
최근에 본 사이트 중 제일 충격받은 곳
커스텀gpt 마켓플레이스
“뉴스작성”, “전세계최고부자들의 코치”, “마케팅 파트너” 이런 프롬프트 몇만원씩 받고 파는 곳
사이트 디자인도 매우 아방가르드
수익모델은... 나한테 500만원을 내면 커스텀gpt를 만들어주고, 그걸 파는 사이트를 또 만들어줄테니 수익을 배분하자 (?)
에이전트 안쓰는 95퍼센트의 ai사용자는 이런세상에 갇혀있는걸까요
https://gptskorea.com/
커스텀gpt 마켓플레이스
“뉴스작성”, “전세계최고부자들의 코치”, “마케팅 파트너” 이런 프롬프트 몇만원씩 받고 파는 곳
사이트 디자인도 매우 아방가르드
수익모델은... 나한테 500만원을 내면 커스텀gpt를 만들어주고, 그걸 파는 사이트를 또 만들어줄테니 수익을 배분하자 (?)
에이전트 안쓰는 95퍼센트의 ai사용자는 이런세상에 갇혀있는걸까요
https://gptskorea.com/