[AI 논문 톺아보기] Tracing the thoughts of a large language model (1편)

BQ 개발자입니다!

오랜만에 LLM 쪽 공부를 좀 하고 싶었는데 재밌는 논문이 발표돼서 스터디 한번 진행해보려고 합니다. 앤트로픽에서 최근 발표한 "Tracing the thoughts of a large language model" 논문인데요, 대규모 언어 모델의 내부 작동 방식을 들여다본 연구라 너무 흥미로워서 가져왔습니다!

📚 LLM의 언어 간 공통 사고 공간

LLM은 수십억 개의 매개변수를 가진 복잡한 시스템인데, 이 모델들이 어떻게 '생각'하는지는 개발자들에게도 미스터리였습니다. 이 논문에서 연구팀은 신경과학에서 영감을 받아 일종의 'AI 현미경'을 개발했다고 해요

연구팀이 던진 핵심 질문 중 하나는 이거였습니다:

"클로드는 수십 개 언어를 구사할 수 있는데, 그 '머릿속'에서는 어떤 언어를 사용하고 있을까?"

🌐 놀라운 발견: 언어 간 공통 사고 공간

연구팀은 "small의 반대는?"이라는 질문을 여러 언어로 물어보는 실험을 했습니다. 그 결과가 정말 좀 흥미롭습니다.

언어가 달라도 '작음'과 '반대'라는 개념을 처리하는 내부 특징이 동일하게 활성화되었습니다. 이 특징들은 '큼'이라는 개념을 촉발시킨 다음, 질문 언어에 맞게 번역되어 출력되는 과정을 보였어요.

즉, 영어, 프랑스어, 중국어 등 서로 다른 언어로 된 입력을 받더라도, 모델은 어떤 공통된 개념적 공간에서 처리한 후 해당 언어로 '번역'하는 것 같습니다! 너무 신기하지 않나요?ㄷㄷㄷ

더 흥미로운 점은 모델 규모가 커질수록 이런 언어 간 공유 회로가 증가한다는 것입니다. Claude 3.5 Haiku는 더 작은 모델에 비해 언어 간 특징 공유 비율이 두 배 이상 높았다고 하네요.


🧠 언어학적 시사점

저는 언어학에는 완전 무뇌한이지만 이런 발견은 인간의 언어 처리에 대한 오랜 논쟁과 맞닿아 있다고 하내요. 인간도 언어와 무관한 '생각의 언어'를 사용하는지에 대해 언어학자들은 오랫동안 논쟁해왔다고 하더라구요

LLM에서 발견된 이런 패턴이 인간의 언어 처리와 얼마나 유사한지는 아직 명확하지 않지만, 정말 흥미로운 접점이 될 것만 같습니다!


🔬 연구 방법: AI 현미경

논문에서는 '회로 추적(circuit tracing)'이라는 방법을 사용했다고 하네요. 이는 모델 내부의 특징들을 식별하고, 이들이 어떻게 서로 연결되는지 추적하는 기술입니다.

연구팀은 또한 신경과학에서 영감을 받은 실험도 수행했는데요, 모델의 내부 상태에서 특정 개념을 제거하거나 다른 개념을 주입하는 실험을 통해 모델의 작동 방식을 더 깊이 이해할 수 있었습니다.


❓ 남은 질문들

물론 아직 많은 질문이 남아있는 것 같습니다:
- 이 공통 사고 공간은 모든 개념에 적용될까?
- 문화적으로 특수한 개념은 어떻게 처리될까?
- 인간의 언어 처리도 이와 유사할까?

위 내용이 재밌으셨나요? 다음 편에서는 위 분석을 가능케한 AI 현미경이 어떻게 동작하는지에 대해서 한번 알아보겠습니다!

---

여러분의 좋아요와 공유는 사랑입니다 🥰

#LLM #논문톺아보기 #인공지능 #클로드 #BQ개발자

🔓 AI모델 오픈소스화의 진짜 의미: 통제권을 포기하는 이유

안녕하세요, BQ개발자입니다.

요즘 메타부터 여러 기업들이 AI 모델을 오픈소스로 공개한다는 소식이 들리는데요.
수천억 들인 기술을 그냥 공개한다고? 이게 대체 어떤 의미인지,
왜 이런 결정을 하는지 한번 다뤄보려고 합니다

기업의 속내와 오픈소스 AI의 실체에 대해 한번 파헤쳐 보겠습니다.

❓우선 오픈소스화에 내가 주목하는 이유

사실 이 움직임을 보면서 드는 생각이, 결국 안드로이드나 iOS처럼 생태계를 장악한 플랫폼이 미래의 주도권을 쥐게된다고 생각합니다.
AI는 지금 모든 산업의 핫 키워드인데, 메타 같은 대형 기업들은 아직 뚜렷한 성과를 보여주진 못했어요.
근데 판도가 하루아침에 바뀌는 AI 시장에서는 그냥 성능이랑 접근성만 제대로 나오면 게임 체인저가 될 수 있겠다는 생각이 들고, 일단 메타는 다른 기업들과는 다른 행보를 보이고 있기 때문에 먹거리가 보일 것 같아 알아보고 있습니다.


1️⃣오픈소스화 - 블랙박스의 문을 활짝 여는 행위

AI 모델을 오픈소스화한다는 건 생각보다 훨씬 과감한 결정입니다.
단순히 코드 몇 줄 공개하는 게 아니라 AI의 "뇌" 자체를 통째로 내주는 거니까요.

우리가 매일 쓰는 ChatGPT는 질문하면 답만 해주는 블랙박스죠.
근데 오픈소스 AI는 내부 구조부터 학습 방법까지 다 들여다볼 수 있어요.
테슬라가 자동차 설계도와 엔진까지 "자, 가져가서 마음대로 써!" 하고 주는 것과 비슷한 느낌?.

게다가 이걸 내 서버에 설치해서 마음대로 수정할 수도 있고, 특정 목적에 맞게 재훈련시킬 수도 있죠.
완전한 통제권을 가질 수 있는 거예요. 이게 API로만 접근 가능한 폐쇄형 모델과의 가장 큰 차이점이에요.


2️⃣역설적 전략 - "공개"가 "독점"보다 강력할 수 있는 이유

저는 오픈소스화 전략에 대한 체감이 완전히 되진 않습니다
하지만 메타가 바보도 아니고, 여기엔 몇 가지 깊은 계산이 숨어 있다고 생각합니다.

리눅스가 서버 시장을 어떻게 장악했는지 생각해보면 무료로 공개했지만 지금은 기업 서버의 표준이 됐죠.
구글도 안드로이드를 오픈소스로 공개해 모바일 OS 시장의 70% 이상을 차지하게 됐고요.

사실 이런 기업들에게 AI 모델 자체는 돈벌이의 핵심이 아닐 수도 있다고 생각합니다.
메타는 광고로, 구글은 검색과 광고로 수익을 내듯이,. AI는 그 비즈니스를 더 강화하는 도구일 뿐일 수 있죠

그리고 솔직히... 공개된 모델이 항상 내부에서 쓰는 최첨단 버전은 아닐 거라고 생각합니다
가장 중요한 비결은 여전히 비공개로 남겨둘 가능성이 높아요.
"여기 좋은 차 드릴게요. 근데 터보 엔진은 빼고요" 같은 느낌으로..?


✏️ 개인적 생각: 결국 기술은 흘러넘치게 되어있다

AI 경쟁력의 진짜 핵심은 모델 구조보다는 데이터와 컴퓨팅 파워라고 봅니다.
모델 구조는 어차피 논문으로 공개되고 비슷하게 구현할 수 있으니까요.
그런 상황에서 오픈소스화는 어쩌면 필연적인 흐름인 것 같아요.

---

오픈소스화가 궁금하셨다면, 다음 글은 메타가 AI 오픈소스화로 어떻게 수익을 내려하는지에 대한 구체적인 전략에 대해 다뤄보려고합니다.
리액션 부탁드려요!! 힘내서 열심히 조사해서 가져오겠습니다!


여러분의 좋아요와 공유는 사랑입니다 🥰


#BQ개발자 #AI #오픈소스 #인공지능