Continuous Learning_Startup & Investment
2.21K subscribers
537 photos
5 videos
16 files
2.78K links
We journey together through the captivating realms of entrepreneurship, investment, life, and technology. This is my chronicle of exploration, where I capture and share the lessons that shape our world. Join us and let's never stop learning!
Download Telegram
Continuous Learning_Startup & Investment
์ตœ๊ทผ์— ๋ดค๋˜ ์˜์ƒ ์ค‘์—์„œ Frontier Labs๊ฐ€ ๊ฐ€์ง„ ๋น„์ฆˆ๋‹ˆ์Šค ๋ชจ๋ธ, ์•ž์œผ๋กœ ๋ฏธ์น  ํŒŒ๊ธ‰๋ ฅ์— ๋Œ€ํ•ด์„œ ์ปดํ“จํŠธ(์นฉ, ๋ฐ์ดํ„ฐ์„ผํ„ฐ), ๋ชจ๋ธ, ๊ณ ๊ฐ ๋“ฑ ์ „๋ฐ˜์ ์œผ๋กœ ์ž˜ ๋‹ค๋ฃฌ ๋Œ€ํ™”. https://www.youtube.com/watch?v=aV26V1UvkJw&t=927s ๋‚ด์šฉ์ด ์ข€ ๊ธธ์–ด์„œ ๋ณด๊ธฐ ์‰ฝ๊ฒŒ ์‹œ๊ฐํ™”ํ•ด๋ณธ ๋‚ด์šฉ๋“ค
Dwarkesh/Dylan์ด AGI ์— ๋„ˆ๋ฌด ์น˜์šฐ์นœ ๋‚™๊ด€์ฃผ์˜์ž๋ผ๋ฉด ์ด๋Ÿฐ ์‚ฌ๋žŒ๋“ค์˜ ๋ง๋„ ๋“ค์–ด๋ด„์งํ•จ. https://x.com/phl43/status/2092973404924104808

AI๊ฐ€ ์—„์ฒญ๋‚œ ๊ธฐ์ˆ ์ด๋ผ๋Š” ๊ฒƒ๊ณผ, OpenAIยทAnthropic์ด 2~3๋…„ ์•ˆ์— ์ˆ˜์กฐ ๋‹ฌ๋Ÿฌ ๋งค์ถœ์„ ์˜ฌ๋ฆฐ๋‹ค๋Š” ๊ฒƒ์€ ๋‹ค๋ฅด๋‹ค.

1. ์ž๋™ํ™” ๊ฐ€๋Šฅํ•œ ์—…๋ฌด โ‰  ๋Œ€์ฒด ๊ฐ€๋Šฅํ•œ ์ผ์ž๋ฆฌ. ์—…๋ฌด ๋Œ€๋ถ€๋ถ„์„ ์ž๋™ํ™”ํ•ด๋„ ์ผ๋ถ€ ํ•„์ˆ˜ ์—…๋ฌด๊ฐ€ ์ธ๊ฐ„์—๊ฒŒ ๋‚จ์œผ๋ฉด, ๊ทธ ๋ถ€๋ถ„์ด ์ „์ฒด ์ƒ์‚ฐ๋Ÿ‰์„ ์ œํ•œํ•  ์ˆ˜ ์žˆ๋‹ค.
2. ๊ธฐ์ˆ ์  ๊ฐ€๋Šฅ์„ฑ โ‰  ๋น ๋ฅธ ๋„์ž…. ๊ธฐ์—…์˜ ์—…๋ฌด ์žฌ์„ค๊ณ„, ์ฑ…์ž„ ๋ฐฐ๋ถ„, ๊ณ ๊ฐ์˜ ํ–‰๋™ ๋ณ€ํ™”์—๋Š” ์‹œ๊ฐ„์ด ๊ฑธ๋ฆฐ๋‹ค๋Š” ๊ฒƒ.
3. ํ˜„์žฌ์˜ ์ธ๊ฑด๋น„ โ‰  ๋ฏธ๋ž˜ AI ๊ธฐ์—… ๋งค์ถœ. ๊ฒฝ์Ÿ์œผ๋กœ AI ๊ฐ€๊ฒฉ์ด ๋‚ด๋ ค๊ฐ€๋ฉด ์ ˆ์•ฝ๋œ ๋ˆ์€ ๊ณ ๊ฐ์ด๋‚˜ ๋„์ž… ๊ธฐ์—…์—๊ฒŒ ๋Œ์•„๊ฐˆ ์ˆ˜ ์žˆ์–ด. ์‚ฌ์šฉ๋Ÿ‰ ์ฆ๊ฐ€๊ฐ€ ๊ฐ€๊ฒฉ ํ•˜๋ฝ์„ ์ถฉ๋ถ„ํžˆ ์ƒ์‡„ํ• ์ง€๋„ ๋ณ„๊ฐœ๊ณ .
4. ์ƒ์‚ฐ ๋Šฅ๋ ฅ โ‰  ์ตœ์ข… ๊ตฌ๋งค ์ˆ˜์š”. ์„œ๋น„์Šค๊ฐ€ ์‹ธ์กŒ๋‹ค๊ณ  ๋ฌดํ•œํžˆ ์†Œ๋น„ํ•˜์ง€๋Š” ์•Š์•„. ๋Œ€๊ทœ๋ชจ ์‹ค์ง์œผ๋กœ ์†Œ๋“ ๋ถ„๋ฐฐ๊นŒ์ง€ ๋ฐ”๋€Œ๋ฉด, ๋ˆ„๊ฐ€ ์ตœ์ข… ์ƒํ’ˆ์„ ๊ตฌ๋งคํ• ์ง€๋„ ์„ค๋ช…ํ•ด์•ผ ํ•ด.
5. AI ์‚ฐ์—…์˜ ์„ฑ์žฅ โ‰  ๋ชจ๋ธ ํšŒ์‚ฌ์˜ ๋†’์€ ์ด์ต. ์ •๋ง ํฌ์†Œํ•œ ๊ฒƒ์ด ๋ฐ˜๋„์ฒดยท์ „๋ ฅ์ด๋ผ๋ฉด, ๊ทธ ๊ณต๊ธ‰์ž๊ฐ€ ์ด์ต์„ ๋งŽ์ด ๊ฐ€์ ธ๊ฐˆ ์ˆ˜๋„ ์žˆ์–ด.
https://x.com/phl43/status/2092973404924104808

Dwarkesh๊ฐ€ ๋‹ค์‹œ ๋‚จ๊ธด ์ฝ”๋ฉ˜ํŠธ๋Š”
1. ์ˆ˜์š”๋Š” ๊ฐœ๋ฐœ์ž๋งŒ์œผ๋กœ๋„ ํฌ๊ณ , ๊ณง ๋‹ค๋ฅธ ์ง์ข…์œผ๋กœ ํ™•์žฅ๋œ๋‹ค
๊ฐœ๋ฐœ์ž๋“ค์ด ๋ฉ”ํƒ€ยท์• ํ”Œ ์ˆ˜์ค€์œผ๋กœ AI๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ๋ง‰๋Œ€ํ•œ ์—ฐ์‚ฐ๋Ÿ‰์ด ํ•„์š”ํ•˜๊ณ , ์•ž์œผ๋กœ๋Š” ์ฝ”๋”ฉ์„ ๋„˜์–ด ์›๊ฒฉ ๊ทผ๋กœ์ž ์ „๋ฐ˜์„ ๋Œ€์ฒดํ•˜๋‹ˆ ์‹œ์žฅ์ด ํ›จ์”ฌ ์ปค์ง„๋‹ค.

2. AI๋Š” ์‚ฌ๋žŒ๋ณด๋‹ค ์ฑ„์šฉํ•˜๊ณ  ๊ต์œกํ•˜๊ธฐ ์‰ฝ๋‹ค
ํšŒ์‚ฌ ์ž๋ฃŒ๋ฅผ ๋น ๋ฅด๊ฒŒ ํ•™์Šตํ•˜๊ณ , ์ด๋ฏธ ๊ฒ€์ฆ๋œ ๋ชจ๋ธ์„ ๋ณต์ œํ•˜๋ฉด ๋˜๋‹ˆ ์ธ๊ฐ„ ์ฑ„์šฉ๋ณด๋‹ค ํ™•์‚ฐ์ด ๋น ๋ฅด๋‹ค.

3. ์—ฐ์‚ฐ์ด ๋ถ€์กฑํ•˜๋ฉด ํšจ์œจ ์ข‹์€ ๋ชจ๋ธ์ด ๋ˆ์„ ๋ฒˆ๋‹ค
ํ›„๋ฐœ์ฃผ์ž๊ฐ€ ์ฆ๋ฅ˜๋กœ ๋”ฐ๋ผ์žก๋Š” ์†๋„์™€ ์„ ๋‘ AI์˜ ์žฌ๊ท€์  ์ž๊ธฐ๊ฐœ์„  ์†๋„๊ฐ€ ์ค‘์š”ํ•˜๋‹ค. ์ง€์†์ ์ธ ๋…์ ์  ์šฐ์œ„๋ฅผ ํ™•์‹ ํ•˜๋Š” ๊ฑด ์•„๋‹ˆ์ง€๋งŒ, ์—ฐ์‚ฐ์ด ๋ถ€์กฑํ•œ ์ƒํ™ฉ์—์„œ ๋” ์ข‹์€ ํ•™์Šต๋ฒ•ยท์ถ”๋ก  ํšจ์œจ์„ ๊ฐ€์ง„ ํšŒ์‚ฌ๋Š” ๋†’์€ ๋งˆ์ง„์„ ์–ป์„ ์ˆ˜ ์žˆ๋‹ค.
โค1
Continuous Learning_Startup & Investment
7. `$11T`์˜ AI ํˆฌ์ž๋Š” ๋ˆ„๊ฐ€ ๊ฐ๋‹นํ•˜๋Š”๊ฐ€ ์ด ์žฅ์˜ ์ˆซ์ž๋Š” ๊ธฐ๊ฐ„๊ณผ ํฌํ•จ ๋ฒ”์œ„๋ฅผ ๋งž์ถฐ ์ฝ์–ด์•ผ ํ•œ๋‹ค. SemiAnalysis์˜ ๊ณ„์‚ฐ์ฒ˜๋Ÿผ 1GW๋‹น ํ•ต์‹ฌ IT ์žฅ๋น„๋น„๋ฅผ `$40Bโ€“$50B`๋กœ ๋†“์œผ๋ฉด, ์—ฐ๊ฐ„ 100GW ์ฆ์„ค์—๋Š” ์„œ๋ฒ„ยท๋„คํŠธ์›Œํฌยท๊ด‘ํ†ต์‹  ๊ฐ™์€ ํ•ต์‹ฌ IT ์žฅ๋น„๋งŒ ์•ฝ `$4Tโ€“$5T`๊ฐ€ ํ•„์š”ํ•˜๋‹ค. ๋Œ€๋‹ด์—์„œ ๋งํ•˜๋Š” ์•ฝ `$5T`๋Š” ์ด ๋ฒ”์œ„์˜ ์ƒ๋‹จ์„ ๋‘ฅ๊ธ€๊ฒŒ ํ‘œํ˜„ํ•œ ๊ฐ’์ด๋‹ค. ํ”ํžˆ ์–ธ๊ธ‰๋˜๋Š” `$40Bโ€“$50B`๋ฅผ ์‹œ์žฅ ์ „์ฒด์˜ ์—ฐ๊ฐ„ AI ํˆฌ์ž์•ก์œผ๋กœ ์ฝ์œผ๋ฉด ์•ˆโ€ฆ
๋น„์Šทํ•œ ๋ทฐ https://x.com/wintonark/status/2093407411663151595?s=46&t=h5Byg6Wosg8MJb4pbPSDow

AI๋กœ ์ž๋ณธ์ด ๋ชฐ๋ฆฌ๋Š” ํ˜„์ƒ์ด ๋ฒค์ฒ˜ยท์ฃผ์‹์‹œ์žฅ์„ ๋„˜์–ด ์ด์ œ ๋ถ€์ฑ„์‹œ์žฅ์œผ๋กœ ํ™•์‚ฐ๋˜๊ณ  ์žˆ๋‹ค.

์ปดํ“จํŠธ๊ฐ€ ๋ถ€์กฑํ•œ ๋™์•ˆ ๋ฐ์ดํ„ฐ์„ผํ„ฐ๋Š” ๋†’์€ ๊ธˆ๋ฆฌ์—๋„ ๊ฒฝ์ œ์„ฑ์ด ์žˆ๊ณ , NVIDIA GPU๋Š” ๋‹ด๋ณด๊ฐ€์น˜๊ฐ€ ๋†’์•„ ์žฌ๋ฌด๊ตฌ์กฐ๊ฐ€ ์•ฝํ•œ ์‚ฌ์—…์ž๋„ ์ž๊ธˆ์„ ์กฐ๋‹ฌํ•  ์ˆ˜ ์žˆ๋‹ค.

์ฒ˜์Œ์—๋Š” ์ด ์ž๊ธˆ ์ˆ˜์š”๊ฐ€ ํ•˜์ด์ผ๋“œ ์ฑ„๊ถŒ๊ณผ ๊ฒฝ์Ÿํ•˜๊ฒ ์ง€๋งŒ, AI ์ธํ”„๋ผ๊ฐ€ ์•ˆ์ •์ ์ธ ์ž์‚ฐ์œผ๋กœ ์ธ์ •๋ฐ›์œผ๋ฉด ํˆฌ์ž๋“ฑ๊ธ‰ ๊ธฐ์—…์˜ ์ž๊ธˆ๊นŒ์ง€ ๋นจ์•„๋“ค์ผ ์ˆ˜ ์žˆ๋‹ค.

๋ฐ์ดํ„ฐ์„ผํ„ฐ ํˆฌ์ž ๊ทœ๋ชจ๊ฐ€ ์—ฐ๊ฐ„ ์ˆ˜์กฐ ๋‹ฌ๋Ÿฌ๋กœ ์ปค์ง€๋ฉด, ์ด๋Š” ๊ธ€๋กœ๋ฒŒ ํšŒ์‚ฌ์ฑ„ ์‹œ์žฅ์—์„œ๋„ ๋ฌด์‹œํ•  ์ˆ˜ ์—†๋Š” ์ˆ˜์ค€์ด๋‹ค.

์—ฌ๊ธฐ์— AI๊ฐ€ ๊ฒฝ์ œ์„ฑ์žฅ์„ ๋Œ์–ด์˜ฌ๋ ค ์žฅ๊ธฐ๊ธˆ๋ฆฌ๊นŒ์ง€ ์ƒ์Šนํ•˜๋ฉด, ์ €๋ ดํ•œ ์ฐจํ™˜์„ ์ „์ œ๋กœ ์šด์˜๋˜๋˜ ๊ธฐ์กด ๊ธฐ์—…๋“ค์€ ๊ธˆ๋ฆฌ์™€ ์‹ ์šฉ์Šคํ”„๋ ˆ๋“œ ์–‘์ชฝ์—์„œ ์••๋ฐ•๋ฐ›๋Š”๋‹ค.

๊ฒฐ๊ตญ AI๋Š” ๊ธฐ์กด ๊ธฐ์—…์˜ ๊ณ ๊ฐ์„ ๋นผ์•—์ง€ ์•Š๋”๋ผ๋„, ์ž๋ณธ์„ ๋นผ์•—๊ณ  ์กฐ๋‹ฌ๋น„์šฉ์„ ๋†’์ด๋Š” ๋ฐฉ์‹์œผ๋กœ ์‚ฌ์—…๋ชจ๋ธ์„ ํ”๋“ค ์ˆ˜ ์žˆ๋‹ค.

โ€œ์šฐ๋ฆฌ๋Š” AI disruption๊ณผ ๋ฌด๊ด€ํ•˜๋‹คโ€๊ณ  ๋งํ•˜๋Š” ๊ธฐ์—…์ผ์ˆ˜๋ก ์˜คํžˆ๋ ค ์ž๋ณธ๊ตฌ์กฐ์™€ ์ฐจํ™˜ ์œ„ํ—˜์„ ๋” ์ฃผ์˜ํ•ด์„œ ๋ด์•ผ ํ•œ๋‹ค.
1. ๊ณ ๊ฐ์€ ํ† ํฐ์ด ์•„๋‹ˆ๋ผ ๊ฒฐ๊ณผ๋ฅผ ์‚ฐ๋‹ค

โ€œAI๋ฅผ 100๋ฐฐ ๋น ๋ฅด๊ฒŒ ๋งŒ๋“œ๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋ผ, ๊ธฐ๋‹ค๋ฆด ํ•„์š”๊ฐ€ ์—†๋Š” ์ž‘์—…์„ ๊ณจ๋ผ ๊ธฐ์กด ์ธํ”„๋ผ์˜ ๋น„์‹ผ ์ „์ œ๋“ค์„ ์ œ๊ฑฐํ•˜๋ฉด ์ง€๋Šฅ์„ ํ›จ์”ฌ ์‹ธ๊ฒŒ ์ƒ์‚ฐํ•  ์ˆ˜ ์žˆ๋‹ค.โ€

Sail์€ ์ž์‹ ์„ ์˜คํ”ˆ๋ชจ๋ธ API์™€ ์žฅ๊ธฐ ์‹คํ–‰ ์—์ด์ „ํŠธ์šฉ VM์„ ์ œ๊ณตํ•˜๋Š” โ€˜ํ† ํฐ ๊ณต์žฅโ€™์œผ๋กœ ์ •์˜ํ•œ๋‹ค. ํ•˜์ง€๋งŒ ํ† ํฐ์€ ํ˜„์žฌ์˜ ์ธก์ •ยท๊ณผ๊ธˆ ๋‹จ์œ„์ผ ๋ฟ ์ตœ์ข… ์ƒํ’ˆ์€ ์•„๋‹ˆ๋‹ค.

๊ณ ๊ฐ์ด ์ •๋ง ์›ํ•˜๋Š” ๊ฒƒ์€ ๋‹ค์Œ๊ณผ ๊ฐ™๋‹ค.

- ๋‚ด๊ฐ€ ์›ํ•˜๋Š” ์ผ์„ ๋๋‚ผ ๊ฒƒ
- ๊ฒฐ๊ณผ๊ฐ€ ๊ฒ€์ฆ ๊ฐ€๋Šฅํ•  ๊ฒƒ
- ์ •ํ•ด์ง„ ํ’ˆ์งˆ์„ ๋งŒ์กฑํ•  ๊ฒƒ
- ๋งˆ๊ฐ์‹œ๊ฐ„์„ ์ง€ํ‚ฌ ๊ฒƒ
- ๋น„์šฉ ์ƒํ•œ์„ ๋„˜์ง€ ์•Š์„ ๊ฒƒ

๋”ฐ๋ผ์„œ ์šด์˜ ์‹œ์Šคํ…œ์ด ์ตœ์ ํ™”ํ•ด์•ผ ํ•  ๊ฐ’์€ ๋‹จ์ˆœํ•œ ์ตœ์ € ํ† ํฐ ๊ฐ€๊ฒฉ์ด ์•„๋‹ˆ๋‹ค.

๊ฒ€์ฆ๋œ ์„ฑ๊ณต 1๊ฑด์˜ ๊ธฐ๋Œ€๋น„์šฉ
= ๋ชจ๋ธยทGPUยท๋ฉ”๋ชจ๋ฆฌยท๋„๊ตฌยท์žฌ์‹œ๋„ยท๊ฒ€์ฆ ๋น„์šฉ
รท ์ž‘์—… ์„ฑ๊ณตํ™•๋ฅ 

์‹ผ ๋ชจ๋ธ์ด ๊ณ„์† ์‹คํŒจํ•œ๋‹ค๋ฉด ๋น„์‹ผ ๋ชจ๋ธ๋ณด๋‹ค ๊ฒฐ๊ณผ์ ์œผ๋กœ ๋” ๋น„์‹ธ๋‹ค. ์žฅ๊ธฐ์ ์œผ๋กœ๋Š” ๊ณ ๊ฐ์ด ํ† ํฐ ์ˆ˜๋ฅผ ์ง€์ •ํ•˜๊ธฐ๋ณด๋‹ค, ์—์ด์ „ํŠธ๊ฐ€ ์—ฌ๋Ÿฌ ๋ฒˆ ์‹œ๋„ํ•˜๊ณ  ๋„๊ตฌ๋ฅผ ์‚ฌ์šฉํ•ด ๊ฒฐ๊ณผ๋ฅผ ์™„์„ฑํ•˜๋ฉฐ ํ•„์š”ํ•œ ํ† ํฐ ์˜ˆ์‚ฐ์„ ์Šค์Šค๋กœ ๊ด€๋ฆฌํ•˜๊ฒŒ ๋œ๋‹ค.

2. ๊ฐ€์žฅ ์ค‘์š”ํ•œ ์ œํ’ˆ ๊ฐ€์„ค: ์‚ฌ๋žŒ์„ ๊ธฐ๋‹ค๋ฆฌ๊ฒŒ ํ•˜์ง€ ์•Š๋Š”๋‹ค

AI ์ž‘์—…์€ ํฌ๊ฒŒ ๋‘ ์‹œ์žฅ์œผ๋กœ ๊ฐˆ๋ผ์ง„๋‹ค.

1. ์‹ค์‹œ๊ฐ„ ์ž‘์—…
- ์ฑ„ํŒ…, ์Œ์„ฑ, IDE ์ž๋™์™„์„ฑ
- ์‚ฌ์šฉ์ž๊ฐ€ ํ™”๋ฉด ์•ž์—์„œ ๊ธฐ๋‹ค๋ฆผ
- ๊ฐœ๋ณ„ ์‘๋‹ต์˜ ์ง€์—ฐ์‹œ๊ฐ„์ด ์ค‘์š”
- ๊ณ ๊ฐ€ GPU์™€ NVLink ๊ฐ™์€ ๊ฐ•ํ•œ ์ธํ„ฐ์ปค๋„ฅํŠธ๊ฐ€ ์œ ๋ฆฌ

2. ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ž‘์—…
- ์‹ฌ์ธต ์—ฐ๊ตฌ, ๋ณด์•ˆ ๊ฒ€์‚ฌ, ์ฝ”๋“œ ์œ ์ง€๋ณด์ˆ˜
- ๋ชจ๋ธ eval, RL rollout, ๋Œ€๋Ÿ‰ ๋ฌธ์„œ ์ฒ˜๋ฆฌ
- ๋ช‡ ์‹œ๊ฐ„์—์„œ ๋ฉฐ์น  ๋™์•ˆ ์‹คํ–‰
- ์ˆœ๊ฐ„ ์†๋„๋ณด๋‹ค ์ด์ฒ˜๋ฆฌ๋Ÿ‰ยท์„ฑ๊ณต๋ฅ ยท๋น„์šฉ์ด ์ค‘์š”

Sail์˜ ํ•ต์‹ฌ ๊ฐ€์„ค์€ ์•ž์œผ๋กœ ํ† ํฐ ์ˆ˜์š”์˜ ๋Œ€๋ถ€๋ถ„์ด ๋‘ ๋ฒˆ์งธ ์‹œ์žฅ์—์„œ ๋ฐœ์ƒํ•œ๋‹ค๋Š” ๊ฒƒ์ด๋‹ค. Neil์€ ๋‹จ๊ธฐ์ ์œผ๋กœ ์‹ค์‹œ๊ฐ„๊ณผ ๋ฐฑ๊ทธ๋ผ์šด๋“œ๊ฐ€ ์•ฝ 50:50, ์žฅ๊ธฐ์ ์œผ๋กœ๋Š” ๋ฐฑ๊ทธ๋ผ์šด๋“œ๊ฐ€ 90%๊นŒ์ง€ ๊ฐˆ ์ˆ˜ ์žˆ๋‹ค๊ณ  ์ „๋งํ•œ๋‹ค.

์ด ๊ฐ€์„ค์ด ๋งž์œผ๋ฉด ์ „์ฒด ์ธํ”„๋ผ์˜ ์กฐ๊ฑด์ด ์—ฐ์‡„์ ์œผ๋กœ ๋ฐ”๋€๋‹ค.

๊ฒ€์ฆ ๊ฐ€๋Šฅํ•œ ์žฅ๊ธฐ ์ž‘์—…
โ†’ ์‚ฌ๋žŒ์ด ๊ฒฐ๊ณผ๋ฅผ ๊ธฐ๋‹ค๋ฆฌ์ง€ ์•Š์Œ
โ†’ ์ง€์—ฐ์‹œ๊ฐ„ ์ œ์•ฝ ์™„ํ™”
โ†’ ํฐ ๋ฐฐ์น˜๋กœ GPU ์ฒ˜๋ฆฌ๋Ÿ‰ ๊ทน๋Œ€ํ™”
โ†’ NVLink๊ฐ€ ์•ฝํ•œ ์นฉ๋„ ํ™œ์šฉ
โ†’ ์ž‘๊ณ  ๋ถ„์‚ฐ๋œ ๋ฐ์ดํ„ฐ์„ผํ„ฐ ํ™œ์šฉ
โ†’ ๋‚ฎ์€ ๊ฐ€๋™๋ฅ ๊ณผ ๊ฐ„ํ— ์ „๋ ฅ ์ˆ˜์šฉ
โ†’ ํ† ํฐ ๋น„์šฉ ํ•˜๋ฝ
โ†’ ๋” ๋งŽ์€ ์‹œ๋„์™€ ๋” ๊ธด ์ถ”๋ก 
โ†’ ์ž‘์—… ์„ฑ๊ณต๋ฅ  ํ–ฅ์ƒ

์ฆ‰, ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์—์ด์ „ํŠธ๋Š” ์‚ฌ์šฉ ์‚ฌ๋ก€ ํ•˜๋‚˜๊ฐ€ ์•„๋‹ˆ๋‹ค. ์นฉยท๋ฐ์ดํ„ฐ์„ผํ„ฐยท์ „๋ ฅ์˜ ๊ฒฝ์ œ์„ฑ์„ ๋ชจ๋‘ ๋ฐ”๊พธ๋Š” ์ถœ๋ฐœ์ ์ด๋‹ค.

3. GPU๋ณด๋‹ค ๋ฉ”๋ชจ๋ฆฌ์™€ ๋ฐ์ดํ„ฐ ์ด๋™์ด ์ค‘์š”ํ•ด์ง„๋‹ค

GPU๋Š” ๋งŽ์€ ์ž‘์—…์„ ํฐ ๋ฐฐ์น˜๋กœ ์ฒ˜๋ฆฌํ•  ๋•Œ ๊ฐ€์žฅ ํšจ์œจ์ ์ด๋‹ค. ์—ฌ๋Ÿฌ ์š”์ฒญ์„ ๋ฌถ์œผ๋ฉด ์ด์ฒ˜๋ฆฌ๋Ÿ‰์€ ๋†’์•„์ง€์ง€๋งŒ ๊ฐ ์‚ฌ์šฉ์ž๋Š” ๋” ๊ธฐ๋‹ค๋ฆฐ๋‹ค. Neil์€ ์ด๋ฅผ ์ž๊ฐ€์šฉ๊ณผ ๋ฒ„์Šค์— ๋น„์œ ํ•œ๋‹ค.

- ์ž๊ฐ€์šฉ: ํ•œ ์‚ฌ๋žŒ์—๊ฒŒ ๋น ๋ฅด์ง€๋งŒ ์‹œ์Šคํ…œ ํšจ์œจ์€ ๋‚ฎ์Œ
- ๋ฒ„์Šค: ์—ฌ๋Ÿฌ ์‚ฌ๋žŒ์„ ํ•จ๊ป˜ ์˜ฎ๊ฒจ ํšจ์œจ์ ์ด์ง€๋งŒ ๊ฐœ๋ณ„ ๋„์ฐฉ์€ ๋А๋ฆผ

์—ฌ๋Ÿฌ GPU๋ฅผ ์—ฐ๊ฒฐํ•ด๋„ ์„ฑ๋Šฅ์€ ์„ ํ˜•์œผ๋กœ ๋Š˜์ง€ ์•Š๋Š”๋‹ค. ์ธํ„ฐ๋ทฐ์˜ ์˜ˆ์—์„œ๋Š” GPU 8๊ฐœ๋ฅผ ์‚ฌ์šฉํ•ด๋„ ํ†ต์‹  ์˜ค๋ฒ„ํ—ค๋“œ ๋•Œ๋ฌธ์— ์†๋„๋Š” ์•ฝ 4~5๋ฐฐ๋งŒ ๊ฐœ์„ ๋  ์ˆ˜ ์žˆ๋‹ค. ์ตœ์ € ์ง€์—ฐ์—๋Š” NVLink๊ฐ€ ์ค‘์š”ํ•˜์ง€๋งŒ, ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ฒ˜๋ฆฌ๋Ÿ‰์ด ๋ชฉํ‘œ๋ผ๋ฉด expertยทpipeline parallelism์œผ๋กœ ํ†ต์‹ ์„ ์ˆจ๊ธธ ์ˆ˜ ์žˆ๋‹ค.

ํŠธ๋žœ์Šคํฌ๋จธ์—๋Š” ์„ฑ๊ฒฉ์ด ๋‹ค๋ฅธ ๋‘ ์ž‘์—…์ด ๋ถ™์–ด ์žˆ๋‹ค.

- MLPยท๊ฐ€์ค‘์น˜ ๊ณ„์‚ฐ: compute-bound
- AttentionยทKV cache: memory-bound

๋ชจ๋ธ ๊ฐ€์ค‘์น˜๊ฐ€ ๊ณ ์ •๋œ ์„ธ๊ณ„ ์ง€์‹์ด๋ผ๋ฉด KV cache๋Š” ํ˜„์žฌ ๋Œ€ํ™”์˜ ๋™์  ๊ธฐ์–ต์ด๋‹ค. ๋ฌธ๋งฅ๊ณผ ์‚ฌ์šฉ์ž ์ˆ˜๊ฐ€ ๋Š˜์ˆ˜๋ก ๊ณ„์† ์ปค์ง€๊ณ , ๊ธด ์„ธ์…˜์—์„œ๋Š” ๊ฐ€์ค‘์น˜๋ณด๋‹ค ํฐ ๋ฉ”๋ชจ๋ฆฌ๋ฅผ ์ฐจ์ง€ํ•  ์ˆ˜๋„ ์žˆ๋‹ค.

์ด ๋•Œ๋ฌธ์— ํ•˜๋‚˜์˜ ์™„๋ฒฝํ•œ ์นฉ๋ณด๋‹ค ์ด์ข… ์ปดํ“จํŒ…์ด ์ค‘์š”ํ•ด์ง„๋‹ค.

- ๋น ๋ฅด์ง€๋งŒ ์ž‘์€ SRAM โ†’ ๊ณ ์† ๊ฐ€์ค‘์น˜ยท๊ณ„์‚ฐ ์ฒ˜๋ฆฌ
- ํฌ์ง€๋งŒ ์ƒ๋Œ€์ ์œผ๋กœ ๋А๋ฆฐ HBMยทDRAM โ†’ ๊ธด ๋ฌธ๋งฅ๊ณผ KV cache
- ๋” ๋А๋ฆฌ๊ณ  ์‹ผ Flash โ†’ ์ง€์—ฐ์„ ๊ฐ์ˆ˜ํ•œ KV offload ํ›„๋ณด

Neil์€ ํ˜„์žฌ KV cache๊ฐ€ ์ •๋ณด๋Ÿ‰์— ๋น„ํ•ด ์ง€๋‚˜์น˜๊ฒŒ ์ปค์„œ ์•ฝ 10~100๋ฐฐ ์••์ถ• ์—ฌ์ง€๊ฐ€ ์žˆ์„ ์ˆ˜ ์žˆ๋‹ค๊ณ  ๋ณธ๋‹ค. ๋ฐ˜๋ฉด ํฐ ํ–‰๋ ฌ๊ณฑ์€ ์ด๋ฏธ ์ด๋ก  ์„ฑ๋Šฅ์˜ ์•ฝ 70~80%๊นŒ์ง€ ์‚ฌ์šฉํ•˜๋ฏ€๋กœ ์ปค๋„ ๊ฐœ์„ ๋งŒ์œผ๋กœ 1000๋ฐฐ ์ ˆ๊ฐ์€ ๋ถˆ๊ฐ€๋Šฅํ•˜๋‹ค.

4. ๊ณต๊ธ‰ ์ „๋žต: ์ตœ๊ณ ์˜ GPU๊ฐ€ ์•„๋‹ˆ๋ผ ๊ฐ€์žฅ ์ €ํ‰๊ฐ€๋œ ์ž์›์„ ์ฐพ๋Š”๋‹ค

Neil์˜ ์›์น™์€ โ€œ๋‚˜์œ ์นฉ์€ ์—†๊ณ  ๋‚˜์œ ๊ฐ€๊ฒฉ๋งŒ ์žˆ๋‹คโ€์ด๋‹ค.

- ์ €์ง€์—ฐ ์ถ”๋ก  โ†’ NVIDIAยทNVLink
- ๋Œ€๋Ÿ‰ ๋น„๋™๊ธฐ ์ž‘์—… โ†’ AMDยทTPUยทTrainiumยท์‹ ์ƒ ์นฉ
- ๊ณ„์‚ฐ ์ง‘์•ฝ ๋‹จ๊ณ„ โ†’ ์—ฐ์‚ฐ ์„ฑ๋Šฅ์ด ์ข‹์€ ์นฉ
- ๊ธด ๋ฌธ๋งฅ ๋‹จ๊ณ„ โ†’ ๋ฉ”๋ชจ๋ฆฌ ์šฉ๋Ÿ‰์ด ํฐ ์นฉ

์—ฌ๊ธฐ์„œ ์ด๊ธฐ์ข… ๋ผ์šฐํŒ…์€ ํ•˜๋‚˜์˜ ํ† ํฐ์„ ์—ฌ๋Ÿฌ ๊ตญ๊ฐ€์˜ ์นฉ์— ๋‚˜๋ˆ„๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋‹ค. ์š”์ฒญยท์ž‘์—…ยท๋…๋ฆฝ์ ์ธ ์ž‘์—… ๋‹จ๊ณ„๋ณ„๋กœ ์ ํ•ฉํ•œ ์นฉ๊ณผ ์‚ฌ์ดํŠธ๋ฅผ ๊ณ ๋ฅด๋Š” ๊ฒƒ์ด๋‹ค. ์ง„ํ–‰ ์ค‘์ธ KV cache๋Š” ๊ฐ™์€ ์‚ฌ์ดํŠธ์— ๋‘๊ณ , ์‚ฌ์ดํŠธ๊ฐ€ ์ฃฝ์œผ๋ฉด ์˜๋ฏธ์  ์ฒดํฌํฌ์ธํŠธ์—์„œ ๋‹ค์‹œ ์‹œ์ž‘ํ•˜๋Š” ํŽธ์ด ํ˜„์‹ค์ ์ด๋‹ค.

๋ฐ์ดํ„ฐ์„ผํ„ฐ์—์„œ๋„ ๊ฐ™์€ ๋…ผ๋ฆฌ๊ฐ€ ์ ์šฉ๋œ๋‹ค.

ํ›ˆ๋ จ์€ GPU๊ฐ€ ๋Š์ž„์—†์ด ํ†ต์‹ ํ•ด์•ผ ํ•˜๋ฏ€๋กœ ๊ฑฐ๋Œ€ํ•œ ์ง‘์ค‘ํ˜• ํด๋Ÿฌ์Šคํ„ฐ๊ฐ€ ํ•„์š”ํ•˜๋‹ค. ์ถ”๋ก ์€ ๋…๋ฆฝ ์š”์ฒญ์„ ์—ฌ๋Ÿฌ ๊ณณ์œผ๋กœ ๋‚˜๋ˆŒ ์ˆ˜ ์žˆ๋‹ค. ๋ฏธ๊ตญ์—์„œ๋Š” 1GWยท100MW ์‹œ์„ค๋ณด๋‹ค 1MW ์ „๋ ฅ์ด ํ›จ์”ฌ ๋งŽ์ด ํฉ์–ด์ ธ ์žˆ๊ณ , ์•ก์ฒด๋ƒ‰๊ฐ์„ ์“ฐ๋ฉด ์•ฝ 8๊ฐœ ๋ž™์œผ๋กœ 1MW๊ธ‰ ์ปดํ“จํŠธ๋ฅผ ๊ตฌ์„ฑํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์„ค๋ช…์ด๋‹ค.

Sail์€ ๋‹ค๋ฅธ ๊ณ ๊ฐ์ด ๊ธฐํ”ผํ•˜๋Š” ์ž์›์„ ๋ชจ์œผ๋ ค ํ•œ๋‹ค.

- ๋†€๊ณ  ์žˆ๋Š” ์‚ฌ์„ค GPU
- ์‹œ์žฅ์—์„œ ์ €ํ‰๊ฐ€๋œ ์นฉ
- 95% ๊ฐ€๋™๋ฅ ์˜ ์†Œํ˜• ๋ฐ์ดํ„ฐ์„ผํ„ฐ
- ๋ฐฑ์—… ๋ฐœ์ „๊ธฐยท์ค‘๋ณต ํšŒ์„ ์ด ์—†๋Š” ์‹œ์„ค
- ํƒœ์–‘๊ด‘ยทํ’๋ ฅ์ฒ˜๋Ÿผ ๊ฐ„ํ—์ ์ด์ง€๋งŒ ์‹ผ ์ „๋ ฅ

ํ•œ ์‚ฌ์ดํŠธ๊ฐ€ ๋ฉˆ์ถ”๋ฉด ๋‹ค๋ฅธ ์‚ฌ์ดํŠธ๋กœ ์ž‘์—…์„ ์˜ฎ๊ธด๋‹ค. ๋ช‡ ์‹œ๊ฐ„์งœ๋ฆฌ ์ž‘์—…์— 1~10๋ถ„์ด ์ถ”๊ฐ€๋˜๋Š” ๊ฒƒ์€ ์‹ค์‹œ๊ฐ„ ์„œ๋น„์Šค์—๋Š” ์น˜๋ช…์ ์ด์ง€๋งŒ, ์‚ฌ์šฉ์ž๊ฐ€ ์ž๊ณ  ์žˆ๋Š” ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ž‘์—…์—๋Š” ํ—ˆ์šฉ๋  ์ˆ˜ ์žˆ๋‹ค.

์ด๊ฒƒ์ด โ€˜scavenger strategyโ€™๋‹ค. OpenAIยทAnthropic๊ณผ ์ตœ๊ณ ๊ธ‰ Blackwell๊ณผ ์•ˆ์ •์ ์ธ ์ „๋ ฅ์„ ๋†“๊ณ  ๊ฒฝ์Ÿํ•˜์ง€ ์•Š๊ณ , ์‹œ์žฅ์ด ์ œ๋Œ€๋กœ ๊ฐ€๊ฒฉ์„ ๋งค๊ธฐ์ง€ ๋ชปํ•œ ํŒŒํŽธํ™”๋œ ์ž์›์„ ๋ชจ์•„ ํ•˜๋‚˜์˜ ํ† ํฐ ๊ณต์žฅ์œผ๋กœ ์šด์˜ํ•œ๋‹ค.

5. ํ•„์š”ํ•œ ์ œํ’ˆ: Agent Compute Operating Layer

๊ณ ๊ฐ์—๊ฒŒ๋Š” ๋ณต์žกํ•œ ์ธํ”„๋ผ๋ฅผ ๋ณด์—ฌ์ค„ ํ•„์š”๊ฐ€ ์—†๋‹ค. ๊ณ ๊ฐ์€ ๋‹ค์Œ๋งŒ ์ง€์ •ํ•˜๋ฉด ๋œ๋‹ค.

- ์ž‘์—… ๋ชฉํ‘œ์™€ ์™„๋ฃŒ ์กฐ๊ฑด
- ํ’ˆ์งˆ ๊ธฐ์ค€๊ณผ ๊ฒ€์ฆ ๋ฐฉ๋ฒ•
- ๋งˆ๊ฐ์‹œ๊ฐ„๊ณผ ๋น„์šฉ ์ƒํ•œ
- ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ์ง€์—ญ
- ํ—ˆ์šฉํ•  ์™ธ๋ถ€ ์ž‘์—…๊ณผ ๋ถ€์ž‘์šฉ

๋’ท๋‹จ์˜ ์šด์˜๊ณ„์ธต์€ ๋‹ค์Œ์„ ์ฒ˜๋ฆฌํ•œ๋‹ค.

1. ์ž‘์—…์„ ๋‹จ๊ณ„์™€ DAG๋กœ ๋ถ„ํ•ด
2. ๋‹จ๊ณ„๋ณ„ ๋ชจ๋ธยท์นฉยท์‚ฌ์ดํŠธ ์„ ํƒ
3. ๋ฐฐ์นญ๊ณผ deadline ์Šค์ผ€์ค„๋ง
4. KV cache ์œ„์น˜์™€ ์„ธ์…˜ affinity ๊ด€๋ฆฌ
5. ์˜๋ฏธ์  ์ฒดํฌํฌ์ธํŠธ ์ €์žฅ
6. ์žฅ์•  ์‹œ ๋‹ค๋ฅธ ์‚ฌ์ดํŠธ์—์„œ ์žฌ์‹คํ–‰
7. ์ด๋ฉ”์ผยท๊ฒฐ์ œยท๋ฐฐํฌ ๊ฐ™์€ ๋ถ€์ž‘์šฉ ์ค‘๋ณต ๋ฐฉ์ง€
8. ๊ฒฐ๊ณผ ๊ฒ€์ฆ ํ›„ ํ•„์š”ํ•˜๋ฉด ๋” ๊ฐ•ํ•œ ๋ชจ๋ธ๋กœ ์Šน๊ฒฉ

Long-horizon task์—์„œ ์ค‘์š”ํ•œ ์ฒดํฌํฌ์ธํŠธ๋Š” GPU ๋ฉ”๋ชจ๋ฆฌ ์ „์ฒด๊ฐ€ ์•„๋‹ˆ๋‹ค.

- ์™„๋ฃŒํ•œ ์ž‘์—… ๋‹จ๊ณ„
- ๋Œ€ํ™”์™€ ๋„๊ตฌ ์‹คํ–‰ ๊ฒฐ๊ณผ
- ์ƒ์„ฑํ•œ ํŒŒ์ผ๊ณผ Git ์ƒํƒœ
- ์‚ฌ์šฉํ•œ ๋ชจ๋ธยทํ”„๋กฌํ”„ํŠธยท๋„๊ตฌ ๋ฒ„์ „
- ๋‚จ์€ ๋น„์šฉ๊ณผ ๋งˆ๊ฐ์‹œ๊ฐ„
- ์ด๋ฏธ ์‹คํ–‰ํ•œ ์™ธ๋ถ€ ๋ถ€์ž‘์šฉ

๋”ฐ๋ผ์„œ ์ด ์ œํ’ˆ์€ ๋‹จ์ˆœ GPU ์ค‘๊ฐœ๋‚˜ ์ตœ์ €๊ฐ€ ์ถ”๋ก  API๊ฐ€ ์•„๋‹ˆ๋‹ค. ๊ณ ๊ฐ์—๊ฒŒ๋Š” โ€œ์ผ์„ ๋๋‚ด์ฃผ๋Š” ์„œ๋น„์Šคโ€๋ฅผ ์ œ๊ณตํ•˜๊ณ , ๋‚ด๋ถ€์—์„œ๋Š” ๋ชจ๋ธยท์นฉยท๋ฉ”๋ชจ๋ฆฌยท์‚ฌ์ดํŠธยท์ „๋ ฅ์„ ํ•˜๋‚˜์˜ ์‹œ์Šคํ…œ์œผ๋กœ ์กฐ์ •ํ•˜๋Š” ์šด์˜์ฒด์ œ๋‹ค.

์žฅ๊ธฐ์ ์ธ ํ•ด์ž๋„ ํŠน์ • ์ปค๋„ ํ•˜๋‚˜๊ฐ€ ์•„๋‹ˆ๋‹ค. ์–ด๋–ค ์ž‘์—…์„ ์–ด๋–ค ๋ชจ๋ธยท์นฉยท์‚ฌ์ดํŠธ์—์„œ ๋ช‡ ๋ฒˆ ์‹คํ–‰ํ•ด์•ผ ๊ฐ€์žฅ ์‹ธ๊ณ  ํ™•์‹คํ•˜๊ฒŒ ๋๋‚˜๋Š”์ง€๋ฅผ ์ถ•์ ํ•œ ๋ผ์šฐํŒ…ยท์‹คํ–‰ยท๊ฒ€์ฆ ๋ฐ์ดํ„ฐ๋‹ค.
โค2
6. ์ˆ˜์š”, ์˜คํ”ˆ๋ชจ๋ธ, 1000๋ฐฐ ๋ชฉํ‘œ์™€ ํ•œ๊ณ„

๋ฏธ๋ž˜์˜ ๋ฐ์ดํ„ฐ๋Š” ์ธํ„ฐ๋„ท ํ…์ŠคํŠธ๋ณด๋‹ค ๊ฒ€์ฆ ๊ฐ€๋Šฅํ•œ ํ™˜๊ฒฝ์—์„œ ๋งŒ๋“ค์–ด์งˆ ๊ฐ€๋Šฅ์„ฑ์ด ํฌ๋‹ค.

๋ชจ๋ธ์—๊ฒŒ ์ฝ”๋”ฉยท์ˆ˜ํ•™ยท๋ณด์•ˆยท์—ฐ๊ตฌ ๋ฌธ์ œ๋ฅผ ์ฃผ๊ณ , ๊ฒฉ๋ฆฌ๋œ ์ปดํ“จํ„ฐ์—์„œ ๋ฐ˜๋ณต ์‹œ๋„ํ•˜๊ฒŒ ํ•œ ๋’ค ๊ฒฐ๊ณผ๋ฅผ ์ž๋™ ์ฑ„์ ํ•œ๋‹ค. ์ด๋•Œ ํ™˜๊ฒฝ๊ณผ ์‹œํ–‰์ฐฉ์˜ค ์ž์ฒด๊ฐ€ ์ƒˆ๋กœ์šด ํ•™์Šต ๋ฐ์ดํ„ฐ๊ฐ€ ๋œ๋‹ค. ๋” ์˜ค๋ž˜ ์ƒ๊ฐํ•˜๊ณ  ๋” ๋งŽ์ด ์‹œ๋„ํ• ์ˆ˜๋ก ๋‹ต์ด ์ข‹์•„์ง€๋Š” test-time compute๋„ ์ €๊ฐ€ ์ถ”๋ก  ์ˆ˜์š”๋ฅผ ํ‚ค์šด๋‹ค.

์ด ๊ตฌ์กฐ๊ฐ€ ์ž˜ ๋งž๋Š” ์˜์—ญ์€ ๊ฒ€์ฆ ๊ฐ€๋Šฅํ•œ ๋ฌธ์ œ๋‹ค.

- ์†Œํ”„ํŠธ์›จ์–ด์™€ ํ…Œ์ŠคํŠธ
- ์ˆ˜ํ•™๊ณผ ํ˜•์‹ ์ฆ๋ช…
- ๋ณด์•ˆ ์ทจ์•ฝ์  ํƒ์ƒ‰
- ์ผ๋ถ€ ๊ณผํ•™ ์—ฐ๊ตฌ

๋ฐ˜๋ฉด ๊ธ€์˜ ์•„๋ฆ„๋‹ค์›€, ์˜ˆ์ˆ , ์ธ๊ฐ„์˜ ์ทจํ–ฅ์ฒ˜๋Ÿผ ๊ฐ๊ด€์ ์œผ๋กœ ์ฑ„์ ํ•˜๊ธฐ ์–ด๋ ค์šด ์ž‘์—…์€ ์—ฌ์ „ํžˆ ์‚ฌ๋žŒ์˜ ํŒ๋‹จ์ด ํ•„์š”ํ•˜๋‹ค.

์˜คํ”ˆ๋ชจ๋ธ๋„ ์ค‘์š”ํ•˜๋‹ค. ํ์‡„ํ˜• ์—ฐ๊ตฌ์†Œ๋Š” ์•ฝ 3~6๊ฐœ์›” ์•ž์„  ์„ฑ๋Šฅ์„ ์œ„ํ•ด ํฐ ํ”„๋ฆฌ๋ฏธ์—„์„ ์“ฐ์ง€๋งŒ, ๊ทธ ๋ชจ๋ธ์ด ๋งŒ๋“  ์ฝ”๋“œ์™€ ์ฝ˜ํ…์ธ ๊ฐ€ ์ธํ„ฐ๋„ท์— ๊ณต๊ฐœ๋˜๋ฉด์„œ ๋Šฅ๋ ฅ์€ ์˜คํ”ˆ ์ƒํƒœ๊ณ„๋กœ ํ™•์‚ฐ๋œ๋‹ค. ํ์‡„ํ˜•์€ ์ตœ์ฒจ๋‹จ ํ”„๋ฆฌ๋ฏธ์—„ ์‹œ์žฅ์„, ์˜คํ”ˆ๋ชจ๋ธ์€ ์†Œ์œ ๊ถŒยท๋งž์ถคํ™”ยท์ €๊ฐ€ ๋Œ€๋Ÿ‰ ์ถ”๋ก  ์‹œ์žฅ์„ ๋‹ด๋‹นํ•  ์ˆ˜ ์žˆ๋‹ค.

โ€˜1000๋ฐฐ ์ €๋ ดโ€™์€ ๋‹ค์Œ ๊ณ„์‚ฐ์—์„œ ๋‚˜์˜จ ๋ชฉํ‘œ๋‹ค.

- Neil์˜ ๊ฑฐ์นœ ์ถ”์ •: ํ”„๋Ÿฐํ‹ฐ์–ด API๋กœ 1์กฐ ํ† ํฐ โ‰ˆ ์ตœ์†Œ 500๋งŒ ๋‹ฌ๋Ÿฌ
- ์ƒˆ๋กœ์šด ์ˆ˜์š”๊ฐ€ ์ƒ๊ธธ ์ˆ˜ ์žˆ๋‹ค๊ณ  ๋ณธ ๊ฐ€๊ฒฉ: ์•ฝ 5์ฒœ ๋‹ฌ๋Ÿฌ
- ํ•„์š”ํ•œ ํ•˜๋ฝํญ: ์ตœ์†Œ 1000๋ฐฐ

ํ•˜์ง€๋งŒ ์ด๊ฒƒ์€ ๋‹ฌ์„ฑ๋œ ๊ฒฐ๊ณผ๊ฐ€ ์•„๋‹ˆ๋‹ค. ๋” ์ž‘์€ ์˜คํ”ˆ๋ชจ๋ธ๊ณผ ํ”„๋Ÿฐํ‹ฐ์–ด ๋ชจ๋ธ์€ ๊ฐ™์€ ์ง€๋Šฅ๋„ ์•„๋‹ˆ๋‹ค. ์‹ค์ œ ์ ˆ๊ฐ์€ ๋ชจ๋ธ ์„ ํƒ, ์ฒ˜๋ฆฌ๋Ÿ‰ํ˜• ๋ฐฐ์นญ, KV ์••์ถ•, ์ด๊ธฐ์ข… ์นฉ, ์œ ํœด GPU, ์†Œํ˜• ๋ฐ์ดํ„ฐ์„ผํ„ฐ, ๊ฐ„ํ— ์ „๋ ฅ, ์žฅ์•  ๋ณต๊ตฌ๋ฅผ ํ•ฉ์นœ ์žฅ๊ธฐ ๋ชฉํ‘œ๋‹ค.

์ตœ์ข…์ ์œผ๋กœ ์ด ์‚ฌ์—…์˜ ๋ณธ์งˆ์€ ๋‹ค์Œ๊ณผ ๊ฐ™๋‹ค.

โ€œ๊ณ ๊ฐ์—๊ฒŒ๋Š” ํ’ˆ์งˆยท๋งˆ๊ฐยท์˜ˆ์‚ฐ ์•ˆ์—์„œ ์™„๋ฃŒ๋œ ๊ฒฐ๊ณผ๋ฅผ ์ œ๊ณตํ•˜๊ณ , ๋‚ด๋ถ€์—์„œ๋Š” ๋ชจ๋“  ์ปดํ“จํŠธ ์ž์›์„ ์ถ”์ƒํ™”ํ•ด ๊ฒ€์ฆ๋œ ์„ฑ๊ณต ์ž‘์—…๋‹น ๋น„์šฉ์„ ์ตœ์†Œํ™”ํ•œ๋‹ค.โ€

https://youtu.be/uyzqxIoiobU?si=morwss97antXVcbu
โค1
Continuous Learning_Startup & Investment
๋น„์Šทํ•œ ๋ทฐ https://x.com/wintonark/status/2093407411663151595?s=46&t=h5Byg6Wosg8MJb4pbPSDow AI๋กœ ์ž๋ณธ์ด ๋ชฐ๋ฆฌ๋Š” ํ˜„์ƒ์ด ๋ฒค์ฒ˜ยท์ฃผ์‹์‹œ์žฅ์„ ๋„˜์–ด ์ด์ œ ๋ถ€์ฑ„์‹œ์žฅ์œผ๋กœ ํ™•์‚ฐ๋˜๊ณ  ์žˆ๋‹ค. ์ปดํ“จํŠธ๊ฐ€ ๋ถ€์กฑํ•œ ๋™์•ˆ ๋ฐ์ดํ„ฐ์„ผํ„ฐ๋Š” ๋†’์€ ๊ธˆ๋ฆฌ์—๋„ ๊ฒฝ์ œ์„ฑ์ด ์žˆ๊ณ , NVIDIA GPU๋Š” ๋‹ด๋ณด๊ฐ€์น˜๊ฐ€ ๋†’์•„ ์žฌ๋ฌด๊ตฌ์กฐ๊ฐ€ ์•ฝํ•œ ์‚ฌ์—…์ž๋„ ์ž๊ธˆ์„ ์กฐ๋‹ฌํ•  ์ˆ˜ ์žˆ๋‹ค. ์ฒ˜์Œ์—๋Š” ์ด ์ž๊ธˆ ์ˆ˜์š”๊ฐ€ ํ•˜์ด์ผ๋“œ ์ฑ„๊ถŒ๊ณผ ๊ฒฝ์Ÿํ•˜๊ฒ ์ง€๋งŒ, AIโ€ฆ
๋น„์Šทํ•œ ๋ฏธ๋ž˜๋ฅผ ๋ณด๊ณ  ๊ฐ์ž ๋‹ค๋ฅธ ํฌํŠธํด๋ฆฌ์˜ค๋ฅผ ๋งŒ๋“œ๋Š” ์ค‘. a16z๋Š” ์นฉ, ๋ฉ”๋ชจ๋ฆฌ, ๋„คํŠธ์›Œํ‚น, ์‹œ์Šคํ…œ ์†Œํ”„ํŠธ์›จ์–ด, ์ „๋ ฅ ๋“ฑ AI ์ธํ”„๋ผ์— ์ง‘์ค‘ ํˆฌ์žํ•˜๋Š” $1.1b ํŽ€๋“œ๋ฅผ ๋ฐœํ‘œ

AI๊ฐ€ ๋งŒ๋“ค์–ด๋‚ด๋Š” ์ง€๋Šฅ์€ ์ˆœ์ˆ˜ํ•œ ์†Œํ”„ํŠธ์›จ์–ด๊ฐ€ ์•„๋‹ˆ๋ผ ์นฉ, ๋ฉ”๋ชจ๋ฆฌ, ๋„คํŠธ์›Œํฌ, ์ „๋ ฅ, ๋ƒ‰๊ฐ, ๋ฐ์ดํ„ฐ์„ผํ„ฐ๊ฐ€ ๊ฒฐํ•ฉ๋œ ๋ฌผ๋ฆฌ์  ์ƒ์‚ฐ๋ฌผ์ด๋‹ค. ๋”ฐ๋ผ์„œ ๊ฐ€์žฅ ํฌ์†Œํ•œ ์ž์› ํ•œ ๋‹จ์œ„๋ฅผ ๋” ๋งŽ์€ ์œ ์šฉํ•œ AI ์ž‘์—…์œผ๋กœ ๋ฐ”๊พธ๋Š” ํšŒ์‚ฌ๊ฐ€ ๊ฐ€์น˜๋ฅผ ๊ฐ€์ ธ๊ฐ„๋‹ค.

1. AI๊ฐ€ ๋” ๋งŽ์€ ์ผ์„ ํ•˜๋ ค๋ฉด ๋ฌผ๋ฆฌ์ ์œผ๋กœ ๋ฌด์—‡์ด ํ•„์š”ํ•œ๊ฐ€?

AI ์ž‘์—…๋Ÿ‰
= ์นฉ ์—ฐ์‚ฐ ร— ๋ฉ”๋ชจ๋ฆฌ ร— ๋„คํŠธ์›Œํฌ ร— ์ „๋ ฅ ร— ๋ƒ‰๊ฐ ร— ์‹œ์„ค ร— ์‹œ์Šคํ…œ ์†Œํ”„ํŠธ์›จ์–ด

์ด ์š”์†Œ๋“ค์€ ๊ณฑ์…ˆ ๊ด€๊ณ„์— ๊ฐ€๊น๋‹ค. ํ•˜๋‚˜๋ผ๋„ ๋ถ€์กฑํ•˜๋ฉด ๋‹ค๋ฅธ ์ž์›์ด ํ’๋ถ€ํ•ด๋„ ์ „์ฒด ์‹œ์Šคํ…œ์€ ์ œ๋Œ€๋กœ ์ž‘๋™ํ•˜์ง€ ์•Š๋Š”๋‹ค.

์‹ค์ œ AI ์ฒ˜๋ฆฌ๋Ÿ‰
โ‰ˆ GPU, ๋ฉ”๋ชจ๋ฆฌ, ๋„คํŠธ์›Œํฌ, ์ „๋ ฅ, ๋ƒ‰๊ฐ, ์‹œ์„ค ์ค‘ ๊ฐ€์žฅ ๋ถ€์กฑํ•œ ์š”์†Œ

AI ๊ฒฝ์Ÿ์˜ ๋ณ‘๋ชฉ์ด ๋ชจ๋ธ ์„ฑ๋Šฅ์—์„œ ๋ชจ๋ธ ์•„๋ž˜์˜ ๋ฌผ๋ฆฌ์  ์‹œ์Šคํ…œ์œผ๋กœ ์ด๋™ํ•˜๊ณ  ์žˆ๋‹ค๋Š” ๊ฒƒ์ด๋‹ค.

2. AI ์—ฐ์‚ฐ ์ˆ˜์š”๋Š” ๋ฌด์—‡์œผ๋กœ ๊ฒฐ์ •๋˜๋Š”๊ฐ€?

์ด ์—ฐ์‚ฐ ์ˆ˜์š”
= ์‚ฌ์šฉ์ž ์ˆ˜ ร— ์‚ฌ์šฉ์ž๋‹น ์ž‘์—… ์ˆ˜ ร— ์ž‘์—…๋‹น ํ† ํฐ ร— ํ† ํฐ๋‹น ์—ฐ์‚ฐ๋Ÿ‰

์˜์ƒ์€ ์ด ๋„ค ๊ฐ€์ง€๊ฐ€ ๋™์‹œ์— ์ฆ๊ฐ€ํ•œ๋‹ค๊ณ  ๋ณธ๋‹ค.

โ€ข ์‚ฌ์šฉ์ž ์ˆ˜ ์ฆ๊ฐ€
AI ์‚ฌ์šฉ์ž๊ฐ€ ๊ฐœ๋ฐœ์ž์—์„œ ์ผ๋ฐ˜ ์ง€์‹๋…ธ๋™์ž, ๊ธฐ์—… ๋ฐฑ์˜คํ”ผ์Šค, ์†Œ๋น„์ž, ๋กœ๋ด‡์œผ๋กœ ํ™•์žฅ๋œ๋‹ค.

โ€ข ์‚ฌ์šฉ์ž๋‹น ์ž‘์—… ์ˆ˜ ์ฆ๊ฐ€
์งˆ๋ฌธ ํ•œ ๋ฒˆ์—์„œ ๋๋‚˜๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋ผ ์ด๋ฉ”์ผ ๊ด€๋ฆฌ, ์ผ์ • ์กฐ์ •, ์ฝ”๋”ฉ, ๋ฐ์ดํ„ฐ ๋ถ„์„, ์ปดํ“จํ„ฐ ์กฐ์ž‘ ๋“ฑ ์ „์ฒด ์—…๋ฌด ํ๋ฆ„์„ ๋งก๊ธฐ๊ฒŒ ๋œ๋‹ค.

โ€ข ์ž‘์—…๋‹น ํ† ํฐ ์ฆ๊ฐ€
์ฑ—๋ด‡๋ณด๋‹ค ์ถ”๋ก  ๋ชจ๋ธ์ด ๋” ๋งŽ์€ ํ† ํฐ์„ ์‚ฌ์šฉํ•˜๊ณ , ์žฅ์‹œ๊ฐ„ ์ž‘๋™ํ•˜๋Š” ์—์ด์ „ํŠธ์™€ ๋‹ค์ค‘ ์—์ด์ „ํŠธ๋Š” ๊ทธ๋ณด๋‹ค ํ›จ์”ฌ ๋งŽ์€ ํ† ํฐ์„ ์‚ฌ์šฉํ•œ๋‹ค.

โ€ข AI๊ฐ€ ๋‹ค์‹œ AI๋ฅผ ์‚ฌ์šฉ
AI๊ฐ€ ์ฝ”๋“œ, GPU ์ปค๋„, ํ•™์Šต ๋ฐ์ดํ„ฐ์™€ ๋‹ค์Œ AI ์‹œ์Šคํ…œ์„ ๋งŒ๋“œ๋Š” ๋ฐ ์‚ฌ์šฉ๋œ๋‹ค.

AI ์„ฑ๋Šฅ ํ–ฅ์ƒ
โ†’ ๊ฐ€๋Šฅํ•œ ์ž‘์—… ์ฆ๊ฐ€
โ†’ ์‚ฌ์šฉ์ž์™€ ์—…๋ฌด ์ฆ๊ฐ€
โ†’ ํ† ํฐยท์—ฐ์‚ฐ ์ˆ˜์š” ์ฆ๊ฐ€
โ†’ ๋” ๋งŽ์€ ์ธํ”„๋ผ ํˆฌ์ž
โ†’ ๋‹ค์‹œ AI ์„ฑ๋Šฅ ํ–ฅ์ƒ

3. ํšจ์œจ์ด ์ข‹์•„์ ธ๋„ ์ธํ”„๋ผ ์ˆ˜์š”๊ฐ€ ์ค„์ง€ ์•Š๋Š” ์ด์œ 

์—ฐ์‚ฐ ๋น„์šฉ์ด ๋‚ฎ์•„์ง€๋ฉด ๊ธฐ์กด ์—…๋ฌด๋ฅผ ๋” ์‹ธ๊ฒŒ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋‹ค. ๋™์‹œ์— ์ด์ „์—๋Š” ๊ฒฝ์ œ์„ฑ์ด ์—†์—ˆ๋˜ ์ƒˆ๋กœ์šด AI ์—…๋ฌด๋“ค์ด ๊ฐ€๋Šฅํ•ด์ง„๋‹ค.

์ด ์—ฐ์‚ฐ๋Ÿ‰
= ์ž‘์—…๋‹น ์—ฐ์‚ฐ๋Ÿ‰ รท ํšจ์œจ ร— ์ „์ฒด ์ž‘์—… ์ˆ˜

ํšจ์œจ์ด ๊ฐœ์„ ๋˜๋Š” ์†๋„๋ณด๋‹ค ์ „์ฒด ์ž‘์—… ์ˆ˜๊ฐ€ ๋Š˜์–ด๋‚˜๋Š” ์†๋„๊ฐ€ ๋” ๋น ๋ฅด๋ฉด ์ด ์—ฐ์‚ฐ ์ˆ˜์š”๋Š” ๊ณ„์† ์ปค์ง„๋‹ค.

์‚ฌ์‹ค์ƒ ๋ฌดํ•œํ•œ ์ˆ˜์š”๋Š” ํ™•์ •๋œ ์‚ฌ์‹ค์ด ์•„๋‹ˆ๋ผ ์ด ํšจ๊ณผ๊ฐ€ ์žฅ๊ธฐ๊ฐ„ ์ง€์†๋  ๊ฒƒ์ด๋ผ๋Š” ํˆฌ์ž ๊ฐ€์„ค์ด๋‹ค.

4. ๊ณต๊ธ‰์ด ์ˆ˜์š”๋ฅผ ๋ฐ”๋กœ ๋”ฐ๋ผ๊ฐ€์ง€ ๋ชปํ•˜๋Š” ์ด์œ 

์†Œํ”„ํŠธ์›จ์–ด ์ˆ˜์š”๋Š” ๋ช‡ ๋‹ฌ ๋งŒ์— ๋ช‡ ๋ฐฐ๋กœ ์ฆ๊ฐ€ํ•  ์ˆ˜ ์žˆ์ง€๋งŒ ๋ฌผ๋ฆฌ์  ์ธํ”„๋ผ๋Š” ๊ทธ๋ ‡๊ฒŒ ๋นจ๋ฆฌ ๋งŒ๋“ค ์ˆ˜ ์—†๋‹ค.

โ€ข ๋ฐ˜๋„์ฒด ๊ฐœ๋ฐœ๊ณผ ์ฆ์„ค์—๋Š” ์ˆ˜๋…„์ด ๊ฑธ๋ฆฐ๋‹ค.
โ€ข ๋ฉ”๋ชจ๋ฆฌ ์ƒ์‚ฐ๋Šฅ๋ ฅ์„ ๋น ๋ฅด๊ฒŒ ๋Š˜๋ฆฌ๊ธฐ ์–ด๋ ต๋‹ค.
โ€ข ๋ฐ์ดํ„ฐ์„ผํ„ฐ์—๋Š” ๋ถ€์ง€, ์ธํ—ˆ๊ฐ€, ์ „๋ ฅ ์—ฐ๊ฒฐ๊ณผ ๊ฑด์„ค ์ธ๋ ฅ์ด ํ•„์š”ํ•˜๋‹ค.
โ€ข ๋ณ€์••๊ธฐ, ํ„ฐ๋นˆ, ๋ƒ‰๊ฐ์„ค๋น„ ๋“ฑ์˜ ๊ณต๊ธ‰๋„ ์ œํ•œ๋ผ ์žˆ๋‹ค.
โ€ข ์ „๋ ฅ๋ง ์ฆ์„ค์€ ๋ฐ์ดํ„ฐ์„ผํ„ฐ ๊ฑด์„ค๋ณด๋‹ค ์˜ค๋ž˜ ๊ฑธ๋ฆด ์ˆ˜ ์žˆ๋‹ค.
โ€ข ์žฅ๋น„ ์„ค์น˜์™€ ์šด์˜์„ ๋‹ด๋‹นํ•  ์ˆ™๋ จ ์ธ๋ ฅ์ด ๋ถ€์กฑํ•˜๋‹ค.

์ˆ˜์š” ์ฆ๊ฐ€ ์†๋„ โ‰ซ ๋ฌผ๋ฆฌ์  ๊ณต๊ธ‰ ์ฆ๊ฐ€ ์†๋„

5. ๊ธฐ์กด ๋ฐ์ดํ„ฐ์„ผํ„ฐ๋ฅผ ๋” ๋งŽ์ด ์ง“๋Š” ๊ฒƒ๋งŒ์œผ๋กœ๋Š” ๋ถ€์กฑํ•˜๋‹ค

๊ธฐ์กด ์ปดํ“จํŒ… ์ธํ”„๋ผ๋Š” AI๋ฅผ ์ค‘์‹ฌ์œผ๋กœ ์„ค๊ณ„๋˜์ง€ ์•Š์•˜๋‹ค.

AI ์ถ”๋ก ์˜ ํŠน์„ฑ

โ€ข ๋Œ€๋Ÿ‰์˜ ํ–‰๋ ฌ ์—ฐ์‚ฐ
โ€ข ๋†’์€ ๋ฉ”๋ชจ๋ฆฌ ์šฉ๋Ÿ‰๊ณผ ๋Œ€์—ญํญ
โ€ข ์นฉ ์‚ฌ์ด์˜ ๋นˆ๋ฒˆํ•œ ๋ฐ์ดํ„ฐ ์ด๋™
โ€ข ๋†’์€ ์ „๋ ฅ๋ฐ€๋„
โ€ข ์—ฐ์‚ฐ๊ณผ ํ•จ๊ป˜ ์ง€์†์ ์œผ๋กœ ์ƒ์„ฑ๋˜๋Š” ํ† ํฐ
โ€ข ๋งŽ์€ ๊ฐ€์†๊ธฐ๋ฅผ ํ•˜๋‚˜์˜ ์‹œ์Šคํ…œ์ฒ˜๋Ÿผ ์—ฐ๊ฒฐํ•ด์•ผ ํ•˜๋Š” ๊ตฌ์กฐ

๋”ฐ๋ผ์„œ ๋‹ค์Œ ์š”์†Œ๋“ค์„ ํ•จ๊ป˜ ์„ค๊ณ„ํ•ด์•ผ ํ•œ๋‹ค.

โ€ข ์—ฐ์‚ฐ ์นฉ
โ€ข ๋ฉ”๋ชจ๋ฆฌ ๊ณ„์ธต
โ€ข ์นฉ ๊ฐ„ ์ธํ„ฐ์ปค๋„ฅํŠธ
โ€ข ๋„คํŠธ์›Œํฌ
โ€ข ์ „๋ ฅ ๋ณ€ํ™˜๊ณผ ๊ณต๊ธ‰
โ€ข ์•ก์ฒด ๋ƒ‰๊ฐ
โ€ข ๋ž™๊ณผ ๊ฑด๋ฌผ ๊ตฌ์กฐ
โ€ข ํด๋Ÿฌ์Šคํ„ฐ ๊ด€๋ฆฌ ์†Œํ”„ํŠธ์›จ์–ด

์ด๊ฒƒ์ด ์˜์ƒ์—์„œ ๋งํ•˜๋Š” AI-native infrastructure๋‹ค.

6. ์ธํ”„๋ผ ํšŒ์‚ฌ์˜ ๊ฒฝ์ œ์  ๊ฐ€์น˜๋Š” ๋ฌด์—‡์ธ๊ฐ€?

AI ์‚ฌ์—… ์ด์ต
= AI ์ž‘์—…์ด ๋งŒ๋“  ๊ฐ€์น˜ - ์—ฐ์‚ฐยท์ „๋ ฅยท์ธํ”„๋ผ ๋น„์šฉ

๊ฐ™์€ ์ž‘์—…์„ ๋” ์ ์€ ๋น„์šฉ๊ณผ ์ „๋ ฅ์œผ๋กœ ์ฒ˜๋ฆฌํ•˜๊ฒŒ ํ•ด์ฃผ๋Š” ํšŒ์‚ฌ๋Š” AI ๊ธฐ์—…์˜ ๋งˆ์ง„์„ ์ง์ ‘ ๊ฐœ์„ ํ•œ๋‹ค.

ํ•ต์‹ฌ ์„ฑ๋Šฅ์ง€ํ‘œ

โ€ข ๋‹ฌ๋Ÿฌ๋‹น ์œ ์šฉํ•œ ํ† ํฐ
โ€ข ์™€ํŠธ๋‹น ์œ ์šฉํ•œ ํ† ํฐ
โ€ข ๋ž™๋‹น ์œ ์šฉํ•œ ํ† ํฐ
โ€ข ๋ฐ์ดํ„ฐ์„ผํ„ฐ ๋ฉด์ ๋‹น ์ฒ˜๋ฆฌ๋Ÿ‰
โ€ข ์„ฑ๊ณตํ•œ ์ž‘์—…๋‹น ์ด๋น„์šฉ

์œ ์šฉํ•œ AI ์ƒ์‚ฐ์„ฑ
= ์„ฑ๊ณต์ ์œผ๋กœ ์™„๋ฃŒ๋œ ์—…๋ฌด รท ์ž๋ณธ๋น„์šฉยท์ „๋ ฅยท์šด์˜๋น„ยท์‹œ๊ฐ„

๋น ๋ฅด๊ฒŒ ํ† ํฐ์„ ์ƒ์„ฑํ•˜๋”๋ผ๋„ ๊ฒฐ๊ณผ๊ฐ€ ํ‹€๋ฆฌ๊ฑฐ๋‚˜ ์—…๋ฌด๋ฅผ ์™„๋ฃŒํ•˜์ง€ ๋ชปํ•˜๋ฉด ๊ฒฝ์ œ์  ๊ฐ€์น˜๋Š” ๋‚ฎ๋‹ค. ๋”ฐ๋ผ์„œ ๊ฐ€์žฅ ๋น ๋ฅธ ์นฉ๋ณด๋‹ค ์ „์ฒด ์—…๋ฌด ์™„๋ฃŒ ๋น„์šฉ์„ ๊ฐ€์žฅ ํฌ๊ฒŒ ๋‚ฎ์ถ”๋Š” ์‹œ์Šคํ…œ์ด ๋” ๊ฐ€์น˜ ์žˆ์„ ์ˆ˜ ์žˆ๋‹ค.

7. ์ „์šฉ ์นฉ์€ ์–ธ์ œ ๊ฒฝ์ œ์„ฑ์ด ์ƒ๊ธฐ๋Š”๊ฐ€?

์˜์ƒ์˜ ์‚ฌ๊ณ ์‹คํ—˜์€ ๋‹ค์Œ๊ณผ ๊ฐ™๋‹ค.

์–ด๋–ค ๋ชจ๋ธ์ด ์—ฐ๊ฐ„ 100์–ต ๋‹ฌ๋Ÿฌ ๊ทœ๋ชจ์˜ ์ถ”๋ก ์„ ์ˆ˜ํ–‰ํ•˜๊ณ , ์ „์šฉ ASIC์ด ๋น„์šฉ์„ 20% ์ ˆ๊ฐํ•œ๋‹ค๋ฉด ์ž ์žฌ์ ์ธ ์ ˆ๊ฐ ๊ฐ€์น˜๋Š” 20์–ต ๋‹ฌ๋Ÿฌ๋‹ค.

100์–ต ๋‹ฌ๋Ÿฌ ร— 20% = 20์–ต ๋‹ฌ๋Ÿฌ

์ „์šฉ ์นฉ ๊ฐœ๋ฐœ์— ์ˆ˜์–ต ๋‹ฌ๋Ÿฌ๊ฐ€ ๋“ค์–ด๊ฐ€๋”๋ผ๋„ ๊ฒฝ์ œ์„ฑ์ด ์ƒ๊ธธ ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ณ„์‚ฐ์ด๋‹ค.

๋‹ค๋งŒ ๋‹ค์Œ ์กฐ๊ฑด์ด ํ•„์š”ํ•˜๋‹ค.

โ€ข ์›Œํฌ๋กœ๋“œ๊ฐ€ ์ถฉ๋ถ„ํžˆ ํฌ๊ณ  ์•ˆ์ •์ ์ด์–ด์•ผ ํ•œ๋‹ค.
โ€ข ๋ชจ๋ธ ๊ตฌ์กฐ๊ฐ€ ์นฉ ๊ฐœ๋ฐœ๊ธฐ๊ฐ„ ๋™์•ˆ ๊ธ‰๊ฒฉํžˆ ๋ฐ”๋€Œ์ง€ ์•Š์•„์•ผ ํ•œ๋‹ค.
โ€ข ํšจ์œจ ๊ฐœ์„ ์•ก์ด ์„ค๊ณ„ยท์ œ์กฐยท์†Œํ”„ํŠธ์›จ์–ด ๋น„์šฉ๋ณด๋‹ค ์ปค์•ผ ํ•œ๋‹ค.
โ€ข ๋ฒ”์šฉ GPU์˜ ์œ ์—ฐ์„ฑ๋ณด๋‹ค ์ „์šฉํ™”์˜ ์ด์ต์ด ์ปค์•ผ ํ•œ๋‹ค.

8. ์—”๋น„๋””์•„๊ฐ€ ๊ฐ•ํ•ด๋„ ์Šคํƒ€ํŠธ์—… ๊ธฐํšŒ๊ฐ€ ๋‚จ๋Š” ์ด์œ 

โ€ข ๊ฑฐ๋Œ€ ๊ธฐ์—…์€ ๊ฐ€์žฅ ํฐ ๊ณตํ†ต ์ˆ˜์š”๋ฅผ ์ตœ์ ํ™”ํ•œ๋‹ค.
์—”๋น„๋””์•„์™€ ํ•˜์ดํผ์Šค์ผ€์ผ๋Ÿฌ๋Š” ๊ทœ๋ชจ๊ฐ€ ํฐ ๋ฒ”์šฉ ์›Œํฌ๋กœ๋“œ์— ์ง‘์ค‘ํ•  ๊ฐ€๋Šฅ์„ฑ์ด ๋†’๋‹ค.

โ€ข AI ์›Œํฌ๋กœ๋“œ๋Š” ์„ธ๋ถ„ํ™”๋œ๋‹ค.
ํ•™์Šต, ์‹ค์‹œ๊ฐ„ ์ถ”๋ก , ์ €์ „๋ ฅ ์—ฃ์ง€ ์ถ”๋ก , ์žฅ์‹œ๊ฐ„ ์—์ด์ „ํŠธ, ๋กœ๋ด‡, ๊ณผํ•™ ์—ฐ์‚ฐ์˜ ์š”๊ตฌ์กฐ๊ฑด์€ ์„œ๋กœ ๋‹ค๋ฅด๋‹ค.

โ€ข ๊ฑฐ๋Œ€ํ•œ ์‹œ์žฅ์—์„œ๋Š” ์ž‘์€ ํ‹ˆ์ƒˆ๋„ ํฐ ํšŒ์‚ฌ๊ฐ€ ๋  ์ˆ˜ ์žˆ๋‹ค.
์ „์ฒด ์‹œ์žฅ์ด ์ถฉ๋ถ„ํžˆ ํฌ๋‹ค๋ฉด 1%์˜ ์„ธ๋ถ€ ์‹œ์žฅ๋„ ๋Œ€ํ˜• ๊ธฐ์—…์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ๋‹ค.

โ€ข ๋ณ‘๋ชฉ ํ•˜๋‚˜ํ•˜๋‚˜์— ์„œ๋กœ ๋‹ค๋ฅธ ์ „๋ฌธ์„ฑ์ด ํ•„์š”ํ•˜๋‹ค.
๋ฉ”๋ชจ๋ฆฌ, ๊ด‘ํ†ต์‹ , ์ „๋ ฅ๋ฐ˜๋„์ฒด, ๋ƒ‰๊ฐ, ์šด์˜ ์†Œํ”„ํŠธ์›จ์–ด, ๊ฑด์„ค ์ž๋™ํ™”๋ฅผ ํ•œ ๊ธฐ์—…์ด ์ „๋ถ€ ํ•ด๊ฒฐํ•˜๊ธฐ๋Š” ์–ด๋ ต๋‹ค.

๊ธฐํšŒ๋Š” ์—”๋น„๋””์•„์™€ ์ •๋ฉด์œผ๋กœ ๊ฒฝ์Ÿํ•˜๋Š” GPU์—๋งŒ ์žˆ์ง€ ์•Š๋‹ค. GPU๊ฐ€ ๋” ๋งŽ์€ ์ผ์„ ํ•˜๊ฒŒ ๋งŒ๋“œ๋Š” ์ฃผ๋ณ€ ์‹œ์Šคํ…œ ์ „์ฒด๊ฐ€ ํˆฌ์ž ์˜์—ญ์ด๋‹ค.

9. ์—์ด์ „ํŠธ = ๋ชจ๋ธ + ๋ฉ”๋ชจ๋ฆฌ + ๋„๊ตฌ + ์ปดํ“จํ„ฐ ์ ‘๊ทผ๊ถŒํ•œ + ๋ฐ˜๋ณต ์‹คํ–‰

์—์ด์ „ํŠธ๊ฐ€ ๋…๋ฆฝ๋œ ์ปดํ“จํ„ฐ, ๋ธŒ๋ผ์šฐ์ €, ๊ณ„์ •๊ณผ ๊ถŒํ•œ์„ ๊ฐ–์ถ”๋ฉด ์ผ์ • ๊ด€๋ฆฌ, ์ด๋ฉ”์ผ ๋ถ„๋ฅ˜, ๊ตฌ๋งค, ๋ฌธ์„œ ์ž‘์„ฑ ๊ฐ™์€ ์—…๋ฌด๋ฅผ ์ธ๊ฐ„ ์ง์›๊ณผ ์œ ์‚ฌํ•˜๊ฒŒ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ๋‹ค.

ํ•˜์ง€๋งŒ ์—์ด์ „ํŠธ๋Š” ๋‹ค์Œ ๋ฌธ์ œ๋ฅผ ๋งŒ๋“ค ์ˆ˜ ์žˆ๋‹ค.

โ€ข ๋ถˆํ•„์š”ํ•œ ํ† ํฐ ์†Œ๋น„
โ€ข ์ •๋ณด ๋ง๊ฐ๊ณผ ํ™˜๊ฐ
โ€ข ์ž˜๋ชป๋œ ํ–‰๋™ ์‹คํ–‰
โ€ข ๊ณ„์ •๊ณผ ๋ฐ์ดํ„ฐ์˜ ๋ณด์•ˆ ์œ„ํ—˜
โ€ข ์ธ๊ฐ„๊ณผ ์—์ด์ „ํŠธ ์‚ฌ์ด์˜ ๋ถˆ๋ช…ํ™•ํ•œ ์Šน์ธ ๊ฒฝ๊ณ„

์—์ด์ „ํŠธ ์ˆœ๊ฐ€์น˜
= ์ƒ์‚ฐ์„ฑ ์ฆ๊ฐ€ - ์—ฐ์‚ฐ๋น„์šฉยท์˜ค๋ฅ˜๋น„์šฉยท๊ฐ๋…๋น„์šฉยท๋ณด์•ˆ์œ„ํ—˜

๋”ฐ๋ผ์„œ ์ค‘์š”ํ•œ ๊ฒƒ์€ ์—์ด์ „ํŠธ๋ฅผ ๋งŽ์ด ๋„์ž…ํ•˜๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋ผ ์ˆœ๊ฐ€์น˜๋ฅผ ํ”Œ๋Ÿฌ์Šค๋กœ ๋งŒ๋“œ๋Š” ์šด์˜์ฒด๊ณ„๋‹ค.

10. ํ•˜๋“œ์›จ์–ด ์ฐฝ์—…์ž์—๊ฒŒ ๊ฒฝํ—˜์ด ์ค‘์š”ํ•œ ์ด์œ 

ํ•˜๋“œ์›จ์–ด ์‚ฌ์—…์€ ๋‹ค์Œ ์ „์ฒด ๊ณผ์ •์„ ํ†ต๊ณผํ•ด์•ผ ํ•œ๋‹ค.

์—ฐ๊ตฌ
โ†’ ์„ค๊ณ„
โ†’ ์‹œ์ œํ’ˆ
โ†’ ์ œ์กฐ
โ†’ ์ˆ˜์œจ ํ™•๋ณด
โ†’ ๊ณต๊ธ‰๋ง
โ†’ ๊ณ ๊ฐ ์‹œ์Šคํ…œ ํ†ตํ•ฉ

์ข‹์€ ๊ธฐ์ˆ ๋งŒ์œผ๋กœ๋Š” ๋ถ€์กฑํ•˜๋‹ค.

โ€ข ์‹ค์ œ ์ œ์กฐ๊ฐ€ ๊ฐ€๋Šฅํ•œ๊ฐ€?
โ€ข ์ถฉ๋ถ„ํ•œ ์ˆ˜์œจ์ด ๋‚˜์˜ค๋Š”๊ฐ€?
โ€ข ๋ถ€ํ’ˆ์„ ์•ˆ์ •์ ์œผ๋กœ ํ™•๋ณดํ•  ์ˆ˜ ์žˆ๋Š”๊ฐ€?
โ€ข ๊ณ ๊ฐ ์‹œ์Šคํ…œ์— ํ†ตํ•ฉํ•  ์ˆ˜ ์žˆ๋Š”๊ฐ€?
โ€ข ๊ธด ๊ฐœ๋ฐœ๊ธฐ๊ฐ„์„ ๋ฒ„ํ‹ธ ์ž๋ณธ์ด ์žˆ๋Š”๊ฐ€?

๊ฒฝํ—˜ ๋งŽ์€ ์ฐฝ์—…์ž๊ฐ€ ์œ ๋ฆฌํ•˜์ง€๋งŒ ๋‚˜์ด๊ฐ€ ํ•„์ˆ˜์กฐ๊ฑด์€ ์•„๋‹ˆ๋‹ค. ๋ถ€์กฑํ•œ ์ œ์กฐยท๊ณต๊ธ‰๋ง ๊ฒฝํ—˜์„ ์ˆ™๋ จ๋œ ์ธ๋ ฅ๊ณผ ํŒŒํŠธ๋„ˆ๋กœ ๋ณด์™„ํ•  ์ˆ˜ ์žˆ์œผ๋ฉด ๋œ๋‹ค.


11. ํˆฌ์ž ๋…ผ๋ฆฌ

ํˆฌ์ž ๊ธฐํšŒ
= ๋ณ‘๋ชฉ์„ ์ œ๊ฑฐํ•ด ๋งŒ๋“ค์–ด์ง€๋Š” ๊ฒฝ์ œ์  ๊ฐ€์น˜ - ํ•ด๊ฒฐ ๋น„์šฉ๊ณผ ์‹คํ–‰ ์œ„ํ—˜

์ข‹์€ AI ์ธํ”„๋ผ ์‚ฌ์—…์ด ๋‹ตํ•ด์•ผ ํ•  ์งˆ๋ฌธ

1) ํ˜„์žฌ ์ „์ฒด ์ฒ˜๋ฆฌ๋Ÿ‰์„ ๊ฐ€์žฅ ๊ฐ•ํ•˜๊ฒŒ ์ œํ•œํ•˜๋Š” ๋ณ‘๋ชฉ์€ ๋ฌด์—‡์ธ๊ฐ€?
2) ๊ณ ๊ฐ์€ ๊ทธ ๋ณ‘๋ชฉ ๋•Œ๋ฌธ์— ์‹ค์ œ๋กœ ์–ผ๋งˆ๋ฅผ ์žƒ๊ณ  ์žˆ๋Š”๊ฐ€?
3) ํ•ด๊ฒฐ์ฑ…์ด ๋‹ฌ๋Ÿฌยท์™€ํŠธยท์‹œ๊ฐ„๋‹น ์ƒ์‚ฐ์„ฑ์„ ์–ผ๋งˆ๋‚˜ ๊ฐœ์„ ํ•˜๋Š”๊ฐ€?
4) ๊ทธ ๊ฐœ์„ ํญ์„ ์‹ค์ œ ๊ณ ๊ฐ ํ™˜๊ฒฝ์—์„œ ์ธก์ •ํ•  ์ˆ˜ ์žˆ๋Š”๊ฐ€?
5) ์ œํ’ˆ์ด ์™„์„ฑ๋  ๋•Œ๋„ ๊ทธ ๋ณ‘๋ชฉ์ด ๋‚จ์•„ ์žˆ์„ ๊ฒƒ์ธ๊ฐ€?
6) ์ œ์กฐ, ๊ณต๊ธ‰๋ง, ์ธํ—ˆ๊ฐ€๊นŒ์ง€ ํฌํ•จํ•ด ์‹ค์ œ๋กœ ๊ณต๊ธ‰ํ•  ์ˆ˜ ์žˆ๋Š”๊ฐ€?
7) ๋Œ€๊ธฐ์—…์ด ๊ฐ™์€ ๋ฌธ์ œ๋ฅผ ๋‚ด๋ถ€์ ์œผ๋กœ ํ•ด๊ฒฐํ•˜๊ธฐ ์–ด๋ ค์šด ์ด์œ ๋Š” ๋ฌด์—‡์ธ๊ฐ€?

12. ์ด ํˆฌ์ž ๋…ผ๋ฆฌ๊ฐ€ ์„ฑ๋ฆฝํ•˜๊ธฐ ์œ„ํ•œ ๊ฐ€์ •

์˜์ƒ์€ ์‹ ๊ทœ ํˆฌ์ž ํŽ€๋“œ์˜ ๋…ผ๋ฆฌ๋ฅผ ์„ค๋ช…ํ•˜๋Š” ์ฝ˜ํ…์ธ ์ด๋ฏ€๋กœ ๋‹ค์Œ ๊ฐ€์ •๋“ค์„ ๋‚™๊ด€์ ์œผ๋กœ ๋ณธ๋‹ค.
โค4
Continuous Learning_Startup & Investment
๋น„์Šทํ•œ ๋ทฐ https://x.com/wintonark/status/2093407411663151595?s=46&t=h5Byg6Wosg8MJb4pbPSDow AI๋กœ ์ž๋ณธ์ด ๋ชฐ๋ฆฌ๋Š” ํ˜„์ƒ์ด ๋ฒค์ฒ˜ยท์ฃผ์‹์‹œ์žฅ์„ ๋„˜์–ด ์ด์ œ ๋ถ€์ฑ„์‹œ์žฅ์œผ๋กœ ํ™•์‚ฐ๋˜๊ณ  ์žˆ๋‹ค. ์ปดํ“จํŠธ๊ฐ€ ๋ถ€์กฑํ•œ ๋™์•ˆ ๋ฐ์ดํ„ฐ์„ผํ„ฐ๋Š” ๋†’์€ ๊ธˆ๋ฆฌ์—๋„ ๊ฒฝ์ œ์„ฑ์ด ์žˆ๊ณ , NVIDIA GPU๋Š” ๋‹ด๋ณด๊ฐ€์น˜๊ฐ€ ๋†’์•„ ์žฌ๋ฌด๊ตฌ์กฐ๊ฐ€ ์•ฝํ•œ ์‚ฌ์—…์ž๋„ ์ž๊ธˆ์„ ์กฐ๋‹ฌํ•  ์ˆ˜ ์žˆ๋‹ค. ์ฒ˜์Œ์—๋Š” ์ด ์ž๊ธˆ ์ˆ˜์š”๊ฐ€ ํ•˜์ด์ผ๋“œ ์ฑ„๊ถŒ๊ณผ ๊ฒฝ์Ÿํ•˜๊ฒ ์ง€๋งŒ, AIโ€ฆ
โ€ข AI ์‚ฌ์šฉ๋Ÿ‰์ด ๊ณ„์† ๊ณ ์† ์„ฑ์žฅํ•œ๋‹ค.
โ€ข ํšจ์œจ ๊ฐœ์„ ๋ณด๋‹ค ์ƒˆ๋กœ์šด ์ˆ˜์š” ์ฆ๊ฐ€๊ฐ€ ๋” ํฌ๋‹ค.
โ€ข AI ์„œ๋น„์Šค๊ฐ€ ์ธํ”„๋ผ ๋น„์šฉ์„ ๊ฐ๋‹นํ•  ๊ฒฝ์ œ์  ๊ฐ€์น˜๋ฅผ ๋งŒ๋“ ๋‹ค.
โ€ข ์ „๋ ฅ๊ณผ ๋ฐ์ดํ„ฐ์„ผํ„ฐ ๋ณ‘๋ชฉ์ด ์žฅ๊ธฐ๊ฐ„ ์ง€์†๋œ๋‹ค.
โ€ข ๊ณผ์ž‰ ์ฆ์„ค๋กœ ๊ณต๊ธ‰ ๋ถ€์กฑ์ด ๊ฐ‘์ž๊ธฐ ๊ณต๊ธ‰ ๊ณผ์ž‰์œผ๋กœ ๋ฐ”๋€Œ์ง€ ์•Š๋Š”๋‹ค.
โ€ข ํ•˜์ดํผ์Šค์ผ€์ผ๋Ÿฌ์™€ ๊ธฐ์กด ๋ฐ˜๋„์ฒด ๊ธฐ์—…์ด ๋ชจ๋“  ์˜์—ญ์„ ์ž์ฒด ๊ฐœ๋ฐœํ•˜์ง€ ์•Š๋Š”๋‹ค.
โ€ข ๋ชจ๋ธ ๊ตฌ์กฐ๊ฐ€ ๋„ˆ๋ฌด ๋นจ๋ฆฌ ๋ณ€ํ•ด ์ƒˆ ํ•˜๋“œ์›จ์–ด๋ฅผ ๋ฌด์šฉ์ง€๋ฌผ๋กœ ๋งŒ๋“ค์ง€ ์•Š๋Š”๋‹ค.
โ€ข ๊ทœ์ œ, ์ง€์—ญ์‚ฌํšŒ์™€ ์ „๋ ฅ๋ง ๋ฌธ์ œ๊ฐ€ ๋ฐ์ดํ„ฐ์„ผํ„ฐ ํ™•์žฅ์„ ์™„์ „ํžˆ ๋ง‰์ง€ ์•Š๋Š”๋‹ค.

์ด ์ค‘ ํ•˜๋‚˜๋ผ๋„ ํฌ๊ฒŒ ํ‹€๋ฆฌ๋ฉด ์ธํ”„๋ผ ํˆฌ์ž์˜ ์ˆ˜์ต์„ฑ์€ ๊ธ‰๊ฒฉํžˆ ๋‚ฎ์•„์งˆ ์ˆ˜ ์žˆ๋‹ค.