Forwarded from 마산창투
#NVIDIA
* Bloomberg가 미국 정부의 중동 지역 반도체 수출 규제 가능성을 언급하며, 반도체 주가가 하락
https://finance.yahoo.com/news/nvidia-stock-tumbles-from-record-high-on-news-of-possible-us-chip-export-cap-asmls-dismal-earnings-163259227.html
* Bloomberg가 미국 정부의 중동 지역 반도체 수출 규제 가능성을 언급하며, 반도체 주가가 하락
https://finance.yahoo.com/news/nvidia-stock-tumbles-from-record-high-on-news-of-possible-us-chip-export-cap-asmls-dismal-earnings-163259227.html
Yahoo Finance
Nvidia stock tumbles from record high on news of possible US chip export cap, ASML's dismal earnings
Nvidia and other chip stocks sank Tuesday following news of potential US export caps and a dismal earnings report from semiconductor equipment manufacturer ASML.
Forwarded from 루팡
엔비디아 CEO 젠슨 황 - 홍콩과학기술대
(번역 요약 - 루팡)
AI란 무엇일까? AI는 인지의 자동화, 문제 해결의 자동화
문제 해결 - 세 가지 기본 아이디어로 축약
인지, 추론, 계획
문제 해결의 세 가지 기본 단계- 인지, 추론, 계획은 예를 들어 자율 주행차 주변의 환경을 인지하고, 자신의 위치와 주변 차량의 위치를 추론하며, 운전 방법을 계획하는 과정으로 나눌 수 있음.
우리가 하는 거의 모든 일에서, 인공지능이 특정 작업을 수행하도록 표현할 방법을 찾아낼 수 있습니다. 이러한 디지털 에이전트가 충분히 많아지고, 이 디지털 에이전트들이 인공지능을 생성하는 컴퓨터와 상호작용하기 시작한다면, 데이터 센터 전체가 이러한 디지털 지능이라고 불리는 것을 생성해내는 공장처럼 보일 것입니다. 우리가 이를 '토큰'이라 부름
우리는 코파일럿이나 ChatGPT 같은 인공지능을 만들고 있음. 여러 형태의 지능을 만들어내고 있는데, 이 지능들을 일종의 전구나 토스터라고 생각해 보세요. 모두가 사용하는 기기들이죠. 하지만 이 기기들은 공장에 연결됩니다.
산업적 관점에서 보면, 우리가 새로운 산업을 창조하고 있다는 것. 이 새로운 산업은 에너지를 투입해 디지털 지능을 만들어내는 공장 같은 역할. 이 디지털 지능은 다양한 애플리케이션에서 사용될 것.
그 소비량은 매우 클 것으로 예상. 이 전체 산업은 과거에 존재하지 않았던 산업.
무어의 법칙은 두 가지 개념에 의존. 첫 번째는 VLSI 스케일링.
두 번째는 전류 밀도를 일정하게 유지하면서 트랜지스터를 축소하는 Dennard 스케일링. 이를 통해 반도체 성능을 몇 년마다 두 배로 향상시킬 수 있었습니다. 즉, 1.5년마다 두 배, 5년마다 10배, 10년마다 100배로 증.
현재 우리가 경험하고 있는 것은, 신경망이 커질수록, 그리고 더 많은 데이터를 학습할수록, AI가 더 지능적으로 보인다는 것입니다. 이 현상은 마치 무어의 법칙처럼 경험적인 법칙입니다. 우리는 이것을 '확장 법칙(scaling law)'이라 부릅니다. 그리고 이 법칙은 계속 유지되고 있는 것으로 보입니다.
우리가 AI에서 알게 된 또 하나는, 사전 학습만으로는 충분하지 않다는 것입니다. 세상의 모든 데이터를 가져와 자동으로 지식을 발견하는 것은 중요하지만, 그것만으로는 충분하지 않아요.
사후 학습이 필요합니다. 특정 기술을 깊이 있게 배우는 과정이죠. 이 과정에서는 강화 학습, 인간 피드백, AI 피드백, 합성 데이터 생성, 다중 경로 학습 등 다양한 기술이 필요합니다. 요컨대, 특정 도메인에서 매우 깊이 있는 지식을 학습하는 것입니다.
사후 학습을 마치면, 여러분은 특정한 경력을 선택하고, 그 안에서 다시 많은 학습을 하게 됩니다. 그 후에는 사고 단계가 필요합니다. 이것이 바로 우리가 '테스트 타임 스케일링'이라고 부르는 것입니다.
"여러분이 어떤 문제의 답을 알고 있다면, 그 답을 바로 제공할 수 있을 것입니다. 하지만 어떤 문제는 처음 원칙(first principles)으로 분해해 하나씩 해결해야 할 수도 있습니다. 예측할 수 없는 답이라면, 시뮬레이션을 반복하거나 여러 가지 결과를 탐색해야 할 수도 있습니다. 이 과정을 우리는 '사고'라고 부릅니다. 그리고 생각할 시간이 길어질수록 더 높은 품질의 답을 얻을 가능성이 높아집니다."
"따라서 현재 AI 개발에는 세 가지 주요 영역이 있습니다. 더 많은 연산을 투입할수록 더 높은 품질의 답을 얻을 수 있는 영역들입니다. 첫 번째는 사전 학습이고, 두 번째는 사후 학습, 그리고 세 번째는 사고입니다."
"현재 우리가 제공할 수 있는 답변은 최선의 답이지만, 우리는 신뢰할 수 있는 답에 도달하기까지 시간이 더 필요합니다. 아직까지는 답이 환각인지 아닌지, 합리적인지, 논리적인지를 사용자가 판단해야 하죠. 결국, 우리가 제공하는 답이 대체로 신뢰할 수 있는 수준에 도달해야 합니다."
"이 목표에 도달하려면 아직 몇 년이 더 필요할 것입니다. 그 사이에 우리는 연산 능력을 계속 증가시켜야 합니다."
기본 원리로 문제를 푸는 것이 계산적으로 제한되거나 불가능한 경우, AI를 사용. AI를 훈련시켜 그 물리학을 이해하게 하고, 매우 큰 시스템을 모방.
이제, AI를 사용해 인간 생물학을 모방하고, 이 복잡한 다중 스케일 시스템을 더 잘 이해, 인간 생물학의 디지털 트윈(digital twin)을 만들 수 있을까라는 희망. 우리가 가진 가장 큰 희망.
"저는 이제 우리가 디지털 생물학자, 기후 과학자, 그리고 엄청나게 큰 규모와 복잡한 문제를 다루는 과학자들이 처음으로 물리적 시스템을 더 잘 이해할 수 있도록 하는 컴퓨터 과학 기술을 갖게 되었다고 믿습니다.
Q) GPU가 사용하는 에너지가 엄청나게 많다는 점도 사실. 예측에 따르면 2030년까지 세계 에너지 소비량이 30% 증가할 것. 이 점에 대해 걱정하지 않는지?
A) 그 질문에 답하기 위해 반대로 접근. 만약 세계가 AI 공장을 가동하기 위해 더 많은 에너지를 사용한다면, 그 결과 우리는 더 나은 세상을 가지게 될 것.
첫 번째, AI의 목표는 모델을 학습시키는 것이 아닙니다. AI의 목표는 모델을 활용하는 것. AI의 목표는 학습 자체가 아니라 활용입니다. 추론은 매우 효율적.
예를 들어, AI는 새로운 방식으로 이산화탄소를 저장할 수 있는 방법을 발견하거나, 새로운 풍력 터빈 디자인을 개발할 수도 있음. 전기를 저장하는 새로운 소재나, 태양광 패널을 더 효율적으로 만드는 소재를 찾아낼 수도 있음. 결국 목표는 AI를 학습시키는 것이 아니라, AI를 활용하는 것입니다.
두 번째로, AI는 어디에서 학습하든 상관없음. AI 슈퍼컴퓨터를 전력망에서 약간 떨어진 곳에 두고 지속 가능한 에너지를 사용하도록 하면 됨.
마지막으로, AI가 새로운 과학을 발견하고 에너지를 절약하는 데 매우 효율적이고 똑똑하게 사용할 수 있기를 바람. 전력망의 낭비를 줄일 수 있을 것.
AI를 사용해 여러 분야에서 에너지를 절약할 수 있기를 바랍니다. 에너지 낭비를 줄이고, 궁극적으로 AI가 소비하는 에너지의 20~30%를 되돌려줄 수 있다면 좋겠음. 에너지를 지능을 위해 사용하는 것이 우리가 상상할 수 있는 가장 가치 있는 에너지 사용 방식이라는 점.
로봇공학에서 부족한 부분은 물리적 세계를 이해하는 AI. 대규모 언어 모델은 오늘날 인지적 지식과 지능을 이해하지만 물리적 지능, 즉 '내가 컵을 놓았을 때 그것이 테이블을 뚫고 내려가지 않을 것이다'라는 물리적 직관을 아직 이해하지 못합니다. 그래서 AI에게 물리적 지능을 가르쳐야 합니다."
사실 우리는 이 분야에서 큰 진전. 생성형 AI를 사용해 텍스트를 비디오로 변환하는 데 성공한 사례를 알고 계실 겁니다.
그렇다면, AI에게 커피잔을 집어 들도록 요청할 수 있다면, 왜 그 명령을 로봇 팔로 실행하는 토큰으로 변환할 수 없겠습니까?
현재 우리가 생성형 AI와 로봇공학 사이의 격차를 메우는 데 있어 정말로 근접해 있음
로봇은 세 가지 유형이 대량으로 생산될 수 있으며, 사실상 이 세 가지 로봇만이 가능. 지금까지 역사적으로 다양한 로봇들이 존재했지만, 대량 생산으로 확장하는 것은 매우 어려움. 대량 생산이 가능해야 기술 플라이휠이 작동할 수 있습니다.
대량 생산은 더 많은 연구 개발(R&D)을 가능하게 하고, 이는 더 큰 기술적 돌파구를 가져옴. 그 결과 더 나은 제품이 만들어지고, 제품 수요가 더 커지며, 다시 대량 생산이 이루어지는 순환 구조가 만들어지죠. 이 R&D 플라이휠은 어떤 산업에서나 필수적.
이 플라이휠을 위한 로봇은 단 세 가지뿐입니다. 그중 두 가지가 가장 높은 생산량을 차지할 것입니다. 이 세 가지 로봇 모두 기존 세계에 바로 배치할 수 있는 특성을 가지고 있습니다. 이를 '브라운필드 배치라고 부름.
첫 번째- 자동차. 지난 150~200년 동안 자동차를 위한 세상을 만들어 왔음
두 번째- 드론. 하늘은 비교적 제한이 없기 때문
가장 높은 생산량을 기록할 로봇은 '휴머노이드 로봇', 즉 인간형 로봇. 그 이유는 우리가 우리 자신을 위해 만들어 놓은 세상과 로봇이 잘 맞기 때문
세 가지 로봇 유형 덕분에 로봇공학은 매우 높은 생산량으로 확장될 수 있음
https://youtu.be/NuTZNgrLBJk?si=Z44yCe62mKTqJflQ
(번역 요약 - 루팡)
AI란 무엇일까? AI는 인지의 자동화, 문제 해결의 자동화
문제 해결 - 세 가지 기본 아이디어로 축약
인지, 추론, 계획
문제 해결의 세 가지 기본 단계- 인지, 추론, 계획은 예를 들어 자율 주행차 주변의 환경을 인지하고, 자신의 위치와 주변 차량의 위치를 추론하며, 운전 방법을 계획하는 과정으로 나눌 수 있음.
우리가 하는 거의 모든 일에서, 인공지능이 특정 작업을 수행하도록 표현할 방법을 찾아낼 수 있습니다. 이러한 디지털 에이전트가 충분히 많아지고, 이 디지털 에이전트들이 인공지능을 생성하는 컴퓨터와 상호작용하기 시작한다면, 데이터 센터 전체가 이러한 디지털 지능이라고 불리는 것을 생성해내는 공장처럼 보일 것입니다. 우리가 이를 '토큰'이라 부름
우리는 코파일럿이나 ChatGPT 같은 인공지능을 만들고 있음. 여러 형태의 지능을 만들어내고 있는데, 이 지능들을 일종의 전구나 토스터라고 생각해 보세요. 모두가 사용하는 기기들이죠. 하지만 이 기기들은 공장에 연결됩니다.
산업적 관점에서 보면, 우리가 새로운 산업을 창조하고 있다는 것. 이 새로운 산업은 에너지를 투입해 디지털 지능을 만들어내는 공장 같은 역할. 이 디지털 지능은 다양한 애플리케이션에서 사용될 것.
그 소비량은 매우 클 것으로 예상. 이 전체 산업은 과거에 존재하지 않았던 산업.
무어의 법칙은 두 가지 개념에 의존. 첫 번째는 VLSI 스케일링.
두 번째는 전류 밀도를 일정하게 유지하면서 트랜지스터를 축소하는 Dennard 스케일링. 이를 통해 반도체 성능을 몇 년마다 두 배로 향상시킬 수 있었습니다. 즉, 1.5년마다 두 배, 5년마다 10배, 10년마다 100배로 증.
현재 우리가 경험하고 있는 것은, 신경망이 커질수록, 그리고 더 많은 데이터를 학습할수록, AI가 더 지능적으로 보인다는 것입니다. 이 현상은 마치 무어의 법칙처럼 경험적인 법칙입니다. 우리는 이것을 '확장 법칙(scaling law)'이라 부릅니다. 그리고 이 법칙은 계속 유지되고 있는 것으로 보입니다.
우리가 AI에서 알게 된 또 하나는, 사전 학습만으로는 충분하지 않다는 것입니다. 세상의 모든 데이터를 가져와 자동으로 지식을 발견하는 것은 중요하지만, 그것만으로는 충분하지 않아요.
사후 학습이 필요합니다. 특정 기술을 깊이 있게 배우는 과정이죠. 이 과정에서는 강화 학습, 인간 피드백, AI 피드백, 합성 데이터 생성, 다중 경로 학습 등 다양한 기술이 필요합니다. 요컨대, 특정 도메인에서 매우 깊이 있는 지식을 학습하는 것입니다.
사후 학습을 마치면, 여러분은 특정한 경력을 선택하고, 그 안에서 다시 많은 학습을 하게 됩니다. 그 후에는 사고 단계가 필요합니다. 이것이 바로 우리가 '테스트 타임 스케일링'이라고 부르는 것입니다.
"여러분이 어떤 문제의 답을 알고 있다면, 그 답을 바로 제공할 수 있을 것입니다. 하지만 어떤 문제는 처음 원칙(first principles)으로 분해해 하나씩 해결해야 할 수도 있습니다. 예측할 수 없는 답이라면, 시뮬레이션을 반복하거나 여러 가지 결과를 탐색해야 할 수도 있습니다. 이 과정을 우리는 '사고'라고 부릅니다. 그리고 생각할 시간이 길어질수록 더 높은 품질의 답을 얻을 가능성이 높아집니다."
"따라서 현재 AI 개발에는 세 가지 주요 영역이 있습니다. 더 많은 연산을 투입할수록 더 높은 품질의 답을 얻을 수 있는 영역들입니다. 첫 번째는 사전 학습이고, 두 번째는 사후 학습, 그리고 세 번째는 사고입니다."
"현재 우리가 제공할 수 있는 답변은 최선의 답이지만, 우리는 신뢰할 수 있는 답에 도달하기까지 시간이 더 필요합니다. 아직까지는 답이 환각인지 아닌지, 합리적인지, 논리적인지를 사용자가 판단해야 하죠. 결국, 우리가 제공하는 답이 대체로 신뢰할 수 있는 수준에 도달해야 합니다."
"이 목표에 도달하려면 아직 몇 년이 더 필요할 것입니다. 그 사이에 우리는 연산 능력을 계속 증가시켜야 합니다."
기본 원리로 문제를 푸는 것이 계산적으로 제한되거나 불가능한 경우, AI를 사용. AI를 훈련시켜 그 물리학을 이해하게 하고, 매우 큰 시스템을 모방.
이제, AI를 사용해 인간 생물학을 모방하고, 이 복잡한 다중 스케일 시스템을 더 잘 이해, 인간 생물학의 디지털 트윈(digital twin)을 만들 수 있을까라는 희망. 우리가 가진 가장 큰 희망.
"저는 이제 우리가 디지털 생물학자, 기후 과학자, 그리고 엄청나게 큰 규모와 복잡한 문제를 다루는 과학자들이 처음으로 물리적 시스템을 더 잘 이해할 수 있도록 하는 컴퓨터 과학 기술을 갖게 되었다고 믿습니다.
Q) GPU가 사용하는 에너지가 엄청나게 많다는 점도 사실. 예측에 따르면 2030년까지 세계 에너지 소비량이 30% 증가할 것. 이 점에 대해 걱정하지 않는지?
A) 그 질문에 답하기 위해 반대로 접근. 만약 세계가 AI 공장을 가동하기 위해 더 많은 에너지를 사용한다면, 그 결과 우리는 더 나은 세상을 가지게 될 것.
첫 번째, AI의 목표는 모델을 학습시키는 것이 아닙니다. AI의 목표는 모델을 활용하는 것. AI의 목표는 학습 자체가 아니라 활용입니다. 추론은 매우 효율적.
예를 들어, AI는 새로운 방식으로 이산화탄소를 저장할 수 있는 방법을 발견하거나, 새로운 풍력 터빈 디자인을 개발할 수도 있음. 전기를 저장하는 새로운 소재나, 태양광 패널을 더 효율적으로 만드는 소재를 찾아낼 수도 있음. 결국 목표는 AI를 학습시키는 것이 아니라, AI를 활용하는 것입니다.
두 번째로, AI는 어디에서 학습하든 상관없음. AI 슈퍼컴퓨터를 전력망에서 약간 떨어진 곳에 두고 지속 가능한 에너지를 사용하도록 하면 됨.
마지막으로, AI가 새로운 과학을 발견하고 에너지를 절약하는 데 매우 효율적이고 똑똑하게 사용할 수 있기를 바람. 전력망의 낭비를 줄일 수 있을 것.
AI를 사용해 여러 분야에서 에너지를 절약할 수 있기를 바랍니다. 에너지 낭비를 줄이고, 궁극적으로 AI가 소비하는 에너지의 20~30%를 되돌려줄 수 있다면 좋겠음. 에너지를 지능을 위해 사용하는 것이 우리가 상상할 수 있는 가장 가치 있는 에너지 사용 방식이라는 점.
로봇공학에서 부족한 부분은 물리적 세계를 이해하는 AI. 대규모 언어 모델은 오늘날 인지적 지식과 지능을 이해하지만 물리적 지능, 즉 '내가 컵을 놓았을 때 그것이 테이블을 뚫고 내려가지 않을 것이다'라는 물리적 직관을 아직 이해하지 못합니다. 그래서 AI에게 물리적 지능을 가르쳐야 합니다."
사실 우리는 이 분야에서 큰 진전. 생성형 AI를 사용해 텍스트를 비디오로 변환하는 데 성공한 사례를 알고 계실 겁니다.
그렇다면, AI에게 커피잔을 집어 들도록 요청할 수 있다면, 왜 그 명령을 로봇 팔로 실행하는 토큰으로 변환할 수 없겠습니까?
현재 우리가 생성형 AI와 로봇공학 사이의 격차를 메우는 데 있어 정말로 근접해 있음
로봇은 세 가지 유형이 대량으로 생산될 수 있으며, 사실상 이 세 가지 로봇만이 가능. 지금까지 역사적으로 다양한 로봇들이 존재했지만, 대량 생산으로 확장하는 것은 매우 어려움. 대량 생산이 가능해야 기술 플라이휠이 작동할 수 있습니다.
대량 생산은 더 많은 연구 개발(R&D)을 가능하게 하고, 이는 더 큰 기술적 돌파구를 가져옴. 그 결과 더 나은 제품이 만들어지고, 제품 수요가 더 커지며, 다시 대량 생산이 이루어지는 순환 구조가 만들어지죠. 이 R&D 플라이휠은 어떤 산업에서나 필수적.
이 플라이휠을 위한 로봇은 단 세 가지뿐입니다. 그중 두 가지가 가장 높은 생산량을 차지할 것입니다. 이 세 가지 로봇 모두 기존 세계에 바로 배치할 수 있는 특성을 가지고 있습니다. 이를 '브라운필드 배치라고 부름.
첫 번째- 자동차. 지난 150~200년 동안 자동차를 위한 세상을 만들어 왔음
두 번째- 드론. 하늘은 비교적 제한이 없기 때문
가장 높은 생산량을 기록할 로봇은 '휴머노이드 로봇', 즉 인간형 로봇. 그 이유는 우리가 우리 자신을 위해 만들어 놓은 세상과 로봇이 잘 맞기 때문
세 가지 로봇 유형 덕분에 로봇공학은 매우 높은 생산량으로 확장될 수 있음
https://youtu.be/NuTZNgrLBJk?si=Z44yCe62mKTqJflQ
YouTube
NVIDIA's Jensen Huang On How He Wooed His Wife Saying He'll Be CEO By 30, Leaves Students In Splits
NVIDIA CEO Jensen Huang returned to his alma mater and interacted with the students of Hong Kong University Of Science & Technology. He opened up about everything, from the importance of AI, how AI evolved, NVIDIA's stock price and even how he wooed his wife…
Forwarded from 강해령의 반도체탐구생활