오른손의 좋은 세상만들기

OpenAI 와 AMD사이에 다년간에 걸친 6GW급 인공지능 AI GPU 공급계약이 10/6월요일 개장전에 미국을 흔들었다.

딜에대한 내용은

• 2026년에 1GW 공급계약, 주로 MI450 
• 2030년까지 6GW 공급 (공급 ASP는 아직 없음)
• OpenAI는 AMD주식 160M 주를 $0.01에 매입할수 있는 warrant(신주 조건부 전환사채/인수채권)를 가짐
  • 이 Warrant는 행사조건이 6GW공급이 마무리되고, AMD주가가 $600달러를 달성했을경우에 행사가 가능합니다. 행사날짜 제한도 있는데 2030년 10월 5일까지 행사되어야 합니다.
  • 만약 AMD주가가 $600 찍으면 market cap이 $1T 가까이 되고, OpenAI가 가진 AMD주식은 $100B 정도됩니다.
  • 뭐지 $100B정도 왕창사줘서 주가가 3배되면 다시 $100B이 생기는 또하나의 순환출자구조인가?
  • 어쨋든 AMD는 손해없는 장사

내년에 1GW를 공급하려면(공급한다고 가정하면)  MI450을 1M(100만개)를 OpenAI에 팔아야 하는데, 이것만 매출가격이 무려 $25B 이 됨. 다른 매출도 계속되면서 추가고 25B 이니 이게 가능하다면 주가가 쉽게 300불은 넘어야 함.

나(=시장)이 궁금한 것은 OpenAI가 달라고 한다고 줄수 있는 상황인지가 파악이 안됨. 우선 TSMC 캐파가 2026년것은 조정이 불가능한 상태임. HBM도 아직 공급부족. AMD는 재고를 너무 두려워해서 미리 주문을 확보하지도 못하는 쫄보.

만약에 낸녀에 1GW를 공급해낸다면, AMD주식은 2027녕에 이미 $600로 빠르게 근접할 수 있을것으로 생각됨.

AMD and OpenAI: The 6 Gigawatt Bet - Dr Ian Cutress
https://morethanmoore.substack.com/p/amd-and-openai-the-6-gigawatt-bet

Press Release - AMD and OpenAI Announce Strategic Partnership to Deploy 6 Gigawatts of AMD GPUs
https://ir.amd.com/news-events/press-releases/detail/1260/amd-and-openai-announce-strategic-partnership-to-deploy-6-gigawatts-of-amd-gpus

Form 8-K
https://ir.amd.com/financial-information/sec-filings/content/0001193125-25-230895/d28189d8k.htm

곧 2025 Q3 실적발표인데,

2026년 1년 Data Center revenue가 못해도 $25B으로 forecast를 앞으로 남은 두번 실적에서 가이드를 줘야 할텐데, 그래야 계속해서 upside를 유지할수 있을듯. 25B이면 YoY가 60%되는것이고 OpenAI만 있는것은 아니니 만약에 이 보다 높게 가이드를 준다면 다시 폭등도 가능할듯. AMD의 제품이 예상대로 나오는지와 실행능력에 달려있음.

Green500에서 TOP500의 시스템은 소비 전력 와트당 HPL 벤치마크에서 얼마나 많은 계산 성능을 제공하는지에 따라 순위가 매겨집니다. 이 전력 효율은 기가플롭/와트 단위로 측정됩니다. 아직은 전력효율보다는 성능만을 보는 슈퍼컴퓨터이지만, 다행히 이런 순위도 점점 중시하고 있어서 다행입니다. 안그러면 그냥 마구 때려넣어서 크게만 만들려고 할테니까요.

https://top500.org/lists/green500/2024/11/

https://www.theregister.com/2024/11/22/nvidia_green500_amd/?td=readmore

두가지 놀라운 모습이네요. 빨간색 Nvidia 정말 무시무시하게 오르네요. 이 블루오우션에서 인텔만 계속 하락. 굳이 비교하면 물반 고기만인데 아무것도 못잡고 집에가는 그런 모습일련가요?

인텔 Data Centen 1년 매출은, 2018부터 이미 더 늘어나지 않는 상태였네요. 2024년에는 12-14B정도로 끝날지도 모르겠네요.

• 2023: $15.52 billion
• 2022: $19.2 billion
• 2021: $22.7 billion
• 2020: $23.5 billion
• 2019: $23.5 billion
• 2018: $22.99 billion

인텔을 AMD와 비교해도, 2024 Q2에 AMD는 $2.8B, 인텔은 $3B 거의 같고요. 다음분기는 최로로 AMD가 Intel을 data center 매출에서 넘어서게 됩니다.

AI시대 다시 주목받는 AMD Radeon RX 7900 XTX 24GB

AMD 라데온 Radeon은 원래 성장형 그래픽카드로 유명한데, 벌써 출시된지 2년이 다되어 가기도 해서 이미 성장(?)도 많이 했지만 외장 그래픽카드중에 24GB 메모리를 가진것을 찾기가 너무 어렵다 보니 다시 주목을 받고 있습니다. AI 추론용으로 쓰려면 GPU memory에 model을 올려놓고 써야하는데 24GB가 갖는 강점은 너무 강합니다. 속도가 조금 느린것은 참을 수 있지만, 돌릴 수 없는 것은 못참지요.

Ebay중고가를 살펴보니 800불 정도에 구매할수 있네요. 그래서 가격벙어도 잘되고 있습니다.

AI시대 주목받는 EPYC CPU

AI 모델을 돌리려면 GPU만 가능할거라 생각하지만 AMD는 64/128 코어를 가진 EPYC을 오래전부터 만들어왔습니다. 시스템 메모리가 DDR4/DDR5이지만 대체로 EPYC은 최소 64GB부터 256GB까지 큰 메모리를 갖춘 시스템이 많습니다. 상대적으로 큰 AI모델을 시스템 메모리에 올리고 chatgpt같은 app을 돌리면 속도는 물론 GPU로 돌렸을때 보다 느리지만 모델이 크다보니 상당히 quality있는 답을 얻을 수 있습니다. 그리고 강력한 CPU thread가 많다보니 생각보다는 느리지도 않습니다. 소비자용 GPU 로는 24GB가 max이지만 system memory는 5-10배는 더 크기 때문에 못돌리는 모델도 돌려볼 수 있습니다. 80GB 사이즈 되는 모델을 돌려보고 오, 결과가 상당히 좋은데 했습니다. 돌릴 system이 있다면 한번 돌려보시길 강추.

AMD가 Data Center매출 호조와 guidance를 높인것에 힘입어 전체 반도체 주가를 견인하는 역할을 했습니다. 그러나 정작 본인은 NVidia에 비해 주목을 덜 받는 웃픈일이 생겼습니다. ㅋㅋㅋㅋ

장중에는 AMD는 상승분을 다 반납하고 2%대도 있었고 그 와중에 NVidia는 계속 +10%로 폭등중.

AMD정도가 이렇게 좋다면 NVidia는 얼마나 더 좋을까 이렇게 사고가 흘러가는것 같음.

AI Data 기업인 databricks에서는 저렴한 솔루션은 AMD GPU를 통해서 제공하고 있습니다. 물론 대부분은 NVidia GPU를 사용할수 밖에 없지만 작년 6월에 AMD솔류션을 써왔던 MosaicML을 인수하면서 가격대비 성능을 중시하는 고객을 위한 시장을 미리 생각했던것 같습니다. 작년에 읽은 기사인데 지금보니 더 의미가 있는것 같습니다. 시장을 잘 읽고 있는것 같습니다.

----------------

데이터브릭스와 AMD 파트너십: 데이터브릭스는 대규모 언어 모델(LLM) 학습을 위해 MI250과 같은 AMD GPU를 사용하는 AMD와 파트너십을 맺었습니다. 이 파트너십은 상당한 성능 향상을 가져왔습니다.
소프트웨어 혁신: AMD의 ROCm 소프트웨어 플랫폼은 OpenAI Triton 컴파일러에 대한 상당한 업그레이드와 기여를 통해 성공의 핵심 요소로 부각되고 있습니다.
성능 향상: 데이터브릭스는 ROCm 5.7 및 플래시어텐션-2와 함께 트레이닝 성능을 1.13배 향상시켰으며, GPU 클러스터를 통해 강력한 확장성을 입증했습니다.
향후 전망: 데이터브릭스 및 기타 기업들은 AI 트레이닝 능력을 더욱 향상시킬 것으로 기대되는 AMD의 MI300X GPU의 출시를 고대하고 있습니다.

-----------------

Why Databricks is Using AMD GPUs
https://analyticsindiamag.com/ai-origins-evolution/why-databricks-is-using-amd-gpus/

AI PC는 NPU 전쟁인데, AMD가 7월부터 판매하는 9000 시리즈  APU부터 50 TOPS 성능이 나는 NPU를 탑재했다고 합니다. 경쟁사에 비해서 10-20% 성능격차가 있을것으로 보입니다. 퀄컴도 이번에 많이 따라왔다고 생각은 드는데 AMD도 정말 빠르게 잘 대응중이네요.

차세대 AMD 서버용 CPU는 EPYC Turin (에픽 튜린), 한 패키지에 192코어를 지원한다고 하니 서버용 2 CPU보드는 386 Cores / 768 Threads를 지원한다고 합니다.

차세대 AMD Data Center GPU라인업은, MI350부터 CDNA 4 아키텍쳐가 적용되는데 그전 아키텍쳐대비 무려 35x배나 성능향상이 있을 예정이라고 합니다. 헐~ 2026년에는 MI400이 대기하고 있고 이것도 CDNA NEXT(5?) 가 적용되어 또 한번 점프를 할것이라고 합니다. GPU의 성능향상은 CPU랑 완전 다른 스케일로 점프하고 있습니다.

4월에 누가 정말 일찍 정리해서 만들어놨네요.

AMD는 라이젠 Ryzen 1세대 출시때랑 비슷한 양상이긴하네요. 워낙 빠르게 변해서 내년에 MI400 시리즈를 발표해야할텐데 표 상으로는 어려울것 같기도하고요. 내년에 AMD의 명운을 걸려있다고 보여지네요

https://www.trendforce.com/presscenter/news/20240416-12119.html

https://www.reddit.com/r/AMD_Stock/comments/1dkjrhq/amdnvidia_dc_ai_dgpus_roadmap_visualized/

GFX1100 Navi 31 RDNA3 = Radeon RX 7900 XTX

https://wccftech.com/amd-rdna-3-navi-31-navi-32-navi-33-gpus-radeon-rx-7000-graphics-cards-detailed/

AMD가 Xilinx를 인수한 이후에 젤 큰 업데이트 인것 같습니다. 2-3년 이내에 FPGA가 AI 관련 system에서 아주 중요한 일을 할수 있을것으로 기대하고 있습니다. Spartan family를 유심히 봐야할것 같습니다.

https://ir.amd.com/news-events/press-releases/detail/1186/amd-extends-market-leading-fpga-portfolio-with-amd-spartan

https://www.phoronix.com/news/AMD-Spartan-UltraScale-Plus

https://semiengineering.com/using-fpgas-for-ai/

• FPGA for AI: The article discusses the use of FPGAs (Field Programmable Gate Arrays) for artificial intelligence (AI) and machine learning (ML), highlighting their potential due to inherent parallelism and hardware programmability.
• Power Efficiency: FPGAs are considered for AI applications because they can perform more processing than GPUs (Graphics Processing Units) within a quarter of the power budget, making them a low-power solution.
• Scalability: FPGAs are scalable and can be daisy-chained for larger algorithms or processing jobs, allowing for flexibility in handling complex AI tasks1.
• Programming Challenges: Despite their benefits, FPGAs face challenges such as a lack of a natural programming model for software developers and being power-hungry, which affects their adoption in AI applications2.

https://embeddedcomputing.com/technology/processing/semiconductor-ip/fpga-insights-and-trends-2023-unleashing-the-power-of-fpga