IT관련 뉴스를 정리하던 중, AMD의 서버시장 점유율이 25%를 넘었다는 기사가 있는데, 그 중에 리사수의 커멘트가 한국의 심각한 기레기 상황과 너무 잘 맞아떨어지는것 같아서. 웃었네요

AMD가 삼성 파운드리로 갈수 있다는 루머에 대해서, 나는 실제로 AMD 일부 제품은 삼성에서 생산해야 회사가 더 성장할 수 있다고 믿지만. 기사에서는 AMD의 AI chip을 4nm(다른 루머에서는 3nm) 공정을 삼성으로 이전할 수 있다는 루머에 대해서 리사수는 한국 언론을 믿냐고 반문했다는 부분이 있습니다. 한국 기레기는 사실에는 크게 상관없고 재벌, 권력, 돈에 편중된 기사만 쓰지요. 그래서 국민들을 바보로 만들고요.

https://www.digitimes.com/news/a20230720PD202/ai-gpu-amd-mi300-nvidia-tsmc.html

"MI300 is the most complex product in the world, we could not do it without the partnership with TSMC," Su indirectly denied South Korea media reports that AMD might shift its AI chip production to Samsung Electronics using 4nm process technology, by humorously asking reporters: "Do you believe Korea media?"

Newegg에서 800불까지 내려갔는데 안지를 수가 없었음. 100불짜리 게임 Starfield도 껴주고. 오랜만에 NVidia에서 AMD로 넘어가게 됐다. 지금까지 잘 버텨준 NVidia RTX 2080 TI와 비교해보니 2080 TI가 너무 왜소해보인다.

24GB를 어떻게 쓰면 더 신나게 돌릴수 있을지 고민해봐야겠다. 주말 프로젝트가 재밌어질듯.

리눅스에서 게임은 생각도 못할때가 있었는데, 그래도 돈많고 software 인력이 더 많은 NVidia가 쬐금 더 낫은 적이 좀 있었던것 같은데, 요즘 서치해 보면 리눅스 사용자들 사이에서는 AMD가 더 많이 선호되고 있어서 깜짝 놀랐음.

* Linux gaming reddit
https://www.reddit.com/r/linux_gaming/comments/149903d/known_alternatives_to_linux_gaming_on_reddit/
* Reddit에서 넘어간 사람들이 말하는 AMD로 linux에서 gaming
https://lemmy.world/post/1086446
* Linux gaming wiki, GPU section
 https://linux-gaming.kwindu.eu/index.php?title=Hardware_Recommendations#GPUs

AMD GPU하나 들여야 하나...

George Hotz라는 괴짜천재가 새로운 회사를 설립해서 저렴하고 전력을 덜 먹는 무시무시한 Machine Learning(ML), AI 전용머신을 만든다고 합니다.

Tiny Corp's Website: https://tinygrad.org/
Comma-ai's Website: https://comma.ai/

GPU가 6개 들어가고 CPU는 AMD EPYC칩을 사용한다고 합니다. 무슨 GPU 모델인지는 안밝히고 있지만 NVidia는 아닌것으로 봐서 GPU도 AMD일 확률이 높을듯. 그렇게 하고도 1600W 파워정도로 동작이 가능하고 미국의 120V outlet에 꼽아서도 동작할거라고 합니다. 헐... 가격은 $15,000, 지금 $100주고 pre-order할수 있다고 합니다. 6개월후에 팔수 있다고 하는데, 이바닥 돌아가는거 보면 내년 말에 받아도 엄청 빨리 받는것일 듯. Ubuntu깔려서 바로 돌아가는 것을 목표로 한다고 하는데, software가 그렇게 쉽게 완성되지는 않지요.

-------------

The tinybox

• 738 FP16 TFLOPS
• 144 GB GPU RAM
• 5.76 TB/s RAM bandwidth
• 30 GB/s model load bandwidth (big llama loads in around 4 seconds)
• AMD EPYC CPU
• 1600W (one 120V outlet)
• Runs 65B FP16 LLaMA out of the box (using tinygrad, subject to software development risks)
• $15,000

Preorder a tinybox today! (just $100)

-------------

조금 통통 튀지만 이런 천재(괴짜, nerd)들은 많으면 많을 수록 인류에게 이롭다고 생각합니다.

P.S 조금 더 읽어보니 GPU는 AMD RX 7900 XTX 24GB 를 말하고 있습니다. 이거 곧 ROCm에서 지원한다는 모델입니다. 일반 소비장용 그래픽카드로는 유일하게 지원할거라고 지난 글에서 언급한적이 있습니다. 2023년 년말로 갈수록 AMD RX 7900 XTX 수요가 많이 증가할 것으로 보입니다.

지금 Newegg에서 가격을 서치해 보면 $920인데, promotion code VGAEXCAA793를 이용하면 $15깍아줘서 $905에 살수 있네요. power supply만 안바꿔도 되면 하나 사서 ROCm도 돌려보고 tinygrad 도 돌려보고 싶은데, power supply를 사야해서...

P.S AMD RDNA3 Instruction Set Architecture Reference guide

https://www.amd.com/system/files/TechDocs/rdna3-shader-instruction-set-architecture-feb-2023_0.pdf

재미있는 글이 올라와서 여러 커뮤니티에서 뜨거운 반응을 보이고 있다. CUDA때문에 AMD MI300X가 나와도 잘 팔릴수 있겠냐는 회의론을 정면으로 반박하는 내용인데.

https://www.semianalysis.com/p/amd-ai-software-solved-mi300x-pricing?utm_source=substack&utm_medium=email 

AMD주주이기도 하고 AMD가 어디까지 갈수 있을지 관심가지고 지켜보고 계산해보고 있는입장에서 자세히 읽어보았는데. (뒷부분은 유료라 읽을수 없었음) 짧게 요약하면 NVidia A100으로 돌리던 LLM을 MI250으로 코드 한줄 바꾸지 않고 돌렸는데 73%-80% 성능이 쉽게 나왔다는 이야기. 아직 AMD 솔루션을 사용한지 얼마 안된것을 감안하면 이건 엄청난 진전이라는 내용. 게다가 ROCm based에서 OpenAI Triton-based FlashAttention로 바꾸면 84-90%까지 성능이 쉽게 나온다는 이야기.

=> ROCm이 쓰레기구만. Triton은 뭐길래 이렇게 쉽게 잘나와

OpenAI가 밀고 있는 triton은 CUDA보다 더 좋은 성능을 목표로 하는 open source project라 한다. AMD GPU 공식지원은 2023년 말까지 목표라고 함.

https://github.com/openai/triton

위 내용을 기반으로 볼때 여러 업체에서 구할수 없는 NVidia를 바라보기 보다 AMD기반으로 전환을 계획할 가능성이 좀 있을것 같다는 생각이 듬. 처음에는 쉽게 안넘어간다고 봐야 할것 같고. 이 시점을

• 첫번째 Ryzen이 나온 시점으로 보면 될것 같기도 하고
• 첫번쩨 서버 CPU EPYC Naples 나폴리가 나온 시점이 될것 같기도 하고

키는 사람들이 괜찬네하면서 다음 세대것이 나오면 많이 넘어가고 그 다음 세대에는 동급으로 되었다가 그 다음 세대에서는 선두가되는... 헉... 정말.. 에이 암레발이지... 

P.S MosaicML 얘네는 뭐야 하고 찾아보니, Databricks라는 회사가 상당히 좋은 value를 쳐주고 최근에 인수했음. AI때문에 인수도 활발하고 시장이 정말 뜨겁다

https://techcrunch.com/2023/06/26/databricks-picks-up-mosaicml-an-openai-competitor-for-1-3b/

AMD MI250을 사용한 자세한 페이지도 만들어놨다. AMD AI의 엄청난 우군이구만.

https://www.mosaicml.com/blog/amd-mi250

반도체 회사에 평생일하다보니 여러 반도체 주식에 오래동안 투자하고 있지만 요즘 가장 비중이 많은 종목은 AMD인데 확실한 강점을 틈세시장을 잘 노린다는 점과 가격대 성능비가 상당히 좋다는 점이다. 안좋은 점은 마켓리더가 아니고 모든 분야에서 그냥 2인자 play한다는 점인데. fast follower 전략이랄까.

요즘 핫한 AI관련해서도 AMD는 철저히 2인차 play를 몇년전부터 해왔는데, 그거라도 아주 잘한 것이긴 한데, Intel같은 경우는 AI관련주식에도 이름을 못 올리고 있으니. AMD가 자일링스(Xilinx) 인수한 것은 지금 보면 신의한수였다고 볼수 있다. 생각보다 IT변화가 자일링스의 가치를 몇배나 더 높게 평가하게 해준다. HW적으로는 많은 부분에서 market leader로 자리메김 하는 것 같다.

그러나 SW는 공짜가 아니다. 개발하는 인력이 많이 들어가고 시간도 많이 필요하고 community의 도움도 절실하다. 이부분은 AMD 사이즈와 인력으로는 잘할수 없는 부분이다. 요즘 한한 AI관련 software도 NVidia에 미칠수가 없다. 그래도 뭐라도 하고 있어서 다행인데, ROCm으로 지원은 계속하고 있는데 좋은 이야기는 못듣는것 같다.

https://www.amd.com/en/graphics/servers-solutions-rocm-ml

https://rocmdocs.amd.com/en/latest/rocm.html

6-7년쯤 전부터 AMD에 투자했으니 수익률은 어마어마 하고 만족하고 있지만, 반 정도는 처분하고 다른 좋은 종목에 묻어둬야 할까를 고민하고 있는데... 리사수가 향후 10년후에 대한 비전을 이야기 하는것을 듣고 더 들고 있어야 하는지 생각해 보게됐다.

SSCC 2023 Plenary - Lisa Su: Innovation For the Next Decade of Compute Efficiency

https://www.youtube.com/watch?v=3jHi8E5C-18&ab_channel=ISSCCVideos

수퍼커퓨터의 performance(=처리속도)는 2.x년만에 두배씩 되고 있는데, 앞으로 AI 등 새로운 분야에서 컴퓨팅 파월를 더 많이 필요하게 될테니 수요는 더욱 가파르게 증가할테지요.

그렇지만 컴퓨터 파워도 미친듯이 증가해서 이런식으로 가다가는 수퍼컴퓨터 한대당 원자력 발전소 1대가 필요한 시대가 올거라고 합니다. 말이안되고 이렇게 된다면 인류의 종말에 한반 가까이 가는것으로 밖에 안됩니다. 당연히 효율성(efficiency)가 computing에 주요 목표가 되어야 합니다. 인텔은 지금 트렌드를 따라가기도 벅찬데 파워를 효율적으로 쓰는것은 기대하기 힘들고, 엔비디아(NVidia)는 mobile쪽은 생각도 없고, 막 때려박아서 파워 왕창먹고 빠르게만 만드는데 특화되어 있지요. 지금도 가장 효율적인 시스템은 AMD라고 인식되가고 있는데 앞으로 10년간 이렇게만 진화한다면 사람이라면 AMD이런 인식이 퍼지고 마켓리더도 가능하지 않을까 생각이 됩니다.

역시 인류를 위하는 vision이 있는 반도체 회사는 AMD밖에 없나 다시 생각해보게 됩니다. 

P.S 우리 빛사수 누님께서 건강하시고 계속 AMD 리딩을 잘 하셔야 할텐데

다행인지 불행인지 ARM으로 서버시장 공략하는 회사달은 다 문을닫거나 축소하고 있고 x86 서버시장은 x86만의 잔치로 오래갈듯. 퀄컴(Qualcomm)도 한차레 서버칩을 접은 이후 2022년에 Nuvia를 인수해서 서버시장에 다시 들어가나 했지만 결국 사놓고 서버칩 분야만 접었습니다. ARM으로는 시장에서 경쟁이 쉽지 않다는 것을 보여주는 좋은 예가 됩니다.

2022년 2023년은 recession에 해당하는 해라 공룡기업들이 서버에 투자도 줄이고 있는 상황인데 혼자만 잘나가는 회사는 찾기가 어려운 상황이 될것으로 예상됨. 그렇지만 AMD의 서버시장 점유율은 계속 오를것은 자명하고 인텔이 계속 실수를 반복하고 다시 회복하는데 오래 걸리는 것을 고려하면 2024년말까지 AMD가 50%나 그에 상응하는 4x%에 도달할것으로 많이 예측하는듯.

Can AMD get to a 50% share of the x86 Data Center Revenue market by mid 2024?

https://www.reddit.com/r/AMD_Stock/comments/yh1otf/can_amd_get_to_a_50_share_of_the_x86_data_center/

https://wccftech.com/amd-epyc-cpus-including-genoa-bergamo-expected-to-push-server-market-share-beyond-30-percent/

AMD Ryzen(라이젠) 이 잘해주면서 인텔이 8세대는 아주 잘 만들었네요. high end 좋은 성능이 필요한 노트북을 고른다면 i7-8750H가 들어간 노트북을 고르면 좋을듯. 작년에 같은 용도로 인기 많았던 i7-7700HQ에 비해서 코어도 6개되고 성능도 팍~ 향상되었네요. 오...

-----------------

그동안 옆그레이드라 3년넘은 desktop 가지고 계신 분들도 이번에 upgrade할만 하다는 의견들이 많네요.

더 좋은것도 많지만 적절한 가격까지 생각하면 i7-8750H 너무 좋다고 하네요. 가격도 적당하면서.

Intel 8th-gen Core i7 vs. 7th-gen Core i7 CPUs: An upgrade that's finally worth it

https://www.pcworld.com/article/3270625/laptop-computers/intel-8th-gen-core-i7-vs-7th-gen-core-i7-cpus-should-you-upgrade.html

역시 경쟁이 좋네요. AMD Ryzen(라이젠)이 잘 나오니 인텔이 일을 하네요. I3로도 이제 더 성능을 기대할수 있네요. 회사나 학교가 아니라 개인적으로 쓸거면 이젠 I3가 짱이네요. AMD가 죽지않고 계속 잘해줬으면 하면 Ryzen도 좋은 선택이고요. 앞으로 i3는 쇼핑시즌마다 더 할인을 할거라 i3-8100 계속 유심히 서치해 보면 좋을듯.

--------------------

-----------------

중급자 정도 되면, 컴파일이나 그래픽 카드 따로 달고 하드코어 게임하려면 I5로 가야겠지요. Intel 8세대 프로세서들이 전체적으로 성능이 쭉 올라갔네요.