오른손의 좋은 세상만들기

George Hotz라는 괴짜천재가 새로운 회사를 설립해서 저렴하고 전력을 덜 먹는 무시무시한 Machine Learning(ML), AI 전용머신을 만든다고 합니다.

Tiny Corp's Website: https://tinygrad.org/
Comma-ai's Website: https://comma.ai/

GPU가 6개 들어가고 CPU는 AMD EPYC칩을 사용한다고 합니다. 무슨 GPU 모델인지는 안밝히고 있지만 NVidia는 아닌것으로 봐서 GPU도 AMD일 확률이 높을듯. 그렇게 하고도 1600W 파워정도로 동작이 가능하고 미국의 120V outlet에 꼽아서도 동작할거라고 합니다. 헐... 가격은 $15,000, 지금 $100주고 pre-order할수 있다고 합니다. 6개월후에 팔수 있다고 하는데, 이바닥 돌아가는거 보면 내년 말에 받아도 엄청 빨리 받는것일 듯. Ubuntu깔려서 바로 돌아가는 것을 목표로 한다고 하는데, software가 그렇게 쉽게 완성되지는 않지요.

-------------

The tinybox

• 738 FP16 TFLOPS
• 144 GB GPU RAM
• 5.76 TB/s RAM bandwidth
• 30 GB/s model load bandwidth (big llama loads in around 4 seconds)
• AMD EPYC CPU
• 1600W (one 120V outlet)
• Runs 65B FP16 LLaMA out of the box (using tinygrad, subject to software development risks)
• $15,000

Preorder a tinybox today! (just $100)

-------------

조금 통통 튀지만 이런 천재(괴짜, nerd)들은 많으면 많을 수록 인류에게 이롭다고 생각합니다.

P.S 조금 더 읽어보니 GPU는 AMD RX 7900 XTX 24GB 를 말하고 있습니다. 이거 곧 ROCm에서 지원한다는 모델입니다. 일반 소비장용 그래픽카드로는 유일하게 지원할거라고 지난 글에서 언급한적이 있습니다. 2023년 년말로 갈수록 AMD RX 7900 XTX 수요가 많이 증가할 것으로 보입니다.

지금 Newegg에서 가격을 서치해 보면 $920인데, promotion code VGAEXCAA793를 이용하면 $15깍아줘서 $905에 살수 있네요. power supply만 안바꿔도 되면 하나 사서 ROCm도 돌려보고 tinygrad 도 돌려보고 싶은데, power supply를 사야해서...

P.S AMD RDNA3 Instruction Set Architecture Reference guide

https://www.amd.com/system/files/TechDocs/rdna3-shader-instruction-set-architecture-feb-2023_0.pdf

내 꿈이 이루어지는 나라!

 이번주 최대 쇼킹한 뉴스라면 GoDaddy가 IPO에 성공해서 오늘날짜로 $4B market cap에 가까워졌습니다. 한국돈으로 4조-5조 되나요. 그동안 GoDaddy는 Nerd와 미녀를 역어 자극적인 광고를 잘(!) 해왔습니다. 상당히 자극적이라 잊혀지지 않는 광고. 그러나 광고는 기억하는데 GoDaddy가 뭐하는 곳인지 아는 사람은 거의 없고요. 왜 이름을 GoDaddy로 지었는지 아직도 모르겠습니다.

GoDaddy는 Web Hosting 업체지요.(이것도 뭐하는 회사인지 모르는 사람이 많지요) 이런 업체가 IPO를 할수 있고 성공할수 있다니, 정말 미국은 꿈이 이루어지는 나라입니다. 내가 자란 한국에서는 최소한 이런거 해서 창업해서 성공하기도 어렵고 겨우 밥먹고 살거나 몇년하다 망했거나 하지요. 경쟁도 심하거니와 진입장벽이 낮아 저가 덤핑도 많고 잘한다 하더라도 대기업이 인수해줄리 없고 써줄리 없고. 웹호스팅으로 GoDaddy 창업자들은 상당히 큰 부를 쥐었겠네요. 미국은 이런 것으로 창업해도 엄청난 부를 쥘수 있는 '내 꿈이 이뤄지는 나라입'니다.

저는 20년전부터 여러 호스팅 업체를 이용해봤지만, 이 회사는 상당히 interface고 깔끔하고 서비스 질도 좋습니다. 게다가 한발 담그면 서비스를 추가나 upgrade를 계속 권하면서 계속 차곡차곡 돈을 쌓더라고요. 아주 인상적이긴 했습니다. 저 처럼 돈 들이기 꺼려하는 사람도 낚아내는거 보면. 미녀를 동원한 마케팅도 잘 잡았다고 생각되는게, 웹호스팅 업체의 문을 두드리는 사람이 Nerd말고 누가 있겠어요. 초기에 미녀를 내세워 빠르게 수요자들은 끌어당겼다고 봅니다. 또 잘하고 있는것이 미국의 small business의 owner가 58% 여자라는 통계를 들어 이제는 미녀 마케팅을 중단한것으로 보입니다. 다른 cash flow를 만들어야지요.

전체적으로 좋은 회사라 생각하고 기술력도 마케팅도 좋다고 생각 하지만, 아무리 미국이지만, 이런 호스팅 회사가 오래갈수 있는 회사라고 보지는 않습니다.

*예전 첫화면중 하나, 예쁜 모델이 나와있어 하나 사고싶게 만드네요.

*2015/04/02 자 첫화면