IT이야기2023. 8. 31. 04:23

엔비디아는 정말 무시무시하다.

From: https://www.reddit.com/r/NVDA_Stock/

Posted by 쁘레드
IT이야기2023. 8. 19. 04:00
IT이야기2023. 7. 19. 04:14

Newegg에서 800불까지 내려갔는데 안지를 수가 없었음. 100불짜리 게임 Starfield도 껴주고. 오랜만에 NVidia에서 AMD로 넘어가게 됐다. 지금까지 잘 버텨준 NVidia RTX 2080 TI와 비교해보니 2080 TI가 너무 왜소해보인다.

24GB를 어떻게 쓰면 더 신나게 돌릴수 있을지 고민해봐야겠다. 주말 프로젝트가 재밌어질듯.

Posted by 쁘레드
IT이야기2023. 7. 7. 10:23

리눅스에서 게임은 생각도 못할때가 있었는데, 그래도 돈많고 software 인력이 더 많은 NVidia가 쬐금 더 낫은 적이 좀 있었던것 같은데, 요즘 서치해 보면 리눅스 사용자들 사이에서는 AMD가 더 많이 선호되고 있어서 깜짝 놀랐음.

* Linux gaming reddit
https://www.reddit.com/r/linux_gaming/comments/149903d/known_alternatives_to_linux_gaming_on_reddit/
* Reddit에서 넘어간 사람들이 말하는 AMD로 linux에서 gaming
https://lemmy.world/post/1086446
* Linux gaming wiki, GPU section
 https://linux-gaming.kwindu.eu/index.php?title=Hardware_Recommendations#GPUs

AMD GPU하나 들여야 하나...

 

Posted by 쁘레드
IT이야기2023. 7. 1. 07:39

재미있는 글이 올라와서 여러 커뮤니티에서 뜨거운 반응을 보이고 있다. CUDA때문에 AMD MI300X가 나와도 잘 팔릴수 있겠냐는 회의론을 정면으로 반박하는 내용인데.

https://www.semianalysis.com/p/amd-ai-software-solved-mi300x-pricing?utm_source=substack&utm_medium=email 

 

AMD AI Software Solved – MI300X Pricing, Performance, PyTorch 2.0, Flash Attention, OpenAI Triton

Matching Nvidia Performance With 0 Code Changes With MosaicML

www.semianalysis.com

AMD주주이기도 하고 AMD가 어디까지 갈수 있을지 관심가지고 지켜보고 계산해보고 있는입장에서 자세히 읽어보았는데. (뒷부분은 유료라 읽을수 없었음) 짧게 요약하면 NVidia A100으로 돌리던 LLM을 MI250으로 코드 한줄 바꾸지 않고 돌렸는데 73%-80% 성능이 쉽게 나왔다는 이야기. 아직 AMD 솔루션을 사용한지 얼마 안된것을 감안하면 이건 엄청난 진전이라는 내용. 게다가 ROCm based에서 OpenAI Triton-based FlashAttention로 바꾸면 84-90%까지 성능이 쉽게 나온다는 이야기.

=> ROCm이 쓰레기구만. Triton은 뭐길래 이렇게 쉽게 잘나와

OpenAI가 밀고 있는 triton은 CUDA보다 더 좋은 성능을 목표로 하는 open source project라 한다. AMD GPU 공식지원은 2023년 말까지 목표라고 함.

https://github.com/openai/triton

 

GitHub - openai/triton: Development repository for the Triton language and compiler

Development repository for the Triton language and compiler - GitHub - openai/triton: Development repository for the Triton language and compiler

github.com

 

위 내용을 기반으로 볼때 여러 업체에서 구할수 없는 NVidia를 바라보기 보다 AMD기반으로 전환을 계획할 가능성이 좀 있을것 같다는 생각이 듬. 처음에는 쉽게 안넘어간다고 봐야 할것 같고. 이 시점을

  • 첫번째 Ryzen이 나온 시점으로 보면 될것 같기도 하고
  • 첫번쩨 서버 CPU EPYC Naples 나폴리가 나온 시점이 될것 같기도 하고

키는 사람들이 괜찬네하면서 다음 세대것이 나오면 많이 넘어가고 그 다음 세대에는 동급으로 되었다가 그 다음 세대에서는 선두가되는... 헉... 정말.. 에이 암레발이지... 

P.S MosaicML 얘네는 뭐야 하고 찾아보니, Databricks라는 회사가 상당히 좋은 value를 쳐주고 최근에 인수했음. AI때문에 인수도 활발하고 시장이 정말 뜨겁다

https://techcrunch.com/2023/06/26/databricks-picks-up-mosaicml-an-openai-competitor-for-1-3b/

 

Databricks picks up MosaicML, an OpenAI competitor, for $1.3B

MosaicML will become a part of the Databricks Lakehouse Platform, providing generative AI tooling alongside the Databricks' existing multi cloud offerings.

techcrunch.com

 

AMD MI250을 사용한 자세한 페이지도 만들어놨다. AMD AI의 엄청난 우군이구만.

https://www.mosaicml.com/blog/amd-mi250

 

Training LLMs with AMD MI250 GPUs and MosaicML

With the release of PyTorch 2.0 and ROCm 5.4, we are excited to announce that LLM training works out of the box on AMD datacenter GPUs, with zero code changes, and at high performance (144 TFLOP/s/GPU)! We are thrilled to see promising alternative options

www.mosaicml.com

Posted by 쁘레드
Programming2019. 8. 15. 01:42

18.10 Cosmic Cuttlefish

19.04 Disco Dingo

 

최근에 NVidia 드라이버 문제로 귀찮게 되어 잘 돌아가는 빌드머신을 Ubuntu 18.10 -> Ubuntu 19.04로 upgrade. USB가 있는데, 그거 꼽고 upgrade 쉽게할수 있으면 참 좋을텐데. 19.04 설치로 들어가니 upgrade는 안된다고 나와서 맨붕.


$ sudo apt update 
$ sudo apt upgrade
$ sudo apt dist-upgrade

#Remove all no longer required packages:
$ sudo apt autoremove

#Make sure release upgrade is normal
#this can be normal, lts, never. GUI setting is Software Updater
$vi /etc/update-manager/release-upgrades

$ sudo do-release-upgrade

역시나 NVidia! 430.40 버전이 계속 문제를 일으킴.

 


sudo add-apt-repository ppa:graphics-drivers
sudo apt-get update
ubuntu-drivers devices
ubuntu-drivers autoinstall

 

하니 418.56 버전이 설치되었음. 그리고 정상으로. 헐~

Posted by 쁘레드
IT이야기2019. 4. 2. 02:33

윈도우 머신이 꼭 필요한 이유중에 하나가(Mac은 비싸서 안되고) Lightroom이고 간혹 비디오 편집을 하려고 하면 Sony Vegas가 참 간단하고 좋은데, Lightroom 대체할 만한것은 아직 없다고 보여지고요. 비디오 편집은 요구사항이 많지 않아서 어디 있을것 같아서 찾아봤는데...

리눅스에서 비디오 편집하는것이 아주 나쁘지는 않네요. kdenlive라는 툴이 KDE env인데, 괜찮은것 같네요. 버전도 높고요. GNome도 곧 V1.0으로 발표하는듯. 그런데 NVidia 카드가 있어서 GPU Agpu acceleration(하드웨어 가속기)를 enable하려고 하니 역시 리눅스는 복잡해...

 

FFMpeg을 다시 컴파일하면 되는데, NVidia 얘네들은 리눅스 지원이 진짜 지랄같애서(요즘 많이 좋아졌다는데) 하다가 욕나오는데... shotcut이라는 얘가 이미 다 포함시켜 놨네요.

-----------

https://shotcut.com/

 

Shotcut - Home

Wide Format Support Supports hundreds of audio and video formats and codecs thanks to FFmpeg. No import required which means native editing, plus multi-format timelines, resolutions and frame-rates within a project. Frame accurate seeking supported for man

shotcut.com

 

https://www.youtube.com/watch?v=X14GvmBpq08

*H.264 Dominant
properties=x264-medium f=mp4 vcodec=libx264 acodec=aac g=120 crf=%quality ab=%audiobitrate+'k'
properties=x264-medium f=mp4 vcodec=nvenc_h264 acodec=aac g=120 crf=%quality ab=%audiobitrate+'k'

*NVENC_H264
f=mp4 vcodec=nvenc acodec=aac g=120 global_quality=21 ab=385k vq=21 r=60 preset=slow bf=2

Posted by 쁘레드
IT이야기2016. 7. 14. 03:53

애플이 제품만 잘 만드는 것이 아니라 생태계를 잘 만들어서 들어오면 빠져나갈수 없고 자꾸 애플 제품만을 사게하는 기술로 지금의 자리에 있는 것이지요. 삼성은 그것 못해서 죽어라고 HW만 만들고, 잘 팔아도 맨날 위기라고 하는 것이고요.


그래픽 세상에서 기술력도 중요하지만 이런 생태계를 아직 만는 기업이 없어서 주구장장 치킨게임만 하다가 NVidia가 CUDA라는 GPU API이자 생태계를 만들었는데, 애플처럼 이미 게임의 판도를 업은것 같습니다. AMD-ATI가 이미 죽은 기업으로 돈도없고 투자할 여력도 안되는 입장에서 절대 따라갈수 없는 상황이 된것이지요.


게임하려면 DirectX, OpenGL, OpenCL 지원 GPU를 찾기 마련이지요. 게임만 하려면 새로 나온 GPU중에 적당한 가격만 고르면 AMD던 NVidia든 큰 차이는 없다고 생각됩니다. 게임 이상의 뭔가 더를 원한다면 이제 CUDA 지원 레벨까지 check하게 됩니다. 당연히 CUDA는 NVidia만 지원하지요. CUDA encoder/encoder는 다른 스탠다드 encoder/encoder보다 훨씬 효율적이고 강력합니다. 헐, 그래서 영상 편집, 사진 편집 system은 CUDA 지원 HW/SW가 아주 절실합니다. 학교나 과학자를 위해서도 CUDA는 아주 중요하지요.


요즘 핫한 AI(인공지능)과 machine learning을 위한 환경에서 CUDA는 어떠한 platform보다 우수합니다. 헐~ 물론 이런 쪽은 전문가들과 전공자들을 위한 것이라서 수요가 얼마나 될까하지만, 맹목적으로 추종하는 사람까지 생겨나는거 보면 이미 AMD는 따라올수 없는 상황이 된것 같습니다.

---------------------

https://developer.nvidia.com/cuda-zone



---------------------

그런데 CUDA가 배우기가 쉽지 않다는 것은 함정! C++11 먼저 배우고 오라는 불친절한 엔비디아.

The Power of C++11 in CUDA 7

---------------------

제 노트북이 가진 Nvidia Quadro K1000M은 CUDA 지원버전이 아주 불확실하네요. 지원는 하겠죠.

http://www.nvidia.com/object/quadro-for-mobile-workstations.html


Posted by 쁘레드
IT이야기2015. 4. 16. 01:59

벤치마크가 system을 다 대변할수는 없지만, CPU benchmark와 GPU benchmark 두개를 동시에 보는 것은 시스템 성능을 볼수 있는 좋은 측면인것은 맞지요,

Qualcomm이 물량면에서 독보적이었는데 작년에 ARM이 완전 많이 따라왔네요. PowerVR은 Apple에 들어가면서 물량이 무식하게 늘었었고요, Apple이 깐깐하게 선택하고 관리할테니 실제적으로 가장 advance한것이 아닐까 생각됩니다.

역시 GFXBench결과로 Apple IPad에 들어간 PowerVR GX6895이 넘사벽이네요. 이건 desktop 왠만한 GPU와 비교해도 당당할것 같은데요. ARM Mali와Qualcomm Adreno가 차이거 거의 없네요. ARM solution이 이정도로 많이 따라왔나요.

 

3D관련 benchmark라고 보여지는 부분에서는 Tegra가 단연 최고네요. IPhone6에 들어가는 PowerVR GX6450이 엄청 뒤지는것을 보면 Apple이 mobile에서 3D의 중요성을 크게 생각하지 않는거라 보여집니다. 반대로 NVidea는 시장도 없는 3D성능에 계속 목을 맸기때문에 모바일 시장에서 망했었다고 봐도 되겠네요. ARM Mali가 상당한 성능을 보여주네요. ARM이 GPU로 돈을 많이 벌것으로 생각되네요. License정책같은것을 알면 도움되겠네요.

 

Intel과 NVida는 아직까지 mobile까지 확장할 준비가 안되어 있네요. Clock이 너무 놓고 소비전력이 너무 높습니다. 퀄컴의 강력한 경쟁자는 ARM이 되겠네요. 독보적으로 좋을줄 알았는데 거의 비슷하다고 보여지고 ARM 솔루션이 좋은 부분도 있네요. 삼성 갤럭시 S6에도 ARM Mali 새로운 버전이 들어갔을텐데, 성능이 정말 궁금합니다. Mali-T760. 물론 퀄컴 S810에도 어마어마한 Adreno가 들어가있지요. Andreno 430. 발열이 좀 있다고는 하는데. ㅋㅋㅋ. S808에는 Adreno 418.

Source : http://www.linleygroup.com/mpr/article.php?id=11346

 

Samsung Galaxy S6 GFXBench result

http://gfxbench.com/device.jsp?benchmark=gfx30&D=Samsung+Galaxy+S6+%28SM-G920x%2C+SC-05G%29&testgroup=overall


Anandtech S6 Benchmark Preview (정말 비교가 detail하네요.)

http://www.anandtech.com/show/9111/samsung-galaxy-s6-and-s6-edge-preview/2


Samsung S6 vs LG G FLEX 2 G, LG G FLEX는 S810의 초기 물량인데도 큰 차이가 안보이네요. 1080p display여서 그럴까요?

http://gfxbench.com/compare.jsp?benchmark=gfx31&D1=Samsung+Galaxy+S6+%28SM-G920x%2C+SC-05G%29&os1=Android&api1=gl&D2=LG+G+Flex+2+%28F510%2C+H950%2C+H955%2C+H959%2C+LS996%2C+US995%29&cols=2



'IT이야기' 카테고리의 다른 글

안드로이드 RAM 먹는 하마  (0) 2015.04.16
Huawei P8  (0) 2015.04.16
Who the heck is Popcorn Time?  (0) 2015.04.15
Popcorn Time Trends  (0) 2015.04.15
삼성전자 임원 15%, 117명 임원 줄여  (0) 2015.04.14
Posted by 쁘레드