오른손의 좋은 세상만들기

당연하지만 미국 주별로 복권 실 수령액이 달라지는데. 재밌는 것은 어느 주에서는 복권당첨액에 대해서 소득세를 징수하지 않는다고 하네요. 그중 하나가 캘리포니아. 헐~ 다른 주는 주 소득세가 없으니까 그렇다 치는데 캘리포니아 의외네...

And eight states don’t charge income tax on lottery winnings: California, Florida, New Hampshire, South Dakota, Tennessee, Texas, Washington and Wyoming.

https://www.cnbc.com/2023/07/19/powerball-jackpot-hits-1-billion-dollars-after-tax-payout-in-every-state.html

Arizona

California

Florida

New York

Oregon

Texas

Washington

일반소비자용 보험회사로는

1. State Farm
2. USAA
3. Allstate
4. Geico
5. Nationwide

미국 보험회사 리스트
https://en.wikipedia.org/wiki/List_of_United_States_insurance_companies

전세계적으로 보험업에 있는 회사 자산순위로는

1. Allianz (Germany)
2. AXA (France)
3. Prudential Financial (United States)
4. Ping An Insurance (Group) Company of China Ltd. (China)
5. Berkshire Hathaway (United States)
6. MetLife (United States)
7. Nippon Life (Japan)
8. China Life Insurance (Group) Company (China)
9. Legal & General Group Plc (United Kingdom)
10. Manulife Financial Corporation (Canada)

https://en.wikipedia.org/wiki/List_of_largest_insurance_companies

2021년 미국 매출액 기준으로 보험회사들 순위

1. Marsh & McLennan Cos., Inc.
2. Aon plc
3. WTW
4. Arthur J. Gallagher & Co.
5. HUB International
6. Brown & Brown, Inc.
7. Acrisure, LLC
8. Alliant Insurance Services, Inc.
9. Lockton Companies
10. USI Insurance Services
11. Willis Towers Watson
12. Gallagher
13. NFP Corp.
14. Integro Insurance Brokers
15. Risk Strategies

https://www.insurancebusinessmag.com/asia/news/breaking-news/revealed--top-10-largest-insurance-companies-in-the-world-242743.aspx

1. Overstock
2. Home Shopping Network (HSN)
3. Progressive Leasing
4. QVC
5. Stoneberry
6. Fingerhut
7. Affirm
8. Klarna
9. Visa
10. Uplift
11. Addi
12. Apple
13. Behalf
14. Biller
15. Commonwealth Bank of Australia
16. humm by Flexifi
17. Sezzle
18. Zip (formerly known as Quadpay)
19. PayPal’s ‘Pay in 4

이번에 AMD Radeon RX 7900 XTX를 사면서 Zip으로 주문해야했다. 이런 finance option은 질색인데 그냥 돈주고 사면 900불인데 Zip으로 pay하면 800불. 자본주의의 promotion은 어떨때는 좀 이해가 안되기도. 어쨋건 싸게 준다니 한번 써봤는데, Zip 은 18위정도로 듭보잡이었다. 

Newegg에서 800불까지 내려갔는데 안지를 수가 없었음. 100불짜리 게임 Starfield도 껴주고. 오랜만에 NVidia에서 AMD로 넘어가게 됐다. 지금까지 잘 버텨준 NVidia RTX 2080 TI와 비교해보니 2080 TI가 너무 왜소해보인다.

24GB를 어떻게 쓰면 더 신나게 돌릴수 있을지 고민해봐야겠다. 주말 프로젝트가 재밌어질듯.

미국에서State Farm 보험회사를 오래동안 이용하고 있는데, 일반 소비자 상대 보험 회사로는 가장 크고 가장 효율적으로 운용한다고 정평이 나있다. 그래서 다른 경쟁자에 비해서 절대 저렴하지는 않는데, 상당히 만족스럽다.

전기 누전이니 전기화재로 집이 damage를 입거나 전소되는 사고가 가끔있는데 요즘 IT기기로 early detect하고 큰 사고로 이어지는 것을 미리 방지해주는 기기가 있나보다. 이것을 free로 줄테니 설치하라고 한다. 무조건 신청했는데 앞으로도 약간의 투자로 smart하게 관리하면 claim도 줄일수 있고 소비자도 만족할테고, 아주 잘하는것 같다.

젤 큰회사가 이렇게 잘하는데, 작은 보험회사들은 더 빨리 움직이고 더 많은 혁신을 해야 살아남을수 있을듯.

리눅스에서 게임은 생각도 못할때가 있었는데, 그래도 돈많고 software 인력이 더 많은 NVidia가 쬐금 더 낫은 적이 좀 있었던것 같은데, 요즘 서치해 보면 리눅스 사용자들 사이에서는 AMD가 더 많이 선호되고 있어서 깜짝 놀랐음.

* Linux gaming reddit
https://www.reddit.com/r/linux_gaming/comments/149903d/known_alternatives_to_linux_gaming_on_reddit/
* Reddit에서 넘어간 사람들이 말하는 AMD로 linux에서 gaming
https://lemmy.world/post/1086446
* Linux gaming wiki, GPU section
 https://linux-gaming.kwindu.eu/index.php?title=Hardware_Recommendations#GPUs

AMD GPU하나 들여야 하나...

George Hotz라는 괴짜천재가 새로운 회사를 설립해서 저렴하고 전력을 덜 먹는 무시무시한 Machine Learning(ML), AI 전용머신을 만든다고 합니다.

Tiny Corp's Website: https://tinygrad.org/
Comma-ai's Website: https://comma.ai/

GPU가 6개 들어가고 CPU는 AMD EPYC칩을 사용한다고 합니다. 무슨 GPU 모델인지는 안밝히고 있지만 NVidia는 아닌것으로 봐서 GPU도 AMD일 확률이 높을듯. 그렇게 하고도 1600W 파워정도로 동작이 가능하고 미국의 120V outlet에 꼽아서도 동작할거라고 합니다. 헐... 가격은 $15,000, 지금 $100주고 pre-order할수 있다고 합니다. 6개월후에 팔수 있다고 하는데, 이바닥 돌아가는거 보면 내년 말에 받아도 엄청 빨리 받는것일 듯. Ubuntu깔려서 바로 돌아가는 것을 목표로 한다고 하는데, software가 그렇게 쉽게 완성되지는 않지요.

-------------

The tinybox

• 738 FP16 TFLOPS
• 144 GB GPU RAM
• 5.76 TB/s RAM bandwidth
• 30 GB/s model load bandwidth (big llama loads in around 4 seconds)
• AMD EPYC CPU
• 1600W (one 120V outlet)
• Runs 65B FP16 LLaMA out of the box (using tinygrad, subject to software development risks)
• $15,000

Preorder a tinybox today! (just $100)

-------------

조금 통통 튀지만 이런 천재(괴짜, nerd)들은 많으면 많을 수록 인류에게 이롭다고 생각합니다.

P.S 조금 더 읽어보니 GPU는 AMD RX 7900 XTX 24GB 를 말하고 있습니다. 이거 곧 ROCm에서 지원한다는 모델입니다. 일반 소비장용 그래픽카드로는 유일하게 지원할거라고 지난 글에서 언급한적이 있습니다. 2023년 년말로 갈수록 AMD RX 7900 XTX 수요가 많이 증가할 것으로 보입니다.

지금 Newegg에서 가격을 서치해 보면 $920인데, promotion code VGAEXCAA793를 이용하면 $15깍아줘서 $905에 살수 있네요. power supply만 안바꿔도 되면 하나 사서 ROCm도 돌려보고 tinygrad 도 돌려보고 싶은데, power supply를 사야해서...

P.S AMD RDNA3 Instruction Set Architecture Reference guide

https://www.amd.com/system/files/TechDocs/rdna3-shader-instruction-set-architecture-feb-2023_0.pdf

AMD ROCm에 대해서 요즘 많이 이야기가 나오고 있는데 너무 적은 인력이 만들고 있는것 같아서 quality가 대학생 프로젝트 수준보다 조금 나은 수준이 아닐까 생각이 되는데. 다행은 것은 회사가 늦게라도 인지하고 최근에는 열심히 밀고 있는것 같기는 한데

https://www.anandtech.com/show/18940/amd-partial-rdna-3-video-card-support-coming-to-future-rocm-releases

이 기사에 보면, ROCm이 처음으로 소비자용 GPU인  RX 7900 XTX를 지원할거라고 한다. 이번 가을에

> for the first time, the consumer-grade Radeon RX 7900 XTX

설마 지금까지 지원안하고 있는거였어 하고 ROCm document을 열어 좀 읽어봤더니...https://github.com/RadeonOpenCompute/ROCm

https://rocm.docs.amd.com/en/latest/release/gpu_os_support.html

세 tab이 있기는 한데, 현재는 서버용 GPU 위주로 지원중이다. 헐... 그래 가을에라도 늦지 않았어.. 그런데 딱 RX 7900 XTX 하나만 지원할것 같다. 24GB GDDR6 RAM이라 상당히 유용할것 같기는 한데.. 그런데.. 딱 하나라... 흠...

재미있는 글이 올라와서 여러 커뮤니티에서 뜨거운 반응을 보이고 있다. CUDA때문에 AMD MI300X가 나와도 잘 팔릴수 있겠냐는 회의론을 정면으로 반박하는 내용인데.

https://www.semianalysis.com/p/amd-ai-software-solved-mi300x-pricing?utm_source=substack&utm_medium=email 

AMD주주이기도 하고 AMD가 어디까지 갈수 있을지 관심가지고 지켜보고 계산해보고 있는입장에서 자세히 읽어보았는데. (뒷부분은 유료라 읽을수 없었음) 짧게 요약하면 NVidia A100으로 돌리던 LLM을 MI250으로 코드 한줄 바꾸지 않고 돌렸는데 73%-80% 성능이 쉽게 나왔다는 이야기. 아직 AMD 솔루션을 사용한지 얼마 안된것을 감안하면 이건 엄청난 진전이라는 내용. 게다가 ROCm based에서 OpenAI Triton-based FlashAttention로 바꾸면 84-90%까지 성능이 쉽게 나온다는 이야기.

=> ROCm이 쓰레기구만. Triton은 뭐길래 이렇게 쉽게 잘나와

OpenAI가 밀고 있는 triton은 CUDA보다 더 좋은 성능을 목표로 하는 open source project라 한다. AMD GPU 공식지원은 2023년 말까지 목표라고 함.

https://github.com/openai/triton

위 내용을 기반으로 볼때 여러 업체에서 구할수 없는 NVidia를 바라보기 보다 AMD기반으로 전환을 계획할 가능성이 좀 있을것 같다는 생각이 듬. 처음에는 쉽게 안넘어간다고 봐야 할것 같고. 이 시점을

• 첫번째 Ryzen이 나온 시점으로 보면 될것 같기도 하고
• 첫번쩨 서버 CPU EPYC Naples 나폴리가 나온 시점이 될것 같기도 하고

키는 사람들이 괜찬네하면서 다음 세대것이 나오면 많이 넘어가고 그 다음 세대에는 동급으로 되었다가 그 다음 세대에서는 선두가되는... 헉... 정말.. 에이 암레발이지... 

P.S MosaicML 얘네는 뭐야 하고 찾아보니, Databricks라는 회사가 상당히 좋은 value를 쳐주고 최근에 인수했음. AI때문에 인수도 활발하고 시장이 정말 뜨겁다

https://techcrunch.com/2023/06/26/databricks-picks-up-mosaicml-an-openai-competitor-for-1-3b/

AMD MI250을 사용한 자세한 페이지도 만들어놨다. AMD AI의 엄청난 우군이구만.

https://www.mosaicml.com/blog/amd-mi250

사실 미국에서 걷거나 자전거를 타는 것은 썩 안전하지 않은데, 치안때문이 아니라 사람들이 다 자동차에 익숙해져 있어서 보행자나 자전거 타는 사람의 안전은 상대적으로 보장되지 않는다고 봐야하나. 물론 보행자를 차로 치였을때 처벌은 상당히 무섭고 자동차보험으로 커버하기도 무서울 만큼 병원비를 보상해야 하기때문에 제도적으로는 잘 보장되는 것 처럼 보일지라도.

오레곤(Oregon)은 자연을 즐기며 자전거 타는 사람이 상대적으로 많아서 그 비율로 위험할 거라는 생각도 했지만, 아리조나가 1등이라니 좀 믿기지 않는다. 아리조나는 대부분의 도시에서는 여름을 낀 6개월은 밖에 나갈수도 없는 곳인데.

증가 추세인 이유로는

1. 자동차가 SUV or Truck등으로 대형화 되고
2. 팬데믹 중에 자동차들이 과속하는 추세가 많아졌고
3. 보행자 사고가 조명이 어두운 곳에서 많아졌다 => 사람들이 어두워도 운동하러 나오는 사람들이 증가했다

https://arstechnica.com/cars/2023/06/pedestrian-deaths-rose-in-2022-some-states-more-dangerous-than-others/