RTX 5090 240장으로 8B 학습…스마트폰 CPU서 초당 59.6토큰

Chutes AI가 30개 호스트와 13개 국가에 분산된 RTX 5090 GPU 240장으로 80억 매개변수 규모의 인공지능 모델을 학습하고, 완성된 모델을 스마트폰 중앙처리장치(CPU)에서 구동했다고 밝혔다. 이번 시연은 9월 28~29일 캐나다 몬트리올에서 열린 Exploit Summit에서 공개됐다. 관련 내용은 Crypto Briefing이 9월 30일 전했다. 학습에 사용된 GPU는 엔비디아($NVDA) RTX 5090 240장이다. Chutes AI가 제시한 학습 비용은 약 6500달러(약 880만원)이며, 10억 토큰당 비용은 약 11달러(약 1만4894원)다. 이 비용은 Chutes AI가 제시한 자체 계산값이다. 동일한 학습 조건에서 외부 기관이 비용과 성능을 재현한 자료는 공개되지…