그냥 차단이 답일까..?ㅠㅠ
그냥 차단이 답일까..?ㅠㅠ
여니 최애 피드
화살표 아이콘 누르고
게시물 링크 복사 해서
이 피드에 붙여주세요!
여니 최애 피드
화살표 아이콘 누르고
게시물 링크 복사 해서
이 피드에 붙여주세요!
“많은 사람들이 로컬 추론을 원하고, 오픈소스 모델이 있으니 이제 문제가 해결된 것으로 여기곤 합니다. 우리 컴퓨터에서 모델을 실행할 수 있게 되었으니 데이터 센터에 있는 모든 장비는 더 이상 필요 없을 거라고 생각하죠.
하지만 전 세계적인 자원 배분 관점에서 보면, 전 세계적으로 한정된 DRAM 공급량 중 상당량을 각자가 자신의 컴퓨터에 비치해 두고 5%의 시간만 사용하는 것은 사실 매우 비효율적인 일입니다