newsare.net
미국 뉴욕타임스에 따르면 최근 오픈AI의 한 엔지니어가 일주일 동안 2100억 개의 토큰(인공지능 모델이 처리·생산하는 데이터의 단위)을 사용해 사내 토큰 소비 순위 1위에 올랐다. 온라인 백과사
‘토큰맥싱’에 비용 폭탄 맞은 실리콘밸리… “이제는 토성비 따진다”
미국 뉴욕타임스에 따르면 최근 오픈AI의 한 엔지니어가 일주일 동안 2100억 개의 토큰(인공지능 모델이 처리·생산하는 데이터의 단위)을 사용해 사내 토큰 소비 순위 1위에 올랐다. 온라인 백과사전 위키피디아 전체 문서를 33번이나 채울 수 있는 양이었다. 인공지능(AI) 스타트업 앤스로픽의 코딩 프로그램인 ‘클로드 코드’에서는 사용자 한 명이 한 달 만에 15만 달러(약 2억 원)어치의 토큰을 소비한 사실이 알려지며 화제를 모았다. 이처럼 미국 실리콘밸리 등 글로벌 정보기술(IT) 업계에서 개인의 AI 사용량이 웬만한 스타트업의 연간 IT 인프라 유지비를 가볍게 뛰어넘는 촌극이 벌어지고 있다. 사용자가 잠든 시간에도 홀로 AI가 업무를 수행하는 ‘에이전틱 AI’ 시대가 도래하자 개인이 쓸 수 있는 AI 사용량, 즉 토큰 양이 기하급수적으로 많아진 것이다. 미 빅테크 업계에서는 토큰 처리량이 곧 ‘AI 잘 쓰는 엔지니어’로 일종의 성과 지표로까지 여겨지자 ‘토큰맥싱(Tokenmax Read more
03:45
03:24
15:50
