AI인프라1 "AI 판도 바꿀 기술, 수혜주는?" KAIST의 AI비용 혁신KAIST 연구팀이 챗GPT와 같은 대규모 언어모델의 운영비를 획기적으로 줄일 수 있는 기술을 선보였습니다. 한동수 교수팀이 개발한 '스펙에지'는 기존 방식과 달리 PC급 GPU를 활용해 토큰 생성 비용을 67.6%나 낮추는 데 성공했죠. AI 산업의 최대 고민거리였던 인프라 비용 문제에 실마리를 제시한 셈입니다.기존 AI 서비스의 비용 구조대규모 언어모델 서비스는 막대한 비용이 듭니다. 현재 챗GPT 같은 서비스들은 대형 데이터센터 안에 수백억 원짜리 고성능 GPU를 빼곡히 채워놓고 운영하고 있어요. 사용자가 질문을 던지면 이 거대한 서버가 답변을 만들어 휴대폰으로 보내주는 구조죠.문제는 이 방식이 너무 비효율적이라는 겁니다. 데이터센터에 부하가 몰리면서 전력 소모가 기하급수적.. 2025. 12. 29. 이전 1 다음
