최근 며칠간 주식창 보시면서 한숨 푹푹 쉬신 분들 많으시죠? "AI 반도체는 무조건 우상향이라며!"
믿고 있던 삼성전자와 SK하이닉스 주가가 며칠 새 뚝 떨어졌는데요. 도대체 구글 터보퀀트가 뭐길래 글로벌 반도체 시장을 이렇게 뒤흔들어 놓은 걸까요?
오늘 호야스토리가 어려운 전문 용어 싹 빼고, 초보자분들도 이해하기 쉽게 딱 정리해 드릴게요. 구글 터보퀀트, 도대체 어떤 기술이길래?
구글이 새롭게 발표한 구글 터보퀀트(TurboQuant)는 한마디로 'AI의 기억력 효율을 극대화하는 마법의 압축팩'이라고 생각하시면 돼요. 우리가 챗GPT 같은 AI와 길게 대화를 나누려면, AI도 이전 대화 내용을 잊지 않고 기억해두는 임시 저장소(KV 캐시)가 필요합니다.
그런데 대화가 길어질수록 이 공간이 꽉 차서 버벅거리게 되고 메모리 용량도 엄청나게 차지하죠. 그런데 터보퀀트는 이 방대한 데이터를 마치 '겨울옷 진공 압축팩'처럼 쫙 압축해 버립니다.
놀랍게도 형태(정확도)는 그대로 유지하면서,...