AI

DeepSeek가 뭐길래!!

최근 정말 뜨겁게 언급되고 있는 DeepSeek 🐳발표 하루만에 NVIDIA의 주가를 무려 16%나 하락하게 만들기도 하였는데..!!  딥시크(DeepSeek)는 무엇이며, 왜 NVIDIA와 다른 주식들을 폭락시키며 (미국에게) 충격을 주었을까? DeepSeek란?DeepSeek는 중국인 량원펑이 2023년 7월에 설립한 중국의 민간 기업으로, 지난 1월 20일 최신 AI 모델을 출시했다. 이 모델 때문에 AI 부문에 대한 재평가를 불러일으키고 있다. 이 모델이 처음 주목받게 된 이유 중 하나는 'DeepSeek 학습 비용이 메타 수석 엔지니어 연봉보다 적다'는 이야기가 나오면서인데...  DeepSeek는 OpenAI의 ChatGPT와 Meta의 Llama 3.1에 필적하는 모델을 출시했고, 발표 주..

싱글턴(Single-Turn)과 멀티턴(Multi-Turn)

LLM에서 멀티턴(Multi-turn) 대화는 아주 중요한 요소이다. 왜일까? 멀티턴 대화는 궁극적으로 사용자 경험과 고객 만족도를 향상시키는 데 있다. 싱글턴 vs 멀티턴싱글턴 대화싱글턴(Single-Turn) 대화란 말 그대로 한 번의 질문과 한 번의 답변으로 끝나느 대화 방식이다. 사용자가 AI나 챗봇에게 질문을 하면, 챗봇은 그 질문에 대해 단 하나의 응답을 제공하고 대화가 종료된다. 멀티턴 대화멀티턴 대화는 사용자가 AI와 여러 차례에 걸쳐 주고받는 대화를 의미한다. 사용자가 한번 질문하고 챗봇이 다시 되묻는 과정이 있다면 모두 멀티턴이다. 사용자의 첫 번째 질문에 대한 챗봇의 응답 이후 사용자 또는 챗봇이 추가 질문을 하거나 더 많은 정보를 요청하면서 대화가 계속된다. 이는 단순한 질문과 답변..

LLM의 한계를 보완하는 기술 : RAG(Retrieval-Augmented Generation)

RAG에 대해 이해하기 위해서는, 우선 생성형 AI란 무엇인지 알아야 한다.생성형 AI란?생성형 AI란 이미지, 텍스트, 동영상 등 새로운 콘텐츠와 아이디어를 만들 수 있는 모델을 말하며, 많은 양의 데이터를 사전 학습한 대규모의 모델이다. 딥러닝 모델의 한 유형으로서, Foundation Model이라고 말한다. 흔히 말하는 LLM도 생성형 AI의 한 유형이다. LLM(Large Language Model)대규모 언어 모델(LLM)은 Large Language Model의 약자로, 자연어 처리(NLP)에서 사용되는 인공지능 기술의 한 종류이다. LLM 모델들은 대규모의 텍스트 데이터를 학습하여 언어의 구조와 의미를 이해하고, 그 학습을 바탕으로 텍스트 생성, 번역, 요약, 질문에 대한 답변 등 다양한 ..