AI

싱글턴(Single-Turn)과 멀티턴(Multi-Turn)

LLM에서 멀티턴(Multi-turn) 대화는 아주 중요한 요소이다. 왜일까? 멀티턴 대화는 궁극적으로 사용자 경험과 고객 만족도를 향상시키는 데 있다. 싱글턴 vs 멀티턴싱글턴 대화싱글턴(Single-Turn) 대화란 말 그대로 한 번의 질문과 한 번의 답변으로 끝나느 대화 방식이다. 사용자가 AI나 챗봇에게 질문을 하면, 챗봇은 그 질문에 대해 단 하나의 응답을 제공하고 대화가 종료된다. 멀티턴 대화멀티턴 대화는 사용자가 AI와 여러 차례에 걸쳐 주고받는 대화를 의미한다. 사용자가 한번 질문하고 챗봇이 다시 되묻는 과정이 있다면 모두 멀티턴이다. 사용자의 첫 번째 질문에 대한 챗봇의 응답 이후 사용자 또는 챗봇이 추가 질문을 하거나 더 많은 정보를 요청하면서 대화가 계속된다. 이는 단순한 질문과 답변..

LLM의 한계를 보완하는 기술 : RAG(Retrieval-Augmented Generation)

RAG에 대해 이해하기 위해서는, 우선 생성형 AI란 무엇인지 알아야 한다.생성형 AI란?생성형 AI란 이미지, 텍스트, 동영상 등 새로운 콘텐츠와 아이디어를 만들 수 있는 모델을 말하며, 많은 양의 데이터를 사전 학습한 대규모의 모델이다. 딥러닝 모델의 한 유형으로서, Foundation Model이라고 말한다. 흔히 말하는 LLM도 생성형 AI의 한 유형이다. LLM(Large Language Model)대규모 언어 모델(LLM)은 Large Language Model의 약자로, 자연어 처리(NLP)에서 사용되는 인공지능 기술의 한 종류이다. LLM 모델들은 대규모의 텍스트 데이터를 학습하여 언어의 구조와 의미를 이해하고, 그 학습을 바탕으로 텍스트 생성, 번역, 요약, 질문에 대한 답변 등 다양한 ..