RAG 만들기 - 0

서론 

어쩌다보니 회사에서 RAG를 구축하는 과제를 맡게 됐다

할줄 모르는데..

일단 기초부터 공부하며 부딪쳐보려고 한다.

안되면 안되는거지 뭐

그래서 AI의 도움을 받아 공부를 하면서 내가 이해한 내용을 써보려고 한다.

 

RAG(Retrieval-Augmented Generation)

한국어로 검색 증강 생성이다.

구글의 트랜스포머 논문 이후로 OpenAI의 ChatGPT가 세상에 커다란 센세이션을 일으켰지만

그 LLM의 여러 단점을 보완해 줄 수 있는 기술이다 

 

환각(Hallucination)

난 LLM은 각 토큰 다음에 어떤 토큰이 나올 확률 계산을 통해 문장이 완성된다고 이해하고 있다.

그러다보니 애매하거나 학습되지 않은 영역에 대해

어떻게 해서든 답변을 내놔야하는 AI의 특성상 그냥 확률상 있을법한 내용이 나오고

그게 환각인 것

그러다보니 정확도가 중요한 법률이나 규제, 정책 등에 대해선 커다란 리스크를 안고 있는 것이다.

 

지식 컷오프

LLM은 모델 학습이 완료된 후엔 지식의 업데이트가 어렵다고 한다.

지식의 업데이트를 하려면 또 학습을 진행해야 한다는 것.

 

전문성

LLM은 다양한 분야를 학습하다보니 특정 분야의 전문성은 조금 떨어질 수 있다고 한다. 

 

 

개념은 원래 알고 있었으나

막막하다

조금씩 하다보면 되지 않을까