LLM, LangChain 기본 이해를 위한 간단한 코드(간단한 챗봇 만들기)

ChatGPT로  AI가 급성장하고 있는 가운데 최근 LLM과 LangChain을 활용한 움직임이 많습니다. 이는 누군가(?) 엄청난 자원 투자를 하여 AI 학습한 모델을 굳이 학습하지 않고 사용만 잘 하면 효과를 낼 수 있기 때문입니다.  

이러한 상황에 경남ICT에서도 GPT, LLM, Lang Chain에 대한 개념 파악과 더불어 새로운 판(BM)의 일환으로 선행 검토 차원에서 공유하고자 합니다. 

아래 내용은 Openai API, Langchain을 사용한 아주 간단한 챗봇 사례로 많은 도움이 되기바랍니다. 

LangChain이란? 

 LangChain은 사용자가 대규모 언어 모델을 중심으로 앱과 파이프라인을 빠르게 구축할 수 있게 해주는 인기 있는 프레임워크입니다. 챗봇, GQA(Generative Question-Anwering), 요약 등에 사용할 수 있습니다.

라이브러리의 핵심 아이디어는 다양한 구성 요소를 함께 "연결"하여 LLM에 대한 고급 사용 사례를 만들 수 있다는 것입니다. 체인은 여러 모듈의 여러 구성 요소로 구성될 수 있습니다.

1. Library 설치 

2. openai API Key 설정(openai에서 발급 받아서 사용하면되겠죠)

3. openai gpt 모델 중에서 적합한 모델 선택하면 됩니다. 여기서는 ‘text-davinci-003’사용

4. LLM과 Prompt template 구성합니다. 

5. Prompt로 2020년 KBO우승팀과 최우수 선수는? 사용 

6. Multiple Prompt:

1) LLM과 Langchain을 사용하면 별도의 AI 학습 과정이 생략 되고 바로 사용할 수 있는 잇점이 있습니다. 

2) LLM에는 Human feedback로 인한 hallucination이 있습니다(조심) 

3) LLM을 제조 현장에서 사용하려면 다소 표현이 거칠어도 정확한 사실 전달이 중요하며, 이러한 개발을 위해서는 LLM에 대한 이해와 자연어 처리에 대한 이해가 필요합니다.