(대화형 챗봇 구축 1편) Langchain과 Semantic Kernel

 

오늘은 반말체로 작성합니다. ~

 

대화형 챗봇을 16년 말 회사에서 진행하는 신사업 아이디어 공모전을 위해 처음 공부하였다.

물론, 챗봇이 주는 아니었고 빅데이터를 통한 AI 매칭과 로보어드바이징이 메인이었다. 

 

간단하게 챗봇을 만들어 보는 것.  직접 해보는 것을 좋아하는 나로서는 당시 서비스 기획이 최초 시도였다. 

 

최근 ChatGPT와 생성형 AI 스터디 중, 대화형 챗봇 시스템 구축에 관심이 생겨 공부중에 있다. 

이와 관련하여 오늘은 LangChain이라는 흥미로운 라이브러리에 대해 소개하고자 한다. 

 

최근 대규모 언어모델(LLM)이 주목받면서, 이를 활용하는 방법들이 다양하게 연구되고 있는데, LangChain은 바로 이러한 LLM 기술을 쉽게 적용할 수 있도록 돕는 프레임워크이다.

 

간단하게 기본 개념과 내용을 확인하고 싶으면 검색 또는 유튜브를 이용해도 되고 

http://www.coursera.org와 같은 곳에서 강의를 들어보는 것도 추천한다.

 창시자 Harrison Chase가 직접 강의 한다. 

 

 

'23년 TED 강연  The magical AI assistants of the future 중

 

 

 

나같은 비개발자는 개념과 활용성 정도만 알고 있으면 될것 같다. 이를 위해 간략하게 아래와 같이 정리 한다. 

---

LangChain의 가장 큰 장점은 복잡한 대규모 언어모델 API를 추상화하여 개발자들이 보다 직관적으로 활용할 수 있다는 점인것 같다. 데이터 소스, 프롬프트, 유틸리티 등의 구성 요소를 연결하고 조합하면 다양한 애플리케이션을 구축할 수 있다.

예를 들어 LangChain을 사용하면 질의응답 시스템, 데이터 분석 도구, 컨텐츠 생성기, 대화형 에이전트 등을 손쉽게 만들 수 있다는 것. 기업 환경에서는 계약서나 법률 문서 분석, 고객 문의 응답 등에 활용될 수 있겠다.  특히 나만의 챗봇을 만들어서 데이터에 있는 정보 관련 채팅이 가능하다는 것이다. 
 * 데이터와 채팅은 첫째,  외부 데이터 세트에서 문맥 문서를 검색하는 일반적인 LLM 애플리케이션인 검색 증강 생성(RAG)하는 방법과 둘째, 학습에서 학습한 정보가 아닌 문서의 내용을 기반으로 쿼리에 응답하는 챗봇 구축으로 나뉘어짐

 

아울러, LangChain의 핵심 기능 중 하나는 'Chaining'인데, 이것을 통해 여러 LLM 기반 에이전트를 체인 형태로 연결하여 복잡한 작업을 처리할 수 있다. 여기서 메모리 기능을 이용하면 대화 컨텍스트를 유지하거나 외부 데이터를 캐싱할 수 있어 지능적인 상호작용이 가능하다는 점!

LangChain을 활용하면 업무 효율성을 높이고, 고객경험을 개선하며, 데이터 활용도를 극대화할 수 있는 것이 장점이다.

기업 입장에서는 비용 절감 효과와 반복적인 업무를 자동화도 가능하여 생상성이 향상될 수 있다. 

내 생각으로는 많은 스마트한 사람들이 LangChain을 통해 언어 AI 기술을  전자상거래, 금융, 의료 등 다양한 분야에서 접목하여 LangChain 기반 애플리케이션이 등장할 것이라 예상해 본다.

 

강력한 확장성을 가진 LangChain은 언어 AI 기술의 상용화를 더욱 가속화할 프레임워크가 될 것이라 생각한다.