상세 컨텐츠

본문 제목

내가 서비스에서 langchain을 아직 적용 안하는 이유

AI엔지니어링

by 에이군 2024. 6. 16. 21:02

본문

langchain 은 저에게 많은 영감을 주는 프레임워크입니다.

langchain에서 확장하고 있는 응용 기술과 기능들은 LLM을 이용하는 데 있어서 많은 영감을 주고 트렌디한 응용을 파악하는데 도움이 됩니다.

하지만 저는 아래와 같이 2가지 이유로 아직 서비스에 직접적으로 langchain을 사용하지 않고 있습니다.

 

1. 낮은 버전과 잦은 변경

아직은 버전이 0.2 인 것과 같이 계속해서 변경되고 있으며 발전하고 있습니다. 불과 몇 달 전에 구성됐던 코드들은 이제 더 이상 사용되지 못합니다. 새로운 기능이나 개선 사항들은 더 이상 이전 버전에서 유지관리가 되지 않는 문제가 많이 발생하고 있습니다.

 

2. 이해하기 힘들고 컨트롤할 수 없는 세부적인 동작

추상화는 확장성과 유지관리를 유용하게 하지만 내부에 동작하는 것들을 이해하기 힘들게도 합니다. langchain 조작 자체는 쉽지만 내부적인 동작 구조나 세부적인 동작 컨트롤을 하기 위해서는 많은 시간을 투자해야 합니다.

이런 것들이 알고 보면 간단한 사항들을 이해하기 복잡하게 만들기도 하고 잘못하면 API의 사용 요금이나 컴퓨팅 자원 비용 폭탄을 발생하게 할 수 있습니다.

 

위와 같은 이유에도 불과하고 lanchain 프레임워크는 계속해서 살펴봐야 하는 트렌디한 프레임워크입니다. 발전 속도가 무척 빠르며 3~4개월 전에 나온 관련 서적의 내용에 있는 예제 코드들이 이제는 새로운 버전 업데이트로 인하여 동작을 하지 않을 만큼 변화 속도가 큽니다.

최신 LLM 응용 기술이 빠르게 적용되며 많은 사람들이 쉽게 접근할 수 있도록 도와줍니다.

 

그렇다면 올바르게 langchain에 접근하는 방법은 무엇일까요?

실제로 주변에 lanchain을 처음 접하시는 분들은 감추어져 있는 동작들 때문에 이해하기 힘들어하시거나 개념 자체를 오해하시는 분들도 많습니다. 

우선 LLM에 대해서 기반 지식이 없으신 분들은 langchain을 먼저 시작하는것 보다는 open ai 가 제공하는 문서나 API에 접근해 보시는 걸 추천합니다. LLM 기반 지식을 먼저 학습한 다음에 langchain을 접하게 되면 상당히 유용하게 접근할 수 있습니다.

 

 

관련글 더보기

댓글 영역