에이군의 소프트웨어 엔지니어링 연구실

얼마전에 사내 개발자 교육을 위하여 내부에서 구현하고 있는 AI Agent 엔진에 맞추어 최근에 핫한 Agent의 트랜드에 대해서 이야기한 내용이 있었습니다.제 블로그에도 정리하고 한번 올린다고 생각했었는데 바쁜 일상 때문에 좀 늦었지만 지금 올리게 됬습니다.발전이 무척 빠른 분야로 몇달전에 진행했던 자료이기 때문에 지금은 다소 트랜디 하지 않는 내용일수 있습니다. 먼저 키워드를 이야기 하자면 아래의 그림처럼 멀티모달, 에이전트, 온디바이스와 같이 크게 3가지로 이야기 할수 있습니다.이제는 LLM은 단순한 텍스트 뿐만 아니라 음성, 영상, 이미지와 같은 멀티모달을 이해하고 처리 되며 좀더 작은 디바이스에서 동작 하는걸 요구 합니다. 또한 단순한 도메인의 정해진 처리뿐만 아니라 에이전트가 스스로 생각하고 ..

AI엔지니어링 2025. 3. 16. 16:25

AI가 발전하면서 최근에 개발자 미래에 대한 의견들을 이야기하는 것을 가끔 듣습니다.프로그래밍 언어를 배우는 필요 없다.. 개발자는 곧 사라진다는 자극적인 이야기를 들었습니다.사실 AI에 대해서 직접 다루는 개발자 이기 때문에 이런 이야기를 듣고는 쓴웃음을 짓고는 합니다.프로그래밍을 자동화 한다는 것은 대부분 많은 것을 할 수 있다는 뜻이 됩니다.그렇기 때문에 만약 개발자가 필요 없어질 정도로 AI가 고도화된다면 아마도 개발자뿐만 아니라 다른 직업들도 많이 사라진 상태가 될 것입니다.제가 생각하기에 아래와 같은 요소들로 개발자들은 변화가 있지 않을까 생각이 듭니다.단순한 코딩을 하는 개발자는 경쟁력이 약화된다.개발자에게 풀스택이 요구되고 조금 더 이해하는 것을 요구한다.개발자도 AI를 다루어야 경쟁력이 ..

AI엔지니어링 2025. 2. 16. 00:25

지금까지 LLM의 기본 개념인 동작 흐름과 학습에 대해서 살펴보았습니다. 이제부터는 본격 적으로 AI 엔지니어가 되기 위해서 준비하기 위한 기술 스택에 대해서 작성하겠습니다.먼저 기술에 발전으로 바뀐 흐름부터 살펴보면 아래와 같습니다.  과거에는 머신러닝 분야와 소프트웨어 분야는 거리가 있었습니다.  따라서 AI 엔지니어라는 명칭도 소프트웨어 엔지니어보다는 ML 모델을 연구하고 학습시키고 정확도를 높이는 연구 분야에 가까웠습니다. 시간이 지나면서 기술이 발전하여 현재는 소프트웨어 엔지니어들도 ML 기술을 다루고 서비스에 적용할 수 있도록 거리가 좁혀졌습니다. 따라서 AI 엔지니어라는 용어는 더 이상  ML 모델 만을 연구하는 분야가 아니라 모델을 응용하여 ML 기술을 다루는 전체 분야를 아우르는 용어가 ..

AI엔지니어링 2024. 12. 1. 15:25

이번글에서는 LLM의 학습에 대해서 정리할까 합니다. 이전 글에서  위 그림처럼 LLM은 먼저 모델을 학습하는 과정을 거치고 학습이 완료된 모델을 사용하여 tokenizer 로 입력값을 만들어서 모델에 입력하여 값을 예측하여 사용한다고 했습니다. 그렇다면 맨땅에 모델을 학습하려고 하면 어떤 과정을 거쳐야 할까요? 아마도 아래의 프로세스와 유사하게 진행해야 할것입니다. 먼저 당연히 학습할 데이터를 먼저 준비해야 하고 우리가 학습에 사용할 모델을 선별해야 합니다. 그리고 우리는 pre training 단계로 아무 지식이 없는 백지의 모델을 학습하게 됩니다.  그 다음에는 조금더 도메인에 맞게 fine tuning 이라는 단계를 진행하여 모델을 좀더 학습한 다음에 해당 모델을 배포해서 사용 합니다.  최근에 ..

AI엔지니어링 2024. 10. 22. 10:14

이전글에는 LLM 동작에 대한 아주 기초적인 학습 개념에 대해서 작성했었습니다.  이번글에서는 한단계 더 들어가서 실제로 LLM 이 데이터를 어떻게 인식하고 처리하는지에 대한 파이프라인을 살펴보겠습니다.결국은 LLM도 컴퓨터가 처리하는 것이기 때문에 입력 받는 문자열을 수치화 하여 입력을 해야 합니다.LLM에 원하는 입력을 하기 위해서는 데이터 전처리 단계가 필요하며 이 전처리가 끝나면 수치값으로 변환 됩니다.위처럼 문장을 데이터 전처리를 하여 수치화로 변환하는 작업은 tokenizer 가 진행 합니다.이런 tokenizer 는 다시 정규화 -> 사전토큰화 -> 학습 -> 사후처리 프로세스로 구분됩니다.정규화 단계에서는 공백 제거, 소문자 변환 및 악센트 제거 등과 같이 문자열의 일반적인 정제 작업을 진..

AI엔지니어링 2024. 9. 11. 14:31

이전글에서는 LLM에 대한 기본적인 개념을 작성했었습니다. 이번글에는 한 걸음 더 나아가서 이런 LLM에 대한 동작 관련하여 작성하겠습니다. LLM은 결국 언어모델(LM)이라고 했었습니다. 그렇다면 언어모델을 먼저 어떻게 만드는지 알아야 언어 모델의 동작 과정을 더욱 이해를 할 수 있을 것입니다.대부분의 개발자들은   "입력값" -> "동작 알고리즘" -> "결과값"의 동작 순서에 익숙하며 이해하는데 어려움이 없을 것입니다.하지만 언어 모델은 조금 다른 개념으로 동작을 진행 합니다. 언어 모델의 동작 개념을 이해하기 위해서는 기계학습(Machine Learning, ML )이라는 것을 이해해야 합니다.기계학습이란 컴퓨터에게 데이터를 학습시켜서 지능을 학습시키게 하는 방법을 연구하는 분야입니다. 언어모델을..

AI엔지니어링 2024. 7. 14. 15:21

최근에는 LLM이라는 게 개발자에게 핫하게 다가오고 있습니다.ChatGPT  서비스의 탄생으로 개발자가 필요 없어졌다는 루머? 도 들리고 개발자들에게는 다가오는 미래에 대하여 대비가 필요합니다.그런데 막상 하려고 하니 뭐부터 해야 할지 헷갈릴 수도 있고 어디까지 알아야 할지 막막할 수도 있습니다.이런 분들을 위하여 제 블로그에 개발자를 위한 LLM 엔지니어링 스리즈를 작성하려고 합니다. LLM을 하기 위해서는 간단한 머신러닝의 개념을 알면 도움이 됩니다. 예전에는 해당 영역이 개발자의 영역이기보다는 리서처 영역에 가까웠습니다. 지금은 리서처 영역 정도로 깊게 알고 진행할 필요는 없지만 기본 개념을 잘 알고 하는 것과 그렇지 못하는 건 차이가 큽니다. 이러한 이유로 LLM 개념을 간단하게 설명하는 것부터 ..

AI엔지니어링 2024. 7. 5. 16:53

langchain 은 저에게 많은 영감을 주는 프레임워크입니다.langchain에서 확장하고 있는 응용 기술과 기능들은 LLM을 이용하는 데 있어서 많은 영감을 주고 트렌디한 응용을 파악하는데 도움이 됩니다.하지만 저는 아래와 같이 2가지 이유로 아직 서비스에 직접적으로 langchain을 사용하지 않고 있습니다. 1. 낮은 버전과 잦은 변경아직은 버전이 0.2 인 것과 같이 계속해서 변경되고 있으며 발전하고 있습니다. 불과 몇 달 전에 구성됐던 코드들은 이제 더 이상 사용되지 못합니다. 새로운 기능이나 개선 사항들은 더 이상 이전 버전에서 유지관리가 되지 않는 문제가 많이 발생하고 있습니다. 2. 이해하기 힘들고 컨트롤할 수 없는 세부적인 동작추상화는 확장성과 유지관리를 유용하게 하지만 내부에 동작하는..

AI엔지니어링 2024. 6. 16. 21:02