에이군의 소프트웨어 엔지니어링 연구실

얼마전에 사내 개발자 교육을 위하여 내부에서 구현하고 있는 AI Agent 엔진에 맞추어 최근에 핫한 Agent의 트랜드에 대해서 이야기한 내용이 있었습니다.제 블로그에도 정리하고 한번 올린다고 생각했었는데 바쁜 일상 때문에 좀 늦었지만 지금 올리게 됬습니다.발전이 무척 빠른 분야로 몇달전에 진행했던 자료이기 때문에 지금은 다소 트랜디 하지 않는 내용일수 있습니다. 먼저 키워드를 이야기 하자면 아래의 그림처럼 멀티모달, 에이전트, 온디바이스와 같이 크게 3가지로 이야기 할수 있습니다.이제는 LLM은 단순한 텍스트 뿐만 아니라 음성, 영상, 이미지와 같은 멀티모달을 이해하고 처리 되며 좀더 작은 디바이스에서 동작 하는걸 요구 합니다. 또한 단순한 도메인의 정해진 처리뿐만 아니라 에이전트가 스스로 생각하고 ..

AI엔지니어링 2025. 3. 16. 16:25

이번글에서는 LLM의 학습에 대해서 정리할까 합니다. 이전 글에서  위 그림처럼 LLM은 먼저 모델을 학습하는 과정을 거치고 학습이 완료된 모델을 사용하여 tokenizer 로 입력값을 만들어서 모델에 입력하여 값을 예측하여 사용한다고 했습니다. 그렇다면 맨땅에 모델을 학습하려고 하면 어떤 과정을 거쳐야 할까요? 아마도 아래의 프로세스와 유사하게 진행해야 할것입니다. 먼저 당연히 학습할 데이터를 먼저 준비해야 하고 우리가 학습에 사용할 모델을 선별해야 합니다. 그리고 우리는 pre training 단계로 아무 지식이 없는 백지의 모델을 학습하게 됩니다.  그 다음에는 조금더 도메인에 맞게 fine tuning 이라는 단계를 진행하여 모델을 좀더 학습한 다음에 해당 모델을 배포해서 사용 합니다.  최근에 ..

AI엔지니어링 2024. 10. 22. 10:14

이전글에는 LLM 동작에 대한 아주 기초적인 학습 개념에 대해서 작성했었습니다.  이번글에서는 한단계 더 들어가서 실제로 LLM 이 데이터를 어떻게 인식하고 처리하는지에 대한 파이프라인을 살펴보겠습니다.결국은 LLM도 컴퓨터가 처리하는 것이기 때문에 입력 받는 문자열을 수치화 하여 입력을 해야 합니다.LLM에 원하는 입력을 하기 위해서는 데이터 전처리 단계가 필요하며 이 전처리가 끝나면 수치값으로 변환 됩니다.위처럼 문장을 데이터 전처리를 하여 수치화로 변환하는 작업은 tokenizer 가 진행 합니다.이런 tokenizer 는 다시 정규화 -> 사전토큰화 -> 학습 -> 사후처리 프로세스로 구분됩니다.정규화 단계에서는 공백 제거, 소문자 변환 및 악센트 제거 등과 같이 문자열의 일반적인 정제 작업을 진..

AI엔지니어링 2024. 9. 11. 14:31

최근에는 LLM이라는 게 개발자에게 핫하게 다가오고 있습니다.ChatGPT  서비스의 탄생으로 개발자가 필요 없어졌다는 루머? 도 들리고 개발자들에게는 다가오는 미래에 대하여 대비가 필요합니다.그런데 막상 하려고 하니 뭐부터 해야 할지 헷갈릴 수도 있고 어디까지 알아야 할지 막막할 수도 있습니다.이런 분들을 위하여 제 블로그에 개발자를 위한 LLM 엔지니어링 스리즈를 작성하려고 합니다. LLM을 하기 위해서는 간단한 머신러닝의 개념을 알면 도움이 됩니다. 예전에는 해당 영역이 개발자의 영역이기보다는 리서처 영역에 가까웠습니다. 지금은 리서처 영역 정도로 깊게 알고 진행할 필요는 없지만 기본 개념을 잘 알고 하는 것과 그렇지 못하는 건 차이가 큽니다. 이러한 이유로 LLM 개념을 간단하게 설명하는 것부터 ..

AI엔지니어링 2024. 7. 5. 16:53

LLM 기술을 가지고 어떤것을 활용해 볼까 하다가 제가 좋아하는 축구에 대한 주제로 뭔가를 하면 좋지 않을까 하고 AI SOCCER LAB 을 시작하게 되었습니다. AI SOCCER LAB 은 LLM을 기반으로 자연어 처리 관련 TASK 와 데이터 분석을 진행하여 서비스를 구축하는것을 목적으로 하고 있습니다. 기본적으로 구현하고 있는 서비스 데이터 프로세스 파이프라인 구조는 아래와 같습니다. news info 리스트 수집 :  축구관련 기사 목록을 수집news body 수집: 수집한 기사 리스트에 대해서 본문을 수집news Summary: 수집한 기사의 본문을 이용해서 요약을 진행news image generate : 기사의 요약한 내용에 맞는 이미지를 생성data analysis : 수집한 기사에 대한..

AI엔지니어링 2024. 5. 30. 17:18