사내 프로젝트가 끝나고 회사 동료가 추천해준 meetup에 참여해보고 개인적인 생각을 정리하기 위해 작성한다. 물론 더 이전부터 AI 에 대한 관심이 있었겠지만 2023년도부터가 개인이나 기업 또는 기관등에서 생성형AI에 대해 투자를 하기 시작한 것으로 생각한다. 찾아보니 chatGPT는 2022년 11월 30일에 출시되었다고 한다. 자사에서도 KPI항목에 AI관련 아이디어가 들어갈 정도로 관심과 노력이 많이 필요할 것으로 생각된다. 해당 meetup은 오프라인으로 진행되었던 세미나였고, PyLadies 라는 여성 파이썬 개발자들의 모임 이라는 곳에서 주최를 하였다. 신청을 하고 나서 회사 동료가 여성 개발자들을 대상으로 하는것 아니냐고 해서 문의를 남겼는데 참여 대상자에 제한은 없다고 한다😊(저와 같은 사람을 위해..). 발표 연사자는 오늘코드 라는 유튜브를 운영하시는 박조은 강사가 진행하셨는데 찾아보니 머신러닝, AI분야로 강의와 세미나를 많이 진행하고 계신분이었다. 마이크로소프트 MVP Communities로 선정되시기도 한 분이시다(어떻게 하는 걸까?). 강의의 주제는 생성형AI에 대한 변천사와 각 생성형AI의 특징 등을 소개해주었다. 마침 chatGPT-4o mini(https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/) 가 세미나 전날 출시되었다고 한다. 기존 chatGPT 3.5모델보다 경량화, 빠른 응답 등을 장점으로 곧 대체될 것이라고 생각하였다. 강사분께서는 생성형AI를 구독하여 영문 책 번역 초벌로도 사용한다고 하였는데 1권의 책을 초벌로 번역하는데 2$(하나의 생성형AI이며 금액차가 있음, claude는 비싸다고 함) 정도 비용이 발생한다는 것에 놀랐다. 유명 개발자의 저서를 이제 번역본을 기다리지 않고도 학습할 수 있게 되었다. 강사님께서 여러 생성형AI를 사용하시지만 구독하시는 3가지 제품아래와 같다
- chatGPT: 데이터 분석 능력이 탁월
- claude: 까먹음..
- perplexity: 직접 모델을 만들지 않음. Claude, GPT-4o 모델로 검색 증강 생성(RAG)을 활용하여 LLM 단점을 보완하여 성능이 좋다. 예를 들면 "아래 도메인 내용을 분석하여 코드를 작성해줘" 식의 요청의 처리가 가능하다. 그리고 검색 기반으로 최신정보를 얻을 수 있음.
RAG 라는 용어도 처음 알게 되었는데 우리가 익히 알고 있었던 chatGPT는 LLM기반이었다는 것을 알게 되었다. LLM기반의 단점은 답변이 없을 때 허위 정보를 제공(세종대왕 맥북 던짐 사건)하고 신뢰할 수 없는 출처로부터 응답을 생성, 용어 혼동으로 인한 부정확한 응답 등이 있는데 퍼플렉시티는 RAG 기반의 생성형AI 모델로 회원가입 시 아래와 같이 신뢰성을 강조하고 있다
예전에는 토리맘(https://godekdls.github.io/) 개발자 분의 블로그를 보고 나도 공식 래퍼런스를 한번 끝까지 읽어보고 번역해보자는 마음으로 정리(https://haedoang.notion.site/Spring-Security-bfea5c97959c42c688a1318969098c67?pvs=4)를 해보았는데 엄청난 시간과 비용이 발생했었던 경험이 있다. 이제는 퍼플렉시티라는 생성형AI를 통해 신규 release 가 나왔을때 해당 도메인을 주고 내용을 요약 정리하여 샘플 코드를 작성해줘 라는 방법으로 학습 비용을 줄일 수 있을 것 같다고 생각하였다.
이제 효과적으로 생성형AI를 통해 데이터 수집 및 분석하는 방법에 대한 내용에 대해 설명을 해주었는데 생성형AI모델도 사람과 같이 구체적으로 지시를 하지 않는 이상 원하는 답변을 받기 어렵다. 따라서 원하는 답변을 받기 위해서는 프롬프트 작성 능력이 중요하다. 과거 chatGPT 구독형을 사용하였는데 3.5버전과 큰 차이를 느끼지 못하고 해지한 경험이 있었는데 이런 능력이 부족하지 않았나 싶었다. 세미나 예시는 특정 URL에 데이터 정보를 수집할 때 프롬프트를 작성하는 방법에 대한 요령은 네트워크 메뉴에서 실제 데이터를 가져오는 URL 정보와 payload, header, 일부 응답 예시(HTML, json)의 정보를 제공하여 요청을 하면 원하는 답변에 다가가기 수월하다. 강사님께서는 정보 수집 전에 데이터 시각화를 하였는데 mermaid로 다이어그램을 그린 후 도식화(obsidian > excalidraw)를 하였다. 이 내용을 보면서 저번 프로젝트 때 mermaid.js 공식 홈페이지에서 명령어를 익히고 프로젝트 내에 정리를 하며 보냈던 시간과 비용을 빠르게 단축할 수 있다라는 것을 배웠다 🥹
위와 같은 방법으로 생성형AI 모델을 통해 데이터 정보를 수집하는데 2시간 세미나에서 3개의 과제를 수행하는 것을 보고 생성형AI가 시간과 비용을 많이 줄여줄 수 있는 것을 알게 되었다. 앞으로 생성형AI모델을 활용하여 학습하는 방법과 문서화 등에 활용해보면 좋을 것 같다고 생각한다
'교육,세미나' 카테고리의 다른 글
| AWSKRUG 을지로 소모임 후기 (1) | 2024.08.08 |
|---|
