[웅진씽크빅X러닝스푼즈] AI를 활용한 DT 서비스 기획자 3기 사전직무 3주차 후기

얼마 전, 퇴직 후 팀워크쉽, 리더쉽을 개발할 기회를 찾다가 러닝스푼즈에서 새로운 프로그램을 시작하는 것을 발견했습니다. [AI를 활용한 DT 서비스기획자 프로젝트 포트폴리오 7주 완성반](https://b2g.learningspoons.com/future-ai-pm/) (상기의 링크는 언제든지 변경될 수 있으니 러닝스푼즈 홈페이지에서 찾아보시는 걸 추천드립니다.) 실무 경험이 있는 팀원들과 프로젝트를 추진해볼 수 있는 좋은 기회인 것 같아 고민 없이 바로 신청하였습니다. 이번 글에서는 프로그램 3주차를 마친 겸 간단한 회고를 남겨보려고 합니다. 시간이 참 빠르네요. [직전 글 보기](https://www.xavierchoi.blog/ko/learning-spoons-week-02) --- 이번 글에서는 로컬 모델들을 사용해 데이터를 분석해본 방법과 절차에 대해서 기록해보려 합니다. GPT-5도 나왔겠다, Claude Max Plan도 구독 중이겠다... 왜 굳이 로컬 모델을 돌려야 하나? 라는 의문이 들 수도 있겠지만, 저희 팀에서 분석할 데이터가 바로 **기업의 핵심 자산이 담긴 기밀 데이터**였기 때문입니다. 웹 앱에서 채팅 UI를 통해 구동되는 대부분의 프론티어 모델들은 사용자의 채팅을 학습 데이터에 사용합니다. ChatGPT의 임시 채팅 기능을 사용하면 채팅 데이터를 학습에 사용하지 않는다고는 하는데... 일단 그 사실의 진위를 확인할 수가 없는 것이 첫 번째 문제겠습니다. 두 번째 문제는, 기업 입장에서 일단 **기밀**로 취급되는 데이터가 외부에 유출된다는 사실만으로도 큰 거부감과 부담감을 느낄 수 있습니다. LLM이 인터넷 상의 거대한 정보들을 모두 학습해서 탄생했다는 사실은 변하지 않으니, 자사의 데이터도 그러한 환경에 노출될 수 있다는 리스크 자체를 피해야 할 필요성이 있습니다. 때문에 가끔 대기업에서 사내 ChatGPT 사용을 금지했다는 기사를 볼 수 있습니다. 어찌보면 당연하기도 하지만, AI 도구가 갈수록 강력해지는 현 상황을 지켜보면 시대에 뒤떨어진 결정이라고 볼 수도 있습니다. 그래서 적절한 대안은 오픈소스 모델을 로컬에서 구동하는 것입니다. 웹 앱에서 제공되는 프론티어 모델보다 성능이 떨어질 수 있더라도, **로컬**에서 구동되기 때문에 채팅 데이터가 외부로 유출될 걱정은 하지 않아도 됩니다. 이번 프로젝트를 진행하던 중, 마침 Exaone 4.0과 GPT-OSS 모델이 출시되어서 두 모델을 데이터 분석에 사용해보기로 했습니다. Exaone-4.0-32B 모델은 한국어 실력이 뛰어났으며, GPT-OSS-20B 모델은 120B보다는 떨어지지만 추론 성능이 준수하고 GPT-4 수준의 벤치마크를 보여주기 때문에 두 모델을 선택하게 되었습니다. ![](https://a.storyblok.com/f/285639888010501/3104x1872/eae26b4f1f/2025-08-18-9-48-25.png) 마침 얼마 전 Macbook Air 15인치 모델을 새로 구매했는데, 로컬 모델 구동을 할 기회가 생길수도 있다! 라는 것을 고려하고 32GB RAM 사양을 선택했습니다. 그래서 두 모델을 큰 문제 없이 구동할 수 있었습니다. macOS 환경에서는 여러 방법이 있지만 채팅 형식의 UI와 파일 첨부를 간단하게 지원하는 LM Studio를 사용하면 손쉽게 모델을 검색하고 다운로드받아 써볼 수 있습니다. 스크린샷은 LM Studio를 실행하고 검색창에서 Exaone 모델을 하나 선택한 사진입니다. ![](https://a.storyblok.com/f/285639888010501/605x915/278443662b/2025-08-18-9-56-50.png) 모델을 로드한 다음, ChatGPT로 프롬프트를 짜 줍니다. 이번에 GPT-5로 업그레이드 되면서 프롬프트 설계 능력도 좀 향상된 것 같습니다. 또한 Prompt Optimizer라는 도구도 사용할 수 있으니, 좀 더 간편하게 효율적인 프롬프트를 생성할 수 있게 되었습니다. ![](https://a.storyblok.com/f/285639888010501/3104x1872/80c57ae328/2025-08-18-10-03-41.png) 이제 프롬프트가 준비되면 1) LM Studio에서 적절한 모델을 load하고 2) CSV 파일을 첨부한 다음 3) 프롬프트를 ChatGPT로부터 복사, LM Studio 채팅창에 붙여넣습니다. 그 뒤 보내기 버튼을 눌러 답변을 기다리면 됩니다. 아무래도 로컬에서 돌아가며, 양자화된 모델이라 웹 앱에서 접할 수 있는 프론티어 모델에 비해 추론 속도 및 토큰 생성 속도가 떨어집니다만, 기다리면 결과가 나오니 그 동안 다른 프롬프트를 설계하고 있으면 됩니다. --- 답변은 보안 문제로 인해 여기에 공유할 수 없지만, 대략적으로 느낀 바는 다음과 같습니다: - 확실히 웹 앱 구동 프론티어 모델보다 성능이 떨어진다 - 그렇지만 못 써먹을 정도는 아니다 - 하지만 다다익램 디바이스가 필요하기 때문에 가성비 좋은 선택은 아니다 - 보안 문제가 없는 경우 그냥 저렴하게 프론티어 모델 구독해서 사용하자 그래도 GPT-OSS-20B가 나온 바로 다음 날에 테스트해볼수 있는 기회가 생긴 것에 의의를 두고 있습니다. 또한 로컬 모델을 구동해 받은 답변들에서 유의미한 인사이트를 추출할 수도 있었구요. 불편한 점이 하나 있다면 큰 용량의 CVS 파일의 경우 LM Studio에 모두 업로드할 수 없고 일부만 추출해서 임베드되기 때문에 전략적인 파일 용량 관리(?)가 필요하다는 점입니다. 다음 글에서는 이렇게 얻은 데이터 분석 결과를 실제 LMS 개선에 녹여내는 작업에 대해서 상세하게 적어보도록 하겠습니다. 기능 정의를 위해 제 팀이 선택한 방법론적인 부분에 대해서 잘 설명할 수 있으면 좋겠네요. 긴 글 읽어주셔서 감사합니다! #웅진씽크빅 #러닝스푼즈 #웅진커리어부스터 #미래내일청년일경험 #AI기획자