AI의 양대무기 : KB + MC

어떤 방향으로 발전해 가는게 좋을지 고민하고 있구나.

우리 나연이가 요가 센터에서 웰니스 스타트업으로 나아가기 위해 많은 생각을 하고 있는 걸.^^

 

요즘 삼촌이 주로 만들고 있는 앱은 크게 두가지로 구분하려 해.

 

첫째는 AI 타입.

우리가 흔히 알고 있는 챗봇형 에이전트야. 대화를 통해서 네가 질의하는 것에 답변해주며 도움을 주는 AI 비서야.

나연이는 지금 '나비'가 그런 역할을 해주고 있지.

 

그리고 두 번째는 BI 타입. BI는 비즈니스 인텔리전스라고 해서 제법 오래된 개념이야.

비즈니스에 도움이 되는 Insight(통찰)을 얻기 위해 데이터를 알아보기 쉽게 보드판에 보이는 현황판으로 만드는 거야.

다양한 차트 같은 걸로 데이터를 쉽게 표현하는 거지.

 

예를 들면 나연이네 센터에 이번 달에 가장 인기 많은 수업, 회원들의 불편한 점 이런걸 차트로 표시해서 알기 쉽게 하는거지.

비유하자면 보험회사의 이달의 우수 영업사원 같은 것도 마찬가지고.

이렇게 차트를 이용해서 시각화하면 그냥 엑셀에 데이터로만 있을 때 미처 깨닫지 못했던 걸 느낄 수 있어.

 

삼촌이 요즘 만들다 보니까 대부분 새로 AI 데이터 관련된 것들은이 두 가지 타입으로 나뉘더라고^^ 

 

 

그 다음에 이렇게 AI 관련 결과물을 만들어 가면서 느끼는 것은

• 전통적으로 해오던 워터-폴 방식의 개발은 잘 안 맞는 옷 같아요. 애자일 방식의 개발이 AI 에이전트 개발에 더 적절해 보입니다. 일단 만들고, 다양한 프롬프트를 넣어보면서 더 적절한 답변을 위해, 프롬프트를 계속 조정하고, 필요한 가드레일을 추가하는게 원하는 에이전트를 만드는데 더 도움이 되더라구요.
• 한편 BI 대시보드를 구성하는 다양한 위젯(=비즈니스 로직과 데이터와 차트의 디자인으로 구성된 하나의 단위)을 만드는 건 이제는 코드 어시스턴트와 함께 정말 빠르고 신속하게 만들 수 잇어요. 오히려 중요한 건 조직에서 유지하기 위한 비용!
• 그래서 결국 중요한 건 '데이터'라고 느껴요. 아직도 조직에서 필요한 데이터는 잘 준비하지 못한 상태에서, 그저 우리 회사도 뭔가 AI를 써야 하지 않느냐, 너네(IT)는 대체 뭐하고 있느냐...라는 헛소리만 지껄이는 현실입니다. 그러면 말해주고 싶어요.

중요한 건 조직의 준비된 데.이.터입니다. 

 

 

조직 주변에서 AI의 활용에 대해서 원하는 분들이 있다면, 조직의 데이터를 잘 수집/정제하는 작업을 시작하자-라고 해줘야 해~^^
 
삼촌이 조직에서 IT를 잘모르는 현업과 회의를 하면서 정리되는 결과물 (저희팀이 해야 할 일..ㅎㅎ)은 아래 3가지 정도란다.

1. 새로운 데이터를 입력 받을 전통적인 OLTP 시스템 구축
2. AI/분석계에 모자란 데이터를 채우기 위한 새로운 데이터 파이프라인 구현
3. 모여진 데이터의 정제 (이건 현업의 도움이 절실히 필요한 부분)
4. 정제된 데이터의 활용 : 정적/동적 BI형 대시보드(비용 최적화를 고민중) + AI형 대화형 챗봇 개발

 

AI형은 여러가지 방법으로 시도 중이야.

1. Knowledge Base = 지식 베이스라고 하는 RAG 활용한 질의형 :  조직의 다양한 비정형 데이터를 RAG로 만들고 활용하는 거지. 무슨 말이냐면, 전에 나연이가 2호점 센터를 오픈하려 할 때, 회원들 VoC를 데이터화해서 어떤 곳에서 고객의 Pain Point가 있는지 파악했자나. 그 VOC를 데이터화 하는게 RAG야. 여기서 골치인 건 RAG를 만들기 전까지 비정형 데이터를 청킹하고 정리하는 과정이 어려운 것이지. 음성 파일을 데이터로 만들기 위해서 제법 노력을 했었지? 그런게 중요해.  RAG 자체는 이미 너무 손쉬워진 기술이라... AI가 이해하기 좋도록 정리하는 것 - 그것이 중요한 것이야.
2. Metadata Catalog = Semantic model 활용한 질의형 : 정형 데이터를 잘(!) 정제해 놓고 text2sql(나연이가 자연어로 물어보면, 그걸 데이터를 찾을 수 있는 SQL명령으로 바꿔주는 기술이야)로 질의하게 되는데, 데이터 정제 품질에 따라 답변은 정말 천지차이란다. 조직에서는 잘 정제된 신뢰할 수 있는 데이터의 존재 유무에 따라 이 기술 활용 여부가 결정돼. 나연이의 질문에 전혀 관계 없는 대답을 하거나 틀린 데이터를 알려주는 AI 비서는 가치가 없겠지.ㅎㅎㅎㅎ
3. 그외 특이 도구 활용형 : 사진/이미지 인식(업종 특성상)이라던가, 나연이네 처럼 선생님들의 강습 영상 같은걸 인식하고 답변해주는 그런 활용을 고민하는 것도 있지.

 

그래서 삼촌이 생각하는, 나연이의 조직의 AI활용은 이렇게 나아 갔으면 해.

바로 KB와 MC를 무기로 사용하면서, 그걸 이용하는 두뇌는 바로 Ontology로 갖추고 있는 것이지.

 비정형 데이터를 다루는 KB와 정형 데이터를 만지는 MC를 자유자재로 다루면서, 나연이네 조직의 가장 중요한 우선 순위와 주의해야 할 제약 조건들을 컨트롤하는 두뇌는 Ontology로 만드는 것이지~:D

삼촌과 함께 나연이네 조직을 쭉쭉 발전시켜 볼까~^0^