AI 요즘 생각 KB + MC

  요즘 삼촌이 주로 만들고 있는 앱은 크게 두가지로 구분하여 해.
첫째는 AI 타입. 우리가 흔히 알고 있는 챗봇형 에이전트야 그리고 두 번째는 비아이 타입 bi가 뭔지 알아 비즈니스 인텔리전스라고 좀 오래된 건데 우리가 뭔가 데이터를 알아보고 싶게 보드판에 보이는 현황판으로 만드는 거야 거기에 그래프 차트 같은 걸로 쉽게 표현하는 거지 예를 들면 나연이네 센터에 이번 달에 가장 인기 많은 수업 차트 뭐 이런 거야 보 보험회사에 이달의 영업안 같은 것도 마찬가지고 삼촌이 요즘 만들다 보니까 대부분 새로 AI 데이터 관련된 것들은이 두 가지 타입으로 나뉘더라고
챗봇형 에이전트, 인터랙티브 대시보드를 주로 만들고 있어요.
 
몇가지 해보면서 느끼는 것은

• 예전에 해오던 워터-폴 방식의 개발은 잘 안 맞는 옷 같아요. 애자일 방식의 개발이 AI 에이전트 개발에 더 적절해 보입니다. 일단 만들고, 다양한 프롬을 넣어보면서 더 적절한 답변을 위해, 가이드 프롬을 계속 조정하고, 필요한 가드레일을 추가하는게 원하는 에이전트를 만드는데 더 도움이 되더라구요.
• 대시보드를 구성하는 다양한 위젯(로직과 차트)을 만드는 건 이제는 코드 어시스턴트와 함께 정말 빠르고 신속하게 만들 수 잇어요 .(비용만 문제)
• 그래서 결국 중요한 건 '데이터'라고 느껴요. 아직도 조직에서 필요한 데이터는 잘 준비하지 못한 상태에서, 그저 우리 회사도 뭔가 AI를 써야 하지 않느냐, 너네(IT)는 대체 뭐하고 있느냐. .라는 헛소리만 지껄이는 현실입니다.  중요한 건 회사의 데.이.터입니다. 

회사 주변에서 AI의 활용에 대해서 원하는 분들이 있다면, 회사의 데이터를 잘 수집/정제하는 작업을 시작하자-라고 해주세요~^^
 
현업과 회의를 하면서 정리되는 결과물 (저희팀이 해야 할 일..ㅎㅎ)은 아래 3가지 정도에요.

1. 새로운 데이터를 입력 받을 전통적인 OLTP 시스템 구축
2. AI/분석계에 모자란 데이터를 채우기 위한 새로운 데이터 파이프라인 구현
3. 모여진 데이터의 정제 (이건 현업의 도움이 절실히 필요한 부분)
4. 정제된 데이터의 활용 = 정적/동적 대시보드(비용 최적화를 고민중), 대화형 챗봇 개발

챗봇의 경우는 다각도로 트라이 중입니다. (트라이! 중인 상황이 솔직한 표현)

1. Knowledge Base=RAG 활용한 질의형 :  다양한 비정형 데이터를 RAG로 만들고 활용하려 해요. 여기서 골치인 건 RAG를 만들기 전까지 비정형 데이터를 청킹하고 정리하는 과정이 어려운 것 같아요. RAG 자체는 이미 너무 손쉬워진 기술이라... AI가 이해하기 좋도록 문서를 정리하는 것도 저는 필요하다고 생각합니다. (현업은 말을 안 듣지만..쩝)
2. Metadata Catalog=Semantic model 활용한 질의형 : 정형 데이터를 잘(!) 정제해 놓고 text2sql로 질의하게 되는데, 데이터 정제 품질에 따라 답변은 정말 천지차이입니다. 조직에서는 잘 정제된 신뢰할 수 있는 데이터의 존재 유무에 따라 기술 활용 여부가 결정되요. 틀린 답하는 에이전트? 조직에선 정말 가치가 없으니까요.
3. 그외 특이 도구 활용형 : 사진/이미지 인식(업종 특성상)이라던가, 다른 활용을 고민하는 것도 일부 있겠어요.

대부분은 위 1, 2번 두 가지 도구를 조합하면 풀어나갈 수 있어 보여서 저는 저 두가지로 설계해 나가고 있어요. ^^
(그럼 회의하러 뿅~ )