2024 AI summit

2024 AI summit

Grab: 비지니스 경영, 고객 매칭,
Moody: 리스크관리, 컨텐츠 분석, 고객경험 지원
Benz: 데이터가 상대적으로 적지만, 제조를 할때 고객 경험 전달

⁃ AI를 실제 비지니스에 적용할 때 문제가 있는지? Moody: 개발할 시 법을 준수하고 퀄리티가 준수한지도 체크해야함. 전체 절차를 컨트롤 할 수 있다면 생성형 AI가 문제를 일으키지 않을것
⁃ 비지니스에 잘 적용하기 위한 노력? Grab: AI플랫폼에 많은 투자(앱을 안전하게 운영하기 위함), 보안을 지키기 위한 노력 필요
⁃ 조직에 어떤 변화가 있을지? Grab: 스킬셋이 올라가고 업무 일률화가 일어나고 있음. 생산성자체가 높아짐. 인력을 줄이는 것이 아닌 자기 분야의 새로운생각을 내야할것
일자리대체를 걱정하지 말고 더 전문가가 되랏..!

AI를 비디오 및 영상제작에 어떻게 사용하는가?
초현실적인 비디오를 랜더링(수초만 걸림), 여러 요소를 합칠 수 있음 -> 창의성을 재현
간단한 프롬프트를 입력해도 영상은 물리현상 및 스토리텔링을 이해하고 있음 -> 현실화가 잘 됨
이미지를 영상화하는 작업도 가능
영상만드는 프롬프트가 필요없는 경우도 있음. 실제 영상을 보고 다른 영상을 만들 수 있음. 구조적인 연속성을 가질 경우 생성할 수 있음

휴머노이드 기반의 로봇미래
2023년 기준 물류창고 미국에서 100만개 공석 -> 휴머노이드가 가능

Peggy Johnson, CEO of Agility Robotics
자동차산업에 도입되는 로봇(신사업)
어떤 연구? 사람에게 피해를 입히지 않는 동작, 넘어졌을때 물품 피해를 최소화하는 동작들을 연구
일자리감소를 부추기는 것이 아닌 구인구직문제가 심화되면서 이를 보조할 수 있음

김정호|카이스트 교수
HBM 중심이 되는 AI 슈퍼컴퓨팅과 서비스
그의..생각: ChatGPT & 사용자 & 노가다 (로봇)만 남는 미래직업
HBM설계를 인공지능으로 자동화
Parameter 개수 무한대증식 + 처리 bite  -> 100만대 GPU (반도체시장 필요) + 소프트웨어 최적화(NVIDIA, Cuda)가 필요

메모리와 GPU사이의 경계를 허물자! 그의 생각..
HBM(메모리)으로 데이터를 읽어오는데 GPU()를 활용, 메모리 처리속도를 보통 기다리고 있음
HBM4 내년출시 (‘어텐션’같이 가벼운 작업은 메모리까지 가지 않고 계산해서 넘겨주기)
액심냉각시대, 1과0 2진이아닌 멀티로 보내기, HBM을 여러대넣기 등의 방향으로 발전하는 것을 기대


From Proof-of-Concept
엔지니어링 디렉터|코히어

제품 초기디자인, 모델 검증 및 시스템디자인의 피드백을 지속적으로 받아야 뒤쳐지지 않음, 데이터 팔로우업, 규모를 작게
RAG: 명령에 집중, 검색에 집중

1. Parsing
2. Chunking
3. Retrieval
4. Reranking

Model customization

Grab에서의 AI 응용
음식배달, 택시서비스, 금융서비스, (싱가폴, 말레이시아, 인도네시아 등)1억 2천만명이 매달 사용중
매일 100~ 300 TB 생성
교통혼잡 피하기, 운전사찾기 등
2023년 ChatGPT를 활용해보기 시작.. 전체 조직이 어떻게 생성형 AI를 활용할수 있을까?
1. 인프라 재검토 (플랫폼 레이어를 전사적으로 활용하기 위해)
2. 생산성 향상(Grab 내 전부서가 어떻게해야 생산성향상을 할 수 있을지)
3. 고객경험을 변혁적으로 향상할 수 있을까?  

언어도 문화도 이질적인 8개국의 시장을 만족시키기 위해 한것?
App 푸시, 이메일 전달 등 마케팅을 시도했으나
Mystique Copywriter model을 활용해 creative copywriter를 하는데 99시간 -> 1시간 30분으로 절약
하지만, 시간만 절약한것이 아니라 컨텐츠 질도 훨씬 향상됨 -> 마케팅뿐 아니라 CRM까지 영향을 주었음
확장된 개인화도 됨 -> 고객 이름, 어떤음식? 당장 주문하세요 무료배송까지~ 처럼 유저케이스를 얻음
Grab이 원하는 일러스트레이션으로 이미지 생성도 시도
그랩 브랜드에 맞게 파인튜닝하는 과정이 필요했고


빅데이터 & AI,
어떻게 줄서지 않는 공항을 만들고 있나?

KPI: 전체여객의 지연을 줄이는것
Check-in & Security Minimize, Commercial Maximize
목적: 여객단위의 데이터로 공항 이해
문제: 분절된 데이터
Touch-point(찍고 들어가는) Data, Trajectory(동선) Data 이런 데이터를 통합해
여객 1명의 Journey Data를 확보
문제가 발생하는 Route 원인을 찾을 수 있음

활동한 것: 시뮬레이션으로 즉각 의사결정 가능
예시. 게이트 폐쇄 -> 모든 이해관계자를 모아 의사결정

Lasso Tool을 이용해 상품부스를 어디에 배치해야하는지 의사결정
광고최적화 등

웬만한 공항은 컨설팅기반으로 문제해결을 하고 있고, 데이터로 이 문제를 해결하기
CIRIUM(가장큰항공데이터를 보유한기업) 이 데이터를 활용해서 공항건설을 어떻게 해야할지도 분석

———————
위의 일들을 해결하기 위해 했던것?
1. ‘고정관념’을 깰것(당연히 줄은 선다? X)
2. 기초데이터설정(중요한 데이터와 그렇지 않은것에 대한 구분을 분명하게)
3. 필요한 내용만 분석 (AI기술을 꼭 활용해야하는건가?)
4. 기술간결합이 필요 (메타버스환경을 구축해 시뮬레이션 시도)
5. KPI Hierarchy 설계와 이와 관련있는 데이터 연계
6. 조직간 Silo 해결관점의 Benefit 설계
7. 타회사에 판매가능한 상품 세팅
느낀것: 데이터분석을 할때 인공지능기술이 중요한가?


금융(뱅킹)산업의 AI 혁명: 준비부터 혁신까지
CTO| F5 Networks
DBS(싱가폴은행)

AI Reimagined in banking: 개인의 자산현황을 모두 인식하고 맞춤형 처리를 해주는 AI어시스턴트 제공


GPT를 적용한 자연어 처리
오혜진|우아한형제들 머신러닝 프로덕트팀

생성형AI 활용 이력과 계획
메뉴뚝딱AI개발
데이터: 리뷰데이터 (가게 ,메뉴 등의 리뷰)
사용원칙
⁃ 개인정보 보호 및 저작권 준수
⁃ 컨텍스트 집중 (메뉴와 키워드를 연결)
⁃ 
서비스내용: 식감, 재료, 상황같은 것들로 검색해도 제안을 해주는 것
-> 키워드를 입력하는 비중이 기존대비 50프로 증가

생성AI 과제의 4가지 검토 사항
⁃ 정확도 (정확도를 담보해야 서비스까지 이어질 수 있는 생성형 AI 결과물)
⁃ 컨텐츠 안전
⁃ Cost efficiency: 한번 call에 비용이 들기 때문에 전체 과제 지속가능성을 고민했을때 필요한 부분
⁃ Processing Speed: 실시간 서비스 운영이 가능해야..

⁃ 정확도: GPT-4o mini와 GPT-4o를 거쳐서 정확도 99%이상을 만들어감.
⁃ 프롬프트엔지니어와 콘텐츠질을 상승
⁃ 한번 콜할때 5원정도
⁃ (TPM, RPM)가 소요하는 시간이 수분걸림.. Latency

실제 LLM을 활용한 사례:
GPT4활용해서 이미지 체크 및 반려를 알림 to 사장
RAG, Long context 입력으로