채린's datascience

[Feast] Feast(Feature Store)란? + Feast 사용법 — Dev study (tistory.com)

제한된 시간내에 최소의 loss를 갖는 모델의 hyperparameter를 찾는것이 목표다. 

홈 - Jay's Blog (otzslayer.github.io)

Multi-Armed Bandit algorithm은 굉장히 Profitable한 모델이며 이해하기가 쉽다. 

카지노 게임장에서 가장 유리한 슬롯을 찾는것부터 시작됐으며, Arm은 슬롯에 잡아당기는 부분, Bandit(노상강도)는 슬롯, 그리고 여러개의 슬롯중 최적의 효율을 내는 것을 탐색하기 위해 Multi-Armed Bandit이 탄생했다. 

1. greedy: 한번씩 플레이후, 가장 많이 돈을 딴 슬롯머신에 모두 투자한다. 

문제: 탐험(Exploration)이 충분히 이루어지지 않음

2. e-greedy(입실론 그리디): 동전을 던져서 윗면이 나오면 점수 좋았던 슬롯머신, 뒷면 나오면 랜덤선택

동전의 확률은 50:50이다. 50%의 확률로 greedy알고리즘에서 가장 좋았던 슬롯머신을 선택하고, 50%확률로 동전 뒷면이 나오면 슬롯과 상관없이 랜덤하게 골라서 한다. 여기서, 입실론이 하이퍼파라메터이다. 

3. UCB(Upper-Confidence-Bound): 좋은 수익률을 보이며 최적의 선택이 될 가능성이 있는 슬롯머신을 선택

기존에 greedy알고리즘과 비교하면, 빨간 박스가 추가되었다. 해당 슬롯머신이 최적의 슬롯머신이 될 수 있는 가능성이다. 

출처: 멀티 암드 밴딧(Multi-Armed Bandits) (brunch.co.kr)

1. simple random sampling: 난수표를 이용해 모든 대상이 동일한 기회를 갖도록 추출되는 방법

2. stratified random sampling: 일정 기준에 따라 2개 이상의 동질적 층으로 구분하여 층별로 추출되는 방법.

중요 집단을 빼지 않고 표본에 포함시킬 수 있으므로 대표성이 높음. 기존 비율을 유지한 채로 추출. 

3. systematic random sampling: 무작위 위치에서 출발점을 선택하고 각 k번째인 데이터로 추출하는 방법. 데이터 개수가 많다면, 단순무작위표본추출에 비해서는 대표성이 높음.

4. cluster sampling : 모집단의 대상을 직접 추출하지 않고 여러 개의 cluster로 묶어서 cluster를 추출해 군집내 대상을 조사하는 방법. 

단순표본추출에서 현실적으로 제약이 있을때 이용될 수 있음. 

참고자료: 표본추출 (tistory.com)

목적

데이터 양을 절대적으로 줄여 모델 적합 시간을 줄이되, 정보손실을 최소화할 수 있는 방법론을 탐색한다.

샘플링 분류

1. Probability Sampling: 랜덤하게 데이터를 추출하는 방법, 모집단의 모든 구성원이 선택될 가능성이 있는 추출

1) simple random sampling: 랜덤한 숫자를 줘서 무작위 추출

- python 함수: pandas.sample

2) systematic sampilng: 어떤 체계를 주어 무작위 추출 (예시: 6번째마다 추출, 문제점: 데이터의 순서에 따른 정보가 담겨 있으면 안됨) 

- python 함수 (step size를 만들어 일정 구간의 데이터를 추출)

3) stratified sampling: 모집단을 n개의 그룹으로 나눠 임의로 k개의 데이터를 추출해서 합치는 방법

- python 함수: from sklearn.model_selection import  StratifiedSuffleSplit 

4) cluster sampling: 모집단을 여러개의 군집으로 나눠 군집 k개를 선택해 합치는 방법

- python 함수: cluster를 설정해 랜덤하게 추출 

위의 표본추출을 python코드로 구현한 예시

simple-random-sampling | Kaggle

2. Non-Probability Sampling : 랜덤하지 않게 데이터를 추출하는 방법

1) convience sampling: 데이터를 수집하기 좋은 위치나 시기에 샘플링함 ( 통계적 추론 불가)

2) purposive sampling: 목적에 가장 적합한 데이터라고 생각하는 샘플 선택 (모집단의 대표성이 떨어짐)

3) quota sampling:  

연구편향을 최소화하기 위해 샘플링 단계를 명확히 해야함. 대표 샘플이 부족한 경우 연구편향이 일어나거나 유효성에 영향을 미침.

유의할 점

1. 데이터 세트가 줄어든다고 잃어버린 정보량을 측정할 방법은 없음

1. k-최근접 이웃 알고리즘으로 다수의 clustering을 만든뒤 각 cluster별로 차이가 없다고 생각될때 하나의 cluster를 선택해서 학습

https://sci2s.ugr.es/pr

2. 밀도 보존 샘플링: 세트를 무작위로 선택하거나 층화된 그룹을 찾는 법

https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=6360017 

3. 가장 간단한 무작위 샘플링

- 이해하기 쉽고 실수하기 어려우며 프로세스에 편향을 도입할 가능성이 없음.

- 여러 샘플들을 실험해보고 전체 데이터 세트에 대해 다시 실행하여 성능 향상을 추정해보면 됨

- 단순 샘플링으로 데이터 개수를 늘려가면서 robustness를 찾는 법도 괜찮음

reference: https://stackoverflow.com/questions/36107725/what-are-effective-preprocessing-methods-for-reducing-data-set-size-e-g-remov

교육 속도와 정확도 대 예제 수의 장단점을 보여주는 그래프는 

https://github.com/szilard/benchm-ml

https://www.marktechpost.com/2023/03/06/cleanlab-open-sources-activelab-a-novel-active-learning-method-for-data-labeling-to-improve-machine-learning-models/

https://github.com/cleanlab/cleanlab

https://github.com/cleanlab/examples/blob/master/active_learning_multiannotator/active_learning.ipynb

데이터가 추가됨에 따라 성능의 robustness를 보인다면 cut-off를 하는 방법

ADP) 3-2. 파이썬으로 표본 추출: 단순랜덤 추출법, 계통추출법, 집락추출법, 층화추출법 (tistory.com)

논문

마케팅 분석에서 자주 사용하는 A/B test는 

모집단에서 집단을 무작위로 추출해 하나의 변수 효과를 한쪽에는 주고, 다른 한쪽은 주지 않고 

두 군간의 차이를 보는것이다. 

테스트 반응이 있었는지 여부만 확인! 하는 것이 AB test의 기능이었다면

Uplifting modeling은 어떤 특징을 보이는 표본이 반응 하거나 하지 않았는지를 확인하는 점이 다르다. 

Uplifting의 4사분면

1. 무관심: 어떻게 하던 무관심 ex) 휴면고객

2. 설득가능: 비용을 들여서라도 전환을 시키면 유리

3. 청개구리: 오히려 반대로 의심하는 경우

4. 잡은 물고기: 비용이 드는 행위는 자제

업리프팅은 변수 하나에 대해 두 군간의 차이를 본다. 변수가 많아지면 머신러닝으로~!

1. AutoML을 하는 이유? 

- 번거로운 수작업 자동화

- 머신러닝 장벽 완화(비전문가의 머신러닝 사용)

* 은행 입장: 분류된 person_id만 요구

2. 필요 point?

- 수천, 수만행의 데이터추출도 수초 내에 수행할 수 있도록 구현

예측 목적: 주어진 데이터 window로 앞으로 정해진 시간내의 값들을 예측하기

예를 들자면, 14개의 변수를 가진 row가 하루에 10분마다 기록된다면,  데이터는 하루당 144개의 관측치를 갖는다. 

이때 5일간의 데이터로 앞으로의 6시간을 예측한다고 가정한다면, 

모형을 학습하기 위한 window는 720(5일*144)개의 관측값을 포함하고 있다. 

이러한 구성을 많이 만들 수 있는 데이터 세트가 실험에 적합하다. 

학습이 잘 되기 위해

1. 학습하려는 window가 많아야함. 

2. time interval을 잘 주어야함. => 예를 들어, 10분마다 수집되는 데이터지만 데이터 

시계열을 바라보는 가장 자연스러운 문제 구도는 '각각의 timestep, t 에서 다음 event까지의 시간을 예측하는 것'이다. 

이를 TTE라고 부른다. 

그렇지만, 다음 event가 발생하지 않아서 누락된 데이터가 있을 수 있고 이를 censored data라고 한다. 

그럼 이런 censored data분석에 쓰이는 모델이 무엇이 있을까? 

sliding box model

TTE를 직접 예측하는 것 대신에, 특정 사건이 t(영역)시점에 발생할 것인지를 예측한다. 

영역내의 사건발생 유무와 확률을 예측할 수 있다. 

• 장점: 단순함, 명확성, 작동원리 이해 쉬움과 유연성(Xgboost나 랜덤포레스트 등 char-level RNN까지 활용가능)
• 단점: 예측이 유익하지 못함. 예시 -> '30일동안 이벤트가 발생하지 않는다면 예측된 확률이 과연 유효한가?'

sliding box model보다 더 신뢰도가 높고 해석가능한 결과를 얻을 수 있다.

WTTE-RNN

• 이산형, 연속형 자료에 모두 적함 가능
• censored data 학습 가능
• 일시적인 feature와 시간에 따른 변화하는 공변량 이용가능
• 장기간의 일시적 패턴 학습가능

https://github.com/YBIGTA/Deep_learning/blob/master/ML/wtte/%5B2017.08.12.%ED%86%A0%5DWTTE-RNN%20%EC%A0%95%EB%A6%AC%EC%9E%90%EB%A3%8C.md

시험장에 들어가면

1. OT(20분)하는 동안 선택지 선택

- 일경험 X, 학생 X => 취준생, 수업은 들은지 5년이상됨

- 어디사는가? 가족과 함께

- 공원,해변,영화,콘서트보기

- 요리하기

- 걷기, 조깅, 하이킹/트레킹, 자전거

- 국내여행, 해외여행, 집안에서의 여행

질문 난이도는? 5를 선택, 중간에 Q7쯤 난이도변경을 묻지만 똑같이 5선택

2. 본시험(40분)

자기소개 1문항

선택지에서 14문항(주제마다 대략 4-5개)

자기소개는 필수! 무조건 완벽구사

내소개 -> 나이 -> 가족 -> 성격 -> 최근 직업구하는 중 -> 쉬는 시간 -> 내 목표

오픽 특징 

1. 질문에 detailed description 혹은 look like이 나오면 무조건 묘사!

2. 답변의 마무리는 모두 나의 느낌

3. 과거와 현재를 비교하는 문제는 가장 어려운 문제유형이고 시제를 정확히 사용했는지를 체크하는 문제!

4. 모든 질문에 대답할 필요 X

5. 생각나지 않으때는 마무리는 I love ~ 

6. 말이 길어졌다면, anyway로 다시 본론으로 돌아오기

7. 질문이 나올때 about에 집중하기

8. 선호 및 이유는 현재시제

9. 기억에 남는 경험은 출제 빈도가 높다!

10. 롤플레이는 보통 빌리거나/구매하거나/초대하거나/초대당한다.

11. become interested in 이들어가면 계기를 묻는것 -> 답변 시제는 과거

12. 비교하는 두 대상을 현재로 답변 -> 유사점, 차이점, 본인 선호

13. 질문에 first가 있다면 계기를 묻는것