Skip to content

dmskorea/project2-IEEE-CIS-Fraud-Detection

BranchesTags

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

494 Commits
hjy
hjy
 
 
kyy
kyy
 
 
sgm
sgm
 
 
기념사진
기념사진
 
 
readme.md
readme.md
 
 

Repository files navigation

DMS.Korea Submit CountBoard
9-24 9-25 9-26 9-27 9-28 9-29 9-30
o o o o o
o o o o
o
o
DMS.Korea 알고리즘별 CV(k=5) 스코어
순위 XGB CatBoost liteMOTEE NN DAE+NN imb_xgb
1 0.9395(종열,LB:0.9488) 0.9442(종열,LB:0.9448) 0.9423(윤영,LB:0.9522)
2 0.9367(종열,LB:0.9486) 0.9346(종열,LB:0.9345) 0.9420(종열)
3 0.9332(종열) 0.9419(종열)
4 0.9406(윤영,LB:0.9519)
5
6
DMS.Korea LeaderBoard (Blending)
date name CV LB 비고
2019-09-29 현종열 - 0.9555 simple_weighted_avg v4
2019-09-27 현종열 - 0.9552 simple_weighted_avg v2
2019-09-21 김윤영 - 0.9550 + 20 private including liteMOTEE
2019-09-29 현종열 0.9553 0.9549 9548_stack_of_stack_w_tunedLGB2 v2
2019-09-29 현종열 0.9551 0.9548 stack_of_stack v1
2019-09-27 현종열 0.9511 0.9543 find_the_optimal_weights_w_bounds(0,1) v33
2019-09-10 김윤영 - 0.9539 pulic24 + private 26 (tune)
2019-09-16 현종열 - 0.9536 + private 5
2019-09-27 현종열 0.9400 0.9532 find_the_optimal_weights v9
2019-09-27 현종열 0.9398 0.9529 find_the_optimal_weights2 v1
2019-09-25 현종열 - 0.9511 pulic24 + private 50
2019-09-25 현종열 - 0.9524
DMS.Korea LeaderBoard (Solo Model)
date name 알고리즘 변수개수 CV LB 비고
2019-09-21 현종열 LGB 350 0.9430 0.9523 card_impu & D values_normal
2019-09-21 현종열 LGB 700 0.9429 0.9521 card_nan_impute2
2019-09-18 김윤영 LGB 463 0.9417 0.9521 high correlation feat removal (T=0.9998)
2019-09-17 김윤영 LGB 493 0.9418 0.9520 group na & Amt cent / decimal encoding
2019-09-20 현종열 LGB - 0.9426 0.9519 card outlier imputation
2019-09-17 현종열 LGB - 0.9424 0.9518 add trans agg features, Out folds AUC 0.9421
2019-09-18 석기명 - - - 0.9518 submit-file-4 std
2019-09-15 현종열 LGB - 0.9426 0.9516 drop id_freq
2019-09-23 현종열 LGB 350 0.9435 0.9515 fobj
2019-09-14 현종열 LGB - 0.9425 0.9512 na_v & uid
2019-09-04 김윤영 LGB 419 0.9410 0.9509 DT_group_kfold
2019-09-02 김윤영 LGB 418 0.9399 0.9508 + type_per_period
2019-09-05 현종열 LGB - 0.9421 0.9506 remove sum
2019-08-27 김윤영 LGB 410 0.9393 0.9504 + (null sum + browser check) & drop some V
2019-09-06 석기명 LGB 366 0.9452 0.9472 min features
2019-09-03 석기명 LGB 492 0.9340 0.9461 10 folds + lgb
2019-08-20 송현정 LGB 556 0.9372 0.9457 simple fe + 5folds + lgb
2019-09-07 전승유 LGB 471 - 0.9431 tune
2019-09-021 공지사항

알고리즘별 담당자

  • NN, liteMOTEE : 김윤영
  • NN, Post Progress, Extra Trees : 현종열
  • XGBoost : 송현정
  • CatBoost : 석기명
  • LGB : 전승유
2019-09-06 공지사항
  • 박민규, 장주호, 하진성, 김민주, 양현일, 이윤선, 탈퇴
2019-08-24 공지사항

안녕하세요^^ 2019-08-24 공지사항 공유드립니다.

  1. 김윤영님이 오늘부터 단머스 (부)운영진으로 활동하시게 되었습니다.

  2. 스터디 시간에 말씀드린데로 팀을 재구성했습니다.

  • A팀 팀장은 현종열, B팀 팀장은 김윤영입니다.
  • 팀장은 팀원들이 작업할 수 있는 공통 템플릿을 제공할 예정입니다. 공통 템플릿은 현종열님과 김윤영님이 작업한 내용을 종합해서 곧 공유드리겠습니다.
  • 2019-08-24 기준 A팀 최고성적은 CV:0.9509 LB:0.9486 B팀 최고성적은 CV:0.9394 LB:0.9500 입니다.

TEAM

  1. 스터디룰을 다시 한번 공지드리면 아래의 경우에 해당되는 경우 팀에서 제외될 수 있습니다.
  • 스터디 참여가 저조한 경우
  • 연속해서 스터디에 불참하는 경우
  1. 보다 효율적인 스터디를 위해서 스터디 운영 방식을 변경합니다.
  • 새로운 스터디 방식 : 공통 템플릿이 제공되면, 그 템플릿을 기초로 아래의 영역 중 한가지 이상을 추가로 작업하여 CV,LB 점수가 향상되면 그 내용을 정리해서 스터디 시간에 발표
  • 아래 URL를 각 영역별 참고 자료입니다.
  1. 변수 생성 (feature aggregation, target mean encoding, weight of evidence, indicator features, interaction features ...)
  1. 변수 선택
  1. 모델 튜닝 (lgb, xgb, catboot, nn)
  1. 공통템플릿을 1차 버전은 현재 notebook에서 LB점수가 가장 높은 notebook으로 사용합니다. 2차 버전은 추후에 공유드리겠습니다.
2019-08-23 공지사항
  • 조승우님 탈퇴
2019-08-12 단머스2기 이메일
2019-08-11 커널 주요내용

  1. train, test 데이터셋은 not overlap!. train은 과거 데이터 test는 미래 데이터로 data split에서 random 으로 하지말고 시간(TransactionDT)기준으로 진행

  2. train 데이터셋과 test 데이터셋은 샘플 사이즈는 동일. (훈련시 샘플링 비추)

  3. 몇몇 변수는 이미 normalized 되어 있습니다. 변수 전부를 normalized 해서 사용x

  4. 몇몇 categorical 변수는 "found"라는 상태값 존재

  5. client device 변수, some of info could be for old devices and may be absent from test data. (device에 대한 참고 의견 : https://www.kaggle.com/c/ieee-fraud-detection/discussion/103565#latest-596633)

  6. TransactionAmt를 log transform하면 skewed distribution이 조정 됨

  7. card1 ~ card6는 categorical feature (card1,2,3,5의 변수값은 numeric이여도 이변수들은 category 입니다.)

  8. kernel에 reduce_mem_usage 함수가 올라와 있습니다. https://www.kaggle.com/kabure/extensive-eda-and-modeling-xgb-hyperopt

  9. TOP VI변수 : TransactionID, card1, TransactionAmt, addr1, card2, dist1 (TransactionID에 대한 참고 의견 : https://www.kaggle.com/c/ieee-fraud-detection/discussion/103690#latest-596681)

  10. LGB + Best Bayes params : {'bagging_fraction': 0.8999999999997461, 'feature_fraction': 0.8999999999999121, 'max_depth': 50.0, 'min_child_weight': 0.0029805017044362268, 'min_data_in_leaf': 20.0, 'num_leaves': 381.85354295079446, 'reg_alpha': 1.0, 'reg_lambda': 2.0}

2019-08-08 공지사항

팀을 재구성했습니다. 팀별 최대 인원은 5명입니다.

[A팀] (DMS.Korea.A)

  • A-01. 현종열(hjy) : DB손해보험, 디지털혁신파트
  • A-02. 양현일(yhi) : 우리은행, 데이터분석
  • A-03. 이윤선(lys) : 오렌지라이프, 데이터분석
  • A-04. 박민규(pmk) : AIA생명, 데이터분석

[B팀] (DMS.Korea.B)

  • B-01. 김윤영(kyy) : 단머스1기 멤버
  • B-02. 송현정(shj) : 단머스1기 멤버
  • B-03. 장주호(jjh) : 연세대 의예과 본과 1학년, 주요언어 Python/R, 사용패키지 사이킷런, 방학기간이라 성실하게 follow up
  • B-04. 석기명(sgm) : 주요언어Java, R/Python 사용가능, kmean/DBSCAN 사용 경험, CNN/RNN 배우고 싶음

[C팀] (DMS.Korea.C)

  • C-01. 전승유(jsy) : DB손해보험, 마키팅전략파트
  • C-02. 하진성(hjs) : Python, Java, sklearn, 영국 유학생, https://github.com/jha929
  • C-03. 최지원(cjw) : 은행 영업점에서 근무, 주요언어R, 은행들어오기 전 스타트업에서 데이터분석업무를 함
  • C-04. 김민주(kms) : 빅데이터 플랫폼 개발회사에서 데이터 분석 업무 담당, 주요언어 Python/R, 현재업무는 word2vec사용해서 키워드 분석
2019-07-26 공지사항

[대회 소개]

[대회 주요 일정]

  • 최종 submit : 2019년 10월 1일
  • 외부 데이터 등록 : 2019년 9월 24일
  • 팀merge 데드라인 : 2019년 9월 24일
  • 일 최대 submit 횟수 : 5번

[팀 정보]

  • 팀별 최대 인원수 : 5명
  • 팀1(DMS.Korea1) : 김윤영, 송현정, 최지원, 김민수
  • 팀2(DMS.Korea2) : 현종열, 양현일, 이윤선, 박민규, 장주호
  • 팀3(DMS.Korea3) : 전승유, 김민주, 석기명, 조승우

[스터디 일정] (*격주 토요일 오전 10시 시작)

  • 1회차(2019-08-10) : 대회소개 및 팀 나누기
  • 2회차(2019-08-24) : 데이터 탐색 공유
  • 3회차(2019-09-07) : 싱글 모델 공유
  • 4회차(2019-09-21) : 모델 앙상블 공유
  • 5회차(2019-10-05) : 팀별 마지막 공유 및 뒷풀이(기념사진촬영)
2019-07-24 공지사항

[단머스2기 지원자 현황]

  1. 현종열(o) : 단머스 모임장, DB손해보험, 디지털혁신파트
  2. 조승우(o) : 직장인, 주요언어Java, Python학습 중, 주요업무SM, SM 8년차
  3. 장주호(o) : 연세대 의예과 본과 1학년, 주요언어 Python/R, 사용패키지 사이킷런, 방학기간이라 성실하게 follow up
  4. 최지원(o) : 은행 영업점에서 근무, 주요언어R, 은행들어오기 전 스타트업에서 데이터분석업무를 함
  5. 김민주(o) : 빅데이터 플랫폼 개발회사에서 데이터 분석 업무 담당, 주요언어 Python/R, 현재업무는 word2vec사용해서 키워드 분석
  6. 전승유(o) : DB손해보험, 마키팅전략파트
  7. 양현일(o) : 우리은행, 데이터분석
  8. 이윤선(o) : 오렌지생명, 데이터분석
  9. 박민규(o) : AIA생명, 데이터분석
  10. 하진성(o) : Python, Java, sklearn, 영국 유학생, https://github.com/jha929
  11. 석기명(o) : 주요언어Java, R/Python 사용가능, kmean/DBSCAN 사용 경험, CNN/RNN 배우고 싶음
  12. 김민수(x) : 소프트웨어개발자, 주요언어c, Java/Python 등 다양하게 사용가능, Tensorflow기초, DNN/CNN 튜토리얼 학습함
2019-07-15 공지사항

[스터디원 모집공고]

  • 홍보 일정 : 2019년 7월 19일 ~ 2019년 7월 31일
  • 홍보 페이지 : OKKY, 아네모
  • 모집인원 : 0 명

[스터디 장소]

About

No description, website, or topics provided.

Resources

Readme
Activity
Custom properties

Stars

8 stars

Watchers

2 watching

Forks

4 forks
Report repository

Releases

No releases published

Packages

 
 
 

Contributors

Languages