• 목록
  • 아래로
  • 위로

카이스트(솔직히 희망 사항이긴 합니다만)의 SW 특기자 전형으로 가기 위해서 지금 꽤나 미친 짓을 저질렀습니다.

딥러닝 챗봇을 만든다는 짓 말이죠!

image.png.jpg

저기 RC_~~ 되있는 건 레딧에서 직접 제공하는 레딧 코멘트 모음집입니다.

용량이 어...50기가..?

그정도 되는 방대한 양의 코멘트 데이터 베이스이고..

database.py는 코멘트 뽑아내서 DB파일로 확립시키는 용도고..

trainig_data.py는 DB파일을 바탕으로 회화를 학습하는 용도입니다.

물론 제 컴퓨터에서 이 짓을 제대로 하기는 어려워서 구글의 클라우드 서비스를 이용할 생각이고요!

얼른 완성하고 싶습니다..크흑..

작성자
BVC_Liper_Okbul 46 Lv. (48%) 172890/176720EXP

유튜브

 

이얏호!

댓글 14

NoYeah
profile image
화이팅 하세요!
comment menu
2020.08.02. 12:33

신고

"NoYeah님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → NoYeah
profile image
감사합니다아아!
comment menu
2020.08.02. 22:58

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

title: 황금 서버 (30일)humit
profile image
크게 2가지 테스크로 구분이 되겠네요. 첫 번째는 사용자가 입력한 문장을 분석하는 테스크이고, 두 번째는 해당 상황에 맞는 문장을 생성하는 테스크가 되겠네요.
두 테스크 모두 NLP에서 거의 핵심이 되는 내용입니다. 아마 사용한다면 두 테스크 모두 RNN 기반의 모델을 사용하거나 혹은 두 번째 테스크는 GAN 모델을 사용하셨을 가능성이 높아보입니다.

약간 비관적인 이야기이긴 하지만 좀 더 간단한 형태로 문제를 바꾸거나 혹은 다른 프로젝트로 넘어가는 것을 추천드리고 싶습니다.

솔직하게 말해서 구글에서 제공해주는 GCP 무료 크레딧 가지고는 두 테스크 모두 어려울 거라고 생각합니다. 그리고 그 과정이 쉬웠다면 아마 구글에서 이미 그 기능을 상품으로 내놓아서 판매를 하고 있었겠지요.. 당장 구글에서 제공하는 챗봇 플랫폼인 DialogFlow의 경우에도 사용자가 입력할만한 문장을 많이 입력해두고 문장에서 중요한 부분을 매개변수로 표시해서 수행을 해야 하는 수동적인 형태의 챗봇을 제공해주고 있습니다.
더구나 데이터셋의 경우에도 라벨링이 되지 않은 단순히 문장만 제공이 되기 때문에 두 번째 테스크는 어느 정도 사용이 가능하나 첫 번째 테스크에서는 사용이 불가한 데이터셋입니다. 만약 첫 번째 테스크에서도 사용하고 싶으시다면 수동으로 일일히 라벨링을 해주어야 하는데 용량이 저정도가 되면 혼자서는 거의 불가능하니까요.
예를 들어 날씨를 알려주는 기능을 포함한다고 하면 "오늘 날씨 어때?", "오늘 비 오니?", "주말에 맑은지 확인해줘" 등과 같은 문장을 날씨를 알려준다는 카테고리로 묶어야 하는데 해당 데이터셋에서는 그 정보가 포함되지 않으니까요.

특히나 1년 전 쯤에 세익스피어 문학 글을 테스트 셋으로 사용해서 Tensorflow를 사용해서 문장을 생성하도록 LSTM으로 구현해본 적이 있긴 했는데 그 때 잘못 학습이 된 경우엔 계속 the만 나오는 문제가 있었습니다.


SW 특기자 전형에는 도움이 되지는 않지만 꼭 인공지능과 관련된 내용을 포트폴리오로 작성하고 싶으시다면 차라리 기존에 나와 있는 모델에 대한 논문을 읽으시고 거기에서 개선을 할 만한 부분을 찾아서 성능을 비교하는 프로젝트를 해보시거나 혹은 어떤 식으로 바꾸는 것을 시도해서 성능은 어느 정도 되고 학습 속도가 어떻게 되는지에 대한 내용으로 보고서를 쓰는 것이 더 도움이 되지 않을까 싶습니다.첫 번째 테스크는 사용자가 입력한 문장을 분석하는 것이고, 두 번째 테스크는 해당 문장을 생성하는 것이겠네요.
comment menu
2020.08.02. 18:38

신고

"humit님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → humit
profile image
오오, 조언 감사드립니다.
그런데 솔직히 말이 포트폴리오지, 제 로망의 분출과 같은 형태다보니까..
잘 안되면 다른 요소를 이용해서 포트폴리오를 작성한다거나..뭐 그럴 생각이긴 합니다.

그리고 확실히 작업을 해보니까 힘들긴 힘들더군요.

+ GCP는..부모님의 도움으로 유료 전환을 한 상태입니다.
제가 원하는 형태가 되지 못하더라도 일단 노력이라도 해보려고 합니다.

허헛
comment menu
2020.08.02. 23:02

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘
profile image

딥러닝 챗봇 개발이라니 생각만 해도 끔찍하군요! 더군다나 전 지금 사실상 코딩은 손 놨기 때문에 더 끔찍하게 보입니다 ㅋㅋㅋ
+) 전 그냥 내신 성적도 망한 김에 수시 논술과 정시에 희망을 걸고 있습니다 ㅋㅋㅋ

comment menu
2020.08.02. 19:28

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → 제르엘
profile image
껄껄..전 지금 다 가망이 없어보여서!
comment menu
2020.08.02. 23:02

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘 → BVC_Liper_Okbul
profile image
comment menu
2020.08.03. 17:40

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → 제르엘
profile image
아르케이아..?
comment menu
2020.08.04. 23:22

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘 → BVC_Liper_Okbul
profile image
아마도 맞을겁니다...?
comment menu
2020.08.04. 23:51

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → 제르엘
profile image
허미...Lost 1이라니
comment menu
2020.08.05. 17:23

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘 → BVC_Liper_Okbul
profile image
사실 저거 Track Lost된 화면입니다(?)
comment menu
2020.08.05. 23:39

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

제르엘 → BVC_Liper_Okbul
profile image

히카리Zero 스킬 효과 때문에 하나만 놓쳐도 게이지가 0으로...

comment menu
2020.08.07. 23:04

신고

"제르엘님의 댓글"

이 댓글을 신고 하시겠습니까?

BVC_Liper_Okbul 작성자 → 제르엘
profile image
전 히카리 기본에서 벗어나질 못해서 그런게 있는지 몰랐네요..
comment menu
2020.08.08. 09:16

신고

"BVC_Liper_Okbul님의 댓글"

이 댓글을 신고 하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 [1차 해결 및 추가] 서버 접속 불가 문제 안내 13 마스터 마스터 24.06.20.15:22 753
공지 [작업 완료] 설 명절 맞이 서버 업데이트 안내 3 마스터 마스터 24.02.11.17:21 2688
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 마스터 23.01.14.02:23 6402
공지 낚시성 불법도박 홍보 게시글을 주의하세요. 9 image 네모 네모 22.08.09.18:13 1119
공지 슬기로운 포인트 벌이를 하는 법 (22.10.11 업데이트) 64 네모 네모 18.06.17.20:25 15826
2995 와우...... 포인트 복권........ 8 변사또 16.09.28.23:23 157
대입을 위한 포트폴리오 작업은 역시 힘듭니다. 14 image BVC_Liper_Okbul BVC_Liper_Okbul 20.08.02.11:35 156
2993 내일 MRI 검사 받으러 갑니다. 23 NoYeah NoYeah 20.05.25.18:05 156
2992 알림기능이 있다없으니 허전하네요.. 5 슬기 슬기 20.05.07.22:02 156
2991 모바일도 좋아졌네요 3 비누 20.05.05.18:32 156
2990 위키 아이디 분실 7 입체그림 20.01.29.17:21 156
2989 2020까지 1분전이네요... 2 Hanam09 Hanam09 19.12.31.23:59 156
2988 가입했습니다~ 6 갱생협스 갱생협스 19.12.03.04:46 156
2987 다시 오랜만에 글을 남깁니다. 10 image Seia Seia 19.08.27.04:32 156
2986 모질라 썬더버드는 특정 주소로 오는 메일만 받게 설정하는 게 안되나요? 국내산라이츄 국내산라이츄 19.08.12.10:58 156
2985 살다 보니 이런 날도 있군요 2 25 image 네모 네모 19.03.01.10:16 156
2984 후아~적용하고싶은 기능은 많은데 검색해봐도 나오지가않느뉴ㅠㅠ 2 슬기 슬기 19.02.13.23:27 156
2983 전략게임 상황입니다아아! 20 image BVC_Liper_Okbul BVC_Liper_Okbul 19.01.27.00:06 156
2982 시험 마지막날이 다가옵니다. 2 BVC_Liper_Okbul BVC_Liper_Okbul 18.12.18.23:28 156
2981 멀티플레이 구현 가장 큰 오류 해결 4 image BVC_Liper_Okbul BVC_Liper_Okbul 18.12.03.20:35 156
2980 테마 만드는건 어렵네요 9 joyful title: 에그joyful 18.11.20.18:43 156
2979 대회가 끝났군요.... 2 title: 대한민국 국기gimmepoint 18.11.17.16:11 156
2978 마우스로 인해 국제전화를 7 대전댁 title: 은메달대전댁 18.10.29.18:08 156
2977 인간혐오를 얻었습니다. 2 image 제르엘 제르엘 18.10.26.15:36 156
2976 이런저런 잡설 15 제르엘 제르엘 18.07.04.23:22 156