• 목록
  • 아래로
  • 위로

안녕하세요?


벌써 2020년의 세번째 금요일이군요 ^^



우분투 VPS에서 크론탭으로 웹 크롤링 스크립트 등 자동화 스크립트를 여러 개 돌리고 있는데요.


물론 Requests로 모두 구현하면 이상적이겠지만, 아직 그 정도 실력이 못 되어서 Selenium도 많이 사용하고 있네요.


그런데 Selenium을 여러 개 띄우면 가뜩이나 VPS 사양도 낮은데 버벅거리는 문제가 있더군요.


스크립트를 종료할 때 driver.close()를 하면 모든 프로세스를 종료하지 않고 끝내는 경우가 생겨서 driver.quit()을 사용하려고 했는데요.


driver.quit()를 하면 동시에 실행 중인 다른 스크립트의 브라우저 탭까지 모두 닫는 것 아닌가요?? (=> 제가 알고 있는 내용이 맞는지요??)


이런 딜레마가 있어서 VPS를 하루에 2~3번 재부팅하고 있네요.


그런데 재부팅을 여러 번 하다보니 웹 서버로 사용하려면 24시간 구동되어야 한다는 취지에 반하는 점도 있구요.



정리하자면 driver.close()로는 모든 프로세스를 종료하지 않는 경우가 있어서 재부팅을 하다보니 


웹 서버를 비롯하여 장시간 구동해야 되는 서버로는 사용하기 애매하다는 것인데요.


이러한 딜레마를 해결하기 위해서는 어떻게 하는 것이 최선일까요??


대단한 것을 크롤링하는 것도 아니어서 가급적이면 크롤링 서버와 웹 서버를 분리하고 싶지는 않은데 말이죠 -_-;;;



그럼 즐거운 불금 되시고 감기 조심하세요 ^^


항상 감사드립니다!




작성자
이니스프리 119 Lv. (0%) 2220360/115200000EXP

Make StudyForUs Great Again!

 

CSVpuymXAAAVVpd.jpg

댓글 4

포인트 폭탄+
이니스프리님 축하합니다.
추가로 500포인트만큼 포인트 폭탄+를 받았습니다.
comment menu
2020.01.17. 14:37

신고

"포인트 폭탄+님의 댓글"

이 댓글을 신고 하시겠습니까?

삭제

"포인트 폭탄+님의 댓글"

이 댓글을 삭제하시겠습니까?

Hanam09
profile image

VPS 와 웹서버를 분리하면 될거같습니다.

자원이 필요하면 VPS에 요청하는 장식으로요

comment menu
2020.01.26. 13:02

신고

"Hanam09님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → Hanam09
profile image

감사합니다 ^^

결국 크롤링 서버와 웹 서버를 분리하는 것이 정답이군요!

그럼 즐거운 설 연휴 되세요~

comment menu
2020.01.26. 14:31

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

포인트 폭탄+ → 이니스프리
이니스프리님 축하합니다.
추가로 200포인트만큼 포인트 폭탄+를 받았습니다.
comment menu
2020.01.26. 14:31

신고

"포인트 폭탄+님의 댓글"

이 댓글을 신고 하시겠습니까?

삭제

"포인트 폭탄+님의 댓글"

이 댓글을 삭제하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 [작업 완료] 설 명절 맞이 서버 업데이트 안내 3 마스터 24.02.11.17:21 1042
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 23.01.14.02:23 4710
공지 [필독] 질문하는 방법 17 마스터 18.02.23.03:09 4482
666 리디렉션 형태가 여러가지가 있던데 설명좀 해주실분 계신가요? 4 참빛바다 18.01.01.20:00 351
665 아이고 자바스크립트 고수분들 도와주세요!!! 2 Hanam09 18.01.08.23:03 281
664 변수를 앞에다가 위치시켰는데 500 에러가 뜹니다.. 5 260578 18.01.10.13:10 247
663 에.. 죄송합니다. 이번이 세번째 질문이네요. 2 260578 18.01.11.16:31 213
662 윈도우용 메일 클라이언트가 필요합니다. 9 네모 18.01.11.20:15 5869
661 첨부 파일의 디자인을 변경하고 싶은데... 6 image title: 대한민국 국기Adam 18.01.12.08:53 659
660 무언가가 이상합니다. 3 260578 18.01.12.11:35 210
659 Cloudflare ssl 사용하려면 패널에서 따로 해줘야 할 것이 있나요? 2 참빛바다 18.01.12.11:57 263
658 htaccess 파일 관련 질문입니다. 2 Seia 18.01.13.07:59 269
657 워드프레스 호스팅 하는데 막혔습니다... 19 image MYIG 18.01.18.01:14 528
656 도메인 연장이 고민입니다. 3 260578 18.01.20.12:03 372
655 으앜! 살려주세요 7 title: 도밥위키!Dobob 18.01.20.19:22 264
654 SSL 관련 3 Seia 18.01.21.02:50 205
653 studyforus.com이 CNAME으로 연결이 되는 군요. 9 Seia 18.01.21.02:54 409
652 RSA 암호화를 구현하려고 하는데.... 7 Hanam09 18.01.24.14:20 578
651 어른패드의 상태가 이상합니다. 2 국내산라이츄 18.01.29.05:13 329
650 [완료] 사이트에 웹폰트를 추가하고 싶습니다. 14 image 제르엘 18.01.31.14:51 425
649 보안 오류 13 Hanam09 18.02.03.11:14 394
648 라이센스 표기 7 준그루 18.02.03.18:49 291
647 클론질라 dhcp서버 질문입니다 ㅠㅠ 14 크로스하트 18.02.05.18:47 587