• 목록
  • 아래로
  • 위로

안녕하세요??


주말 잘 보내고 계시는가요?? :)


Vultr의 크레딧을 거의 소모하여 iwinv 등 국내 업체로 이전을 하려고 하는데요 ^^


국내 업체는 대체로 사용한 트래픽에 따라 과금을 하는 체계이더군요 ㅎㄷㄷ


호스팅을 안 하고 크롤링 용도로만 사용하는 VPS의 트래픽이 얼마나 될지 궁금한데요~


1) requests를 사용하는 경우에는 이미지 파일을 굳이 저장하지 않는 이상 크롤링하는 웹페이지의 이미지는 트래픽에 포함되지 않는거죠??


2) selenium을 사용하는 경우에 다음과 같은 옵션으로 이미지 옵션을 꺼버리면 트래픽에서 이미지에 해당하는 용량을 제외할 수 있는거죠??


prefs = {"profile.managed_default_content_settings.images": 2}


그럼 남은 주말 잘 마무리하시고 다들 항상 건강하세요 :)


답변해주실 분들께 미리 감사드려요!! ^-^


작성자
이니스프리 119 Lv. (1%) 2545640/115200000EXP

Make StudyForUs Great Again!

 

CSVpuymXAAAVVpd.jpg

댓글 2

title: 황금 서버 (30일)humit
profile image

1) requests를 사용하는 경우에는 이미지 파일을 굳이 저장하지 않는 이상 크롤링하는 웹페이지의 이미지는 트래픽에 포함되지 않는거죠??

=> 네 이미지 트래픽은 포함되지 않습니다.

2) selenium을 사용하는 경우에 다음과 같은 옵션으로 이미지 옵션을 꺼버리면 트래픽에서 이미지에 해당하는 용량을 제외할 수 있는거죠??

=> 대부분의 이미지는 출력되지 않지만 favicon으로 사용되는 이미지의 경우에는 트래픽 요청에 포함되는 거 같습니다. 그냥 이미지 요청 자체를 보내지 않습니다.

직접 확인해보고 싶으시다면 wireshark와 같이 패킷을 캡쳐할 수 있는 도구로 http 패킷의 이동을 확인하실 수 있습니다. 패킷이 보기 어려우시다면 Fiddler나 burp suite 같은 프록시 툴을 사용해보는 것도 괜찮습니다.

comment menu
2020.03.31. 00:13

신고

"humit님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → humit
profile image

설명해주셔서 감사합니다 :)

requests의 경우에는 이미지 트래픽이 포함되지 않지만, selenium의 경우에는 이미지 옵션을 꺼도 favicon의 트래픽은 포함되는군요!

패킷을 보는 툴이나 프록시 툴을 활용하는 방법도 알아봐야겠네요~

그럼 humit 님께서도 맛점 드시고 좋은 오후 되세요!

항상 감사드려요!! ^-^

comment menu
2020.03.31. 12:15

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 [1차 해결 및 추가] 서버 접속 불가 문제 안내 12 마스터 24.06.20.15:22 324
공지 [작업 완료] 설 명절 맞이 서버 업데이트 안내 3 마스터 24.02.11.17:21 2351
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 23.01.14.02:23 6041
공지 [필독] 질문하는 방법 17 마스터 18.02.23.03:09 4596
506 안녕하세요. 영카트(그누보드) 관련 질문입니다. 이미지가 활성화 되질 않고 있습니다. 5 image 정다성 18.09.21.16:33 503
505 택배 추적? 택배 기록 앱 뭐가 좋을까요? 7 네모 18.09.28.18:53 294
504 [해결됨]별칭 도메인 관련해서 질문 다시 올립니다 8 260578 18.09.29.20:43 199
503 파일질라는 접속하면 폴더지정이 안되나요? 2 슬기 18.09.30.23:48 214
502 서버의 구성에 관련하여 질문드립니다 7 Seia 18.10.03.03:07 172
501 이미지 업로드시 리사이징 없이 업로드 방법있나요? 5 슬기 18.10.03.18:04 172
500 호스팅 사용중 연장 질문 2 퓨처마츠 18.10.03.19:29 166
499 왜 혼자 뻗을까요? 2 모니터 18.10.03.22:02 184
498 삼성 덱스에 대해 궁금한게 있어요! 13 title: 에그joyful 18.10.04.16:33 249
497 호스팅 신청하려고 하는데... 7 Nginx 18.10.04.20:11 182
496 킁.. 여전히 혼자 사망한 사이트.. 15 모니터 18.10.06.08:07 280
495 우분투에서 NTP 서버와 시간 동기화 관련하여 질문 드립니다. 4 image 이니스프리 18.10.11.01:32 502
494 네트워크공유관련 제발좀 도와주세요!!! 16 김경민 18.10.11.18:43 571
493 키감 가벼운 워드용 키보드 추천 부탁드립니다 16 이니스프리 18.10.12.13:51 2490
492 결정장애 11 OAUTH2 18.10.13.14:48 201
491 개발자도구의 콘솔창에서 iframe 내의 소스를 가져오는 방법에 대해 질문 드립니다 11 이니스프리 18.10.14.09:21 2013
490 라떼판다와 라즈베리 파이 중 어느 쪽을 사는 게 나을까요? 9 제르엘 18.10.14.19:25 3853
489 studyforus 타 인증기관 인증서 설치 7 nx_OP 18.10.18.17:35 195
488 어떻게 하면 제 페이지에 들어갈 수 있을까요? 4 image studyHTML 18.10.18.21:43 183
487 후이즈 도메인 3년 연장 하자마자 이상한일이... 3 참비 18.10.21.01:09 240