• 목록
  • 아래로
  • 위로

안녕하세요??


주말 잘 보내고 계시는가요?? :)


Vultr의 크레딧을 거의 소모하여 iwinv 등 국내 업체로 이전을 하려고 하는데요 ^^


국내 업체는 대체로 사용한 트래픽에 따라 과금을 하는 체계이더군요 ㅎㄷㄷ


호스팅을 안 하고 크롤링 용도로만 사용하는 VPS의 트래픽이 얼마나 될지 궁금한데요~


1) requests를 사용하는 경우에는 이미지 파일을 굳이 저장하지 않는 이상 크롤링하는 웹페이지의 이미지는 트래픽에 포함되지 않는거죠??


2) selenium을 사용하는 경우에 다음과 같은 옵션으로 이미지 옵션을 꺼버리면 트래픽에서 이미지에 해당하는 용량을 제외할 수 있는거죠??


prefs = {"profile.managed_default_content_settings.images": 2}


그럼 남은 주말 잘 마무리하시고 다들 항상 건강하세요 :)


답변해주실 분들께 미리 감사드려요!! ^-^


작성자
이니스프리 119 Lv. (1%) 2543040/115200000EXP

Make StudyForUs Great Again!

 

CSVpuymXAAAVVpd.jpg

댓글 2

title: 황금 서버 (30일)humit
profile image

1) requests를 사용하는 경우에는 이미지 파일을 굳이 저장하지 않는 이상 크롤링하는 웹페이지의 이미지는 트래픽에 포함되지 않는거죠??

=> 네 이미지 트래픽은 포함되지 않습니다.

2) selenium을 사용하는 경우에 다음과 같은 옵션으로 이미지 옵션을 꺼버리면 트래픽에서 이미지에 해당하는 용량을 제외할 수 있는거죠??

=> 대부분의 이미지는 출력되지 않지만 favicon으로 사용되는 이미지의 경우에는 트래픽 요청에 포함되는 거 같습니다. 그냥 이미지 요청 자체를 보내지 않습니다.

직접 확인해보고 싶으시다면 wireshark와 같이 패킷을 캡쳐할 수 있는 도구로 http 패킷의 이동을 확인하실 수 있습니다. 패킷이 보기 어려우시다면 Fiddler나 burp suite 같은 프록시 툴을 사용해보는 것도 괜찮습니다.

comment menu
2020.03.31. 00:13

신고

"humit님의 댓글"

이 댓글을 신고 하시겠습니까?

이니스프리 작성자 → humit
profile image

설명해주셔서 감사합니다 :)

requests의 경우에는 이미지 트래픽이 포함되지 않지만, selenium의 경우에는 이미지 옵션을 꺼도 favicon의 트래픽은 포함되는군요!

패킷을 보는 툴이나 프록시 툴을 활용하는 방법도 알아봐야겠네요~

그럼 humit 님께서도 맛점 드시고 좋은 오후 되세요!

항상 감사드려요!! ^-^

comment menu
2020.03.31. 12:15

신고

"이니스프리님의 댓글"

이 댓글을 신고 하시겠습니까?

권한이 없습니다.
번호 제목 글쓴이 날짜 조회 수
공지 [1차 해결 및 추가] 서버 접속 불가 문제 안내 12 마스터 24.06.20.15:22 271
공지 [작업 완료] 설 명절 맞이 서버 업데이트 안내 3 마스터 24.02.11.17:21 2304
공지 [중요] 호스팅 만료와 관련하여 일부 수칙이 변경됩니다. 4 마스터 23.01.14.02:23 5992
공지 [필독] 질문하는 방법 17 마스터 18.02.23.03:09 4583
506 매번 마스터님께 질문만 드리기 그래서 여기다가 올려 봅니다...(동영상 스트리밍 서버) 2 비빅 16.10.11.10:07 291
505 '링 피트 어드벤처'가 정말 운동이 되는가요?? 4 이니스프리 20.01.11.12:41 290
504 아메트린 패널 ftp 주소 7 image 맛수타 17.05.14.11:25 290
503 개인 홈페이지를 만들려고 하는데 보통 이미지들 어디서 얻으시나요? 다 만들어서 쓸 수는 없을 것 같고.. 2 yuyu 21.12.31.12:53 289
502 크롤링과 관련해 질문 있습니다! 13 갱생협스 20.05.04.21:24 289
501 SSL 을 발급받았는데요.. 2 Hanam09 17.07.04.20:14 289
500 [404&403 에러] 흑흑 2 image 260578 18.04.10.22:00 288
499 SSH지원이 어디까지 되나요? 2 프요 17.07.02.13:39 288
498 웹사이트 연결하는거 도메인으로 하는거 아닌가요? 2 ㅇㅎㅅ 17.04.02.09:58 288
497 개인 서버 구축? 8 GsusWeb 20.07.03.12:46 287
496 윈도우 서버에 모니위키 설치 가능한가요? 6 제르엘 19.05.13.23:21 287
495 드롭다운 메뉴의 아이콘에 배경색이 칠해지지 않아요 6 image 국내산라이츄 19.04.07.03:29 287
494 WP에서 스팸....? 11 image 갱생협스 18.11.30.13:12 287
493 사이트 방문자수와 검색 노출 등에 관하여 질문 드립니다 14 이니스프리 18.10.22.22:23 287
492 Expert SSL과 부가서비스 SSL의 차이가 뭔가요? 2 엠씨 17.05.14.23:58 287
491 Vultr에서 Ubuntu LAMP 빠른 설치시 4 260578 23.06.14.23:32 286
490 노트북 사설 수리 업체 문의 드립니다 2 이니스프리 20.09.06.21:42 286
489 내 홈페이지는? 4 기특한크리퍼 17.09.15.10:02 286
488 지식없이 네이버 카페 대문을 제작해보려는데 너무 힘드네요. image 도바킨 18.07.26.01:29 285
487 워드프레스 이슈가 있는데... 3 image 국내산라이츄 23.03.12.02:42 284