홈>
스크래피가 처음입니다. 작업중 인 프로젝트에 대한 Indeed의 작업 사이트를 긁어 내려고합니다. Google Chrome inspect를 사용하여 긁는 방법에 대한 구문을 천천히 배우고 control-f를 누르십시오. 이 튜토리얼을 따라 갔다 :
https://www.digitalocean.com/community/tutorials/how-to-crawl-a-web-page-with-scrapy-and-python-3
기본적으로 페이지 당 16 개의 업체 정보를 얻으려고 노력하고 있습니다. 일반적으로 "
//span[@class="company"]/a/text()
이 시점까지의 코드는 다음과 같습니다.
import scrapy
class IndeedSpider(scrapy.Spider):
name='indeed_jobs'
start_urls = ['https://www.indeed.com/jobs?q=software%20engineer&l=Portland%2C%20OR']
def parse(self, response):
SET_SELECTOR = '.jobsearch-SerpJobCard'
for jobListing in response.css(SET_SELECTOR):
pass
아무것도 반환하지 않습니다. 16 행이 필요하므로 SET_SELECTOR가 올바르지 않습니다. 정말 감사하겠습니다!
- 답변 # 1
관련 자료
- hadoop2 - Hive의 Left Join이 예상 한 결과를 반환하지 않습니다
- 한 테이블에서 결과를 반환하는 MySQL은 다른 테이블에 데이터가 있는지에 따라 다릅니다 (마스터 범주)
- JavaScript에서 동일한 입력으로 호출 될 때 다른 결과를 반환하는 스위치 문
- python - 결과를 일으키는 올바른 오류를 모두 반환
- 잘못된 결과를 반환하는 CUDA 프로그램
- azure - 포털 테스트보다 다른 결과를 반환하는 AzureSearchSDK
- date - ssrs 2008 - 특정 개월이 매트릭스에 결과를 반환하지 않고 sql 쿼리 창에 결과가 표시되는 이유는 무엇입니까?
- python - scrapy crawler가 결과를 기하 급수적으로 집계하지 않도록하려면 어떻게합니까
- php - Bcmath가 부정확 한 결과를 반환하는 이유
- azure cosmosdb - 결과를 반환하지 않는 간단한 ST_WITHIN 쿼리
- 날짜 범위 쿼리에서 결과를 반환하지 않음 elasticsearch로 최대 절전 모드 검색
- python - 결과 대신 Asyncio 및 aiohttp 반환 작업
- c# - EF Core 22 저장 프로 시저 호출 0 개의 결과 반환
- 8thwall web - XrControllerhitTest가 ESTIMATED_SURFACE 또는 DETECTED_SURFACE 결과를 반환하지 않습니다
- python - CSS 클래스로 필터링 할 때 왜 scrapy와 beautifulsoup이 아무것도 반환하지 않습니까?
- sql server - 가입시 상위 1 개가 결과를 반환하지 않음
- xml - CURL과 Postman은 동일한 요청에 대해 서로 다른 두 가지 결과를 반환
- sql - 결과를 반환하지 않는 저장 프로 시저
- tsql - SQL Server에서 다른 결과를 반환하는 View의 개수 (*)
- python - sqlite 쿼리 - 0 개의 결과를 반환하는 select from
관련 질문
- python : csv.writer가 to_csv보다 훨씬 빠릅니까?
- python : 목록 및 오류에서 요소를 검색 할 수 없습니다
- python : 이 오류가 있습니다.
- python : 목록의 요소를 다차원 목록에 추가
- python : 목록 안에있는 사전 내부에있는 웹 스크래핑 정보 방법
- python : Wikipedia의 데이터 추출 파이썬을 사용하여 TXT 파일로 데이터 추출
- python : 잘하면 내 Webscraper와 마지막 질문
- python : 이 라인을 파이썬에서 셀레늄으로 스크랩하는 방법?
- 웹 스크래핑 파이썬 (동적 HTML /JavaScript 테이블)
- Python의 검색 엔진에서 웹 사이트 목록을 어떻게 반복 할 수 있습니까?
선택기가 올바르게 작동합니다. 와이즈 비즈 그러나 Scrapy 관련 변수는 아닙니다. 무엇이든 호출하거나 선택기 문자열을 함수 호출에 직접 넣을 수도 있습니다. 아무것도 반환되지 않는 이유도 아닙니다.
아무것도 반환하도록 지시하지 않았기 때문에 아무것도 반환하지 않습니다. 현재 코드에서 각 작업 섹션을 찾을 수 있습니다 (
SET_SELECTOR에서) 루프),하지만 당신은 아무것도하지 말라고 (for).다음은 각 직업마다 회사를 얻는 예입니다 :
import scrapy class IndeedSpider(scrapy.Spider): name='indeed_jobs' start_urls = ['https://www.indeed.com/jobs?q=software%20engineer&l=Portland%2C%20OR'] def parse(self, response): SET_SELECTOR = '.jobsearch-SerpJobCard' for jobListing in response.css(SET_SELECTOR): # Yield is necessary to return scraped data. yield { # And here you get a value from each job. 'company': jobListing.xpath('.//span[@class="company"]/a/text()').get('').strip() }사용 참고 XPath의 시작 부분에 그 이유는 문서에 있습니다. 그리고 나는 또한 기본.//를 추가했습니다 와이즈 비즈 해당 필드가 누락 된 경우 (문서)''오류가 발생하지 않습니다.그러나 누락 된 부분이 https://docs.scrapy.org/en/latest/intro/tutorial.html
에 설명되어 있으므로 먼저 Scrapy 공식 자습서를 통해 작업하는 것이 좋습니다.get()