홈>
스크래피가 처음입니다. 작업중 인 프로젝트에 대한 Indeed의 작업 사이트를 긁어 내려고합니다. Google Chrome inspect를 사용하여 긁는 방법에 대한 구문을 천천히 배우고 control-f를 누르십시오. 이 튜토리얼을 따라 갔다 :
https://www.digitalocean.com/community/tutorials/how-to-crawl-a-web-page-with-scrapy-and-python-3
기본적으로 페이지 당 16 개의 업체 정보를 얻으려고 노력하고 있습니다. 일반적으로 "
//span[@class="company"]/a/text()
이 시점까지의 코드는 다음과 같습니다.
import scrapy
class IndeedSpider(scrapy.Spider):
name='indeed_jobs'
start_urls = ['https://www.indeed.com/jobs?q=software%20engineer&l=Portland%2C%20OR']
def parse(self, response):
SET_SELECTOR = '.jobsearch-SerpJobCard'
for jobListing in response.css(SET_SELECTOR):
pass
아무것도 반환하지 않습니다. 16 행이 필요하므로 SET_SELECTOR가 올바르지 않습니다. 정말 감사하겠습니다!
- 답변 # 1
관련 자료
- 잘못된 결과를 반환하는 MySQL 스위치 사례
- python - 결과를 일으키는 올바른 오류를 모두 반환
- azure cosmosdb - 결과를 반환하지 않는 간단한 ST_WITHIN 쿼리
- php - Bcmath가 부정확 한 결과를 반환하는 이유
- python - scrapy crawler가 결과를 기하 급수적으로 집계하지 않도록하려면 어떻게합니까
- date - ssrs 2008 - 특정 개월이 매트릭스에 결과를 반환하지 않고 sql 쿼리 창에 결과가 표시되는 이유는 무엇입니까?
- azure - 포털 테스트보다 다른 결과를 반환하는 AzureSearchSDK
- 잘못된 결과를 반환하는 CUDA 프로그램
- JavaScript에서 동일한 입력으로 호출 될 때 다른 결과를 반환하는 스위치 문
- python - 결과 대신 Asyncio 및 aiohttp 반환 작업
- 소스 목록에 존재하지 않는 결과를 반환하는 Google 스프레드 시트 쿼리
- java - Bing Search API가 Android에서 결과를 반환하지 않음
- python - URL을 기준으로 Scrapy 결과 정렬
- angular - GQL이 결과를 반환하지 않음
- php - where 절을 사용할 때 mysqli가 결과를 반환하지 않습니다
- javascript - 몽고가 항상 올바른 결과를 반환하지는 않습니다
- 날짜 범위 쿼리에서 결과를 반환하지 않음 elasticsearch로 최대 절전 모드 검색
- c# - EF Core 22 저장 프로 시저 호출 0 개의 결과 반환
- python - 매끈한 복제 결과
- python - 스크립트에서 scrapy spider를 실행하면 importerror 오류 발생 - scrapy라는 모듈 없음
관련 질문
- 요청에 대해 파이썬에서 복잡한 POST 데이터를 나타내는 방법
- python - 스크래피가 빈 데이터 및 스크래핑 유지 오류를 건너 뛸 수 있습니까?
- Scrapy Python Output을 JSON 파일로 작성
- python - 여러 나누기 요소에 중첩 된 앵커 요소를 추출하는 방법
- python - 현재 연도에만 양식 데이터가있는 POST 요청
- python - beautifulSoup을 사용하여 태그에서 개별적으로 데이터를 스크랩하는 방법은 무엇입니까?
- web scraping - PYTHON을 사용하여 다음 목록에서 모바일 이름을 추출하려면 어떻게합니까?
- python - 불필요한 결과의 불필요한 행 청소
- python - BeautifulSoup으로 정확한 값을 긁는 데 어려움이 있습니다
- 웹 스크랩 핑 Python 스크립트는 오류나 결과를 제공하지 않습니다 요청 문제입니까 아니면 XPATH 문제입니까?
선택기가 올바르게 작동합니다. 와이즈 비즈 그러나 Scrapy 관련 변수는 아닙니다. 무엇이든 호출하거나 선택기 문자열을 함수 호출에 직접 넣을 수도 있습니다. 아무것도 반환되지 않는 이유도 아닙니다.
아무것도 반환하도록 지시하지 않았기 때문에 아무것도 반환하지 않습니다. 현재 코드에서 각 작업 섹션을 찾을 수 있습니다 (
SET_SELECTOR에서) 루프),하지만 당신은 아무것도하지 말라고 (for).다음은 각 직업마다 회사를 얻는 예입니다 :
import scrapy class IndeedSpider(scrapy.Spider): name='indeed_jobs' start_urls = ['https://www.indeed.com/jobs?q=software%20engineer&l=Portland%2C%20OR'] def parse(self, response): SET_SELECTOR = '.jobsearch-SerpJobCard' for jobListing in response.css(SET_SELECTOR): # Yield is necessary to return scraped data. yield { # And here you get a value from each job. 'company': jobListing.xpath('.//span[@class="company"]/a/text()').get('').strip() }사용 참고 XPath의 시작 부분에 그 이유는 문서에 있습니다. 그리고 나는 또한 기본.//를 추가했습니다 와이즈 비즈 해당 필드가 누락 된 경우 (문서)''오류가 발생하지 않습니다.그러나 누락 된 부분이 https://docs.scrapy.org/en/latest/intro/tutorial.html
에 설명되어 있으므로 먼저 Scrapy 공식 자습서를 통해 작업하는 것이 좋습니다.get()