Mysql
 sql >> Base de données >  >> RDS >> Mysql

Python Scrapy - remplir les start_urls de mysql

Une meilleure approche consiste à remplacer les start_requests méthode.

Cela peut interroger votre base de données, un peu comme populate_start_urls , et renvoie une séquence de Request objets.

Il vous suffirait de renommer vos populate_start_urls méthode pour start_requests et modifiez les lignes suivantes :

for row in rows:
    yield self.make_requests_from_url(row[0])