Une meilleure approche consiste à remplacer les start_requests méthode.
Cela peut interroger votre base de données, un peu comme populate_start_urls
, et renvoie une séquence de Request
objets.
Il vous suffirait de renommer vos populate_start_urls
méthode pour start_requests
et modifiez les lignes suivantes :
for row in rows:
yield self.make_requests_from_url(row[0])